Свято-Казанский храм иконы Божией Матери является памятником архитектуры Республики Казахстан государственного значения. Помимо культурного значения храм является духовным центром для всех православных жителей города - это единственный действующий православный храм города Кзылорды и Кзылординской области.
Строительство православного храма в городе Перовске (Кзылорда) имеет свою интересную предысторию. Первая православная церковь в городе, освящена 15 октября 1855 года, это был походный храм который представлял собой обычный шатёр.
В 1863 году была построена церковь из сырцового кирпича с крышей из кошмы, однако в 1868 году она была размыта дождём. В том же году было построено здание церкви, также сложенное из сырцового кирпича, но на фундаменте сделанным из жжёного кирпича, а кровля была крыта листовым железом. Это здание служило верующим до постройки Свято-Казанского храма иконы Божией Матери, после чего оно было разобрано. На месте алтаря старого здания была установлена часовня, которая до настоящего времени не сохранилась.
Строительство здания церкви началось в 1890 году и продолжалось более пяти лет. Храм строился по проекту местного архитектора Есакова, самим процессом строительства руководил инженер Калинин. Однако, в ряде других исторических источников в связи с проектом храма упоминается известный ташкентский архитектор В. С. Гейнцельман, разработавший типовые проекты церквей для русских поселений Сырдарьинской области, один из которых и мог быть адаптирован для Свято-Казанского храма.
Храм был построен из жжённого кирпича жёлтого цвета, изготовленного в Казалинске, расположенном более чем в 300 км от места строительства. Освящение нового храма состоялось 6 декабря 1896 года. Строительство церкви обошлось в 35 тысяч рублей, из которых 5 тысяч были собраны жителями Перовска (Кзылорды), а остальные были отпущены из государственной казны.
В церкви имелось 9 колоколов, самый крупный их которых имел вес 136 пудов. Интересным фактом является то, что до декабря 1906 года церковь состояла в ведении военного ведомства, то есть считалась полковой, после чего была передана в ведение церковной епархии.
К сожалению, с приходом советской власти Свято-Казанский храм постигла судьба многих культовых сооружений, в середине 1930-ых годов храм был закрыт. В здании церкви был размещен пункт приёма спецпереселенцев, затем здесь была обсерватория, а позднее областной краеведческий музей.
В 1982 году музей переехал в более удобное помещение. Здание церкви было объявлено памятником архитектуры республиканского значения, но денег на реставрацию выделено не было, оно было просто закрыто и не использовалось
Только в мае 1989 года решением горисполкома города Кзылорды храм был передан в ведение Русской православной церкви. Большая часть росписи храма за годы его бездействия была утрачена, а описаний, по которым её можно было бы восстановить, не сохранилось. Уцелела лишь небольшая часть церковной утвари и несколько икон.
Восстановление храма осуществлялось за счёт прихожан, а также меценатов из других регионов и государств. На куполах были восстановлены кресты. Новая роспись храма была выполнена казахстанскими художниками. Были установлены колокола, изготовленные мастерами Шуваловыми из Ярославля, поразительно но до этого в течении нескольких лет в качестве колоколов использовались обрезанные кислородные баллоны.
В 2008 году во время проведения очередных работ крыша храма была покрыта золочёным железом, до этого она просто окрашивалась в голубой цвет. В настоящее время сотрудники РГП «Казреставрация» вновь готовятся к реставрационным работам в Свято-Казанском храме. Специалисты изучают материалы, из которых здание построено, делают сложные анализы, советуются, где взять идентичные, чтобы добиться максимального качества работ.