Одним из самых первых архитектурных сооружений города Семей дошедших до нашего времени - являются Ямышевские ворота. Это фортификационное сооружение признано памятником архитектуры XVIII века.
Ворота выстроены из горного плитняка и обожженного кирпича в виде массивной арки со сводчатым потолком и карнизами простого рисунка. Двухметровой толщины стены арки имеют глубину около 10 м. Закругляясь вверху, они образовывают что-то вроде маленького тоннеля. Длина ворот составляет 7,27 м, ширина - 7,79 м, максимальная высота 7,43 м. При их строительстве всего было уложено 203 куб. метра кирпича. Вид Ямышевских крепостных ворот полностью реконструирован, они укреплены железными петлями и замком. Возле самых крепостных ворот, как и раньше стоят пушки.
У Ямышевских ворот есть своя необычная история и нелегкая судьба. Ворота являются единственной уцелевшей частью когда то грозной Семипалатной крепости построенной здесь в 1718 году по приказу Петра I. Изначально крепость была заложена немного в другом месте, но из-за постоянных весенних разливов реки Иртыш, место крепости менялось трижды в течение 60-ти лет. Наконец в 1718 году инженерам и строителям удалось найти наиболее безопасное возвышенное место и крепость была построена, теперь здесь расположен наш казахстанский город Семей. Крепость была расположена на правом возвышенном берегу реки и обнесена высокой деревянной стеной со рвами и земляными валами под стенами. За долгие годы своего существования крепость неоднократно перестраивалась и укреплялась. В 1773 году ворота и крепостные стены возводились под руководством и по проекту инженера - капитана Андреева И.Г. Построенная по всем правилам военной науки того времени Семипалатная крепость, имела два вооруженных пушками бастиона и трое ворот: Ямышевские, обращенные в сторону Омска, Семипалатинские, выходившие к крутому берегу Иртыша, и Усть-Каменогорские - восточные ворота. Из трех ворот до наших дней сохранились одни западные, но и их ждала не легкая судьба.
В начале XX века крепость уже утратила своё военное значение, однако некоторые её части в том числе и Ямышевские ворота было решено сохранить именно как архитектурные памятники. Однако, с приходом советской власти отношение к памятникам прошлого сильно изменилось и в 1932 году поднимается вопрос о сносе Ямышевских ворот, тогда все закончилось лишь разговорами и ворота уцелели. В 1941 году Горсовет выносит решение о сносе, мотивируя "отсутствием за Ямышевскими воротами большого исторического значения и неудачное их расположение, которое нарушает планировку одной из центральных улиц г. Семипалатинска, предполагаемой к реконструкции". Начинается долгая борьба общественности и местных краеведов за сохранение этого памятника. Уже перед самой войной 29 мая 1941 года было принято решение "О ремонте и реставрации Ямышевских ворот", "...за счёт доходов арендной платы за торгово-промышленные и конторские помещения, которые по расходам бюджета идут на ремонт мунфонда...", в III квартале 1941 года. Так, в нелегкое время все таки, удалось отстоять этот памятник архитектуры. Увы, ненадолго, в 1970 году ворота стали мешать строительству туннеля для подъезда к железной дороге, в связи с чем было принято решение перенести их на 50 метров ближе к реке Иртыш. Ворота разобрали и построили заново укрепив фундамент, строителям удалось сохранить их внешний облик, но это к сожалению уже не тот подлинный исторический памятник.
В центре города Семей на улице Абая 50, расположен один из один из красивейших в городе памятников архитектуры республиканского значения - Двухминатерная соборная мечеть. Она была построена в 1856-1862 годах и является образцом культовой мусульманской архитектуры ХІХ века.
В центральной части современного города Тараз Жамбыльской области, находится мавзолей Дауытбека Шамансура. Этот мавзолей был возведен над могилой одного из монгольских наместников Улуг-Бильге-Икбалхан Дауытбека. Среди местного населения это памятник архитектуры больше всего известен под названием мавзолея Шамансура.