19 октября 1942 года ГКО принял решение о создании самоходных артиллерийских установок — легких с 37-мм и 76-мм орудиями и средних со 122-мм орудием. Создание опытных образцов средних самоходок возлагалось на Уралмашзавод и на завод № 592 Наркомата вооружения.

Незадолго до этого, в июне — августе 1942 года, артиллерийским заводом № 9 в Свердловске (ныне Екатеринбург) был разработан эскизный проект самоходной установки 122-мм гаубицы М-30 на шасси танка Т-34. Опыт, полученный при этом проектировании, позволил составить очень подробные тактико-технические требования на среднюю САУ со 122-мм орудием. Эти требования были приложены к постановлению ГКО и обязывали при проектировании предусмотреть использование без изменений большого количества агрегатов орудия: всей ствольной группы противооткатных устройств, верхнего станка, механизмов наведения и прицельных приспособлений. Чтобы выполнить эти условия, установку орудия нужно было произвести на тумбе, прикрепленной к днищу машины; длину отката орудия оставить неизмененной, равной 1100 мм (при этом цилиндры противооткатных устройств выступали впереди лобового листа корпуса на значительную длину).

Тактико-технические требования на среднюю САУ также обязывали полностью сохранить все моторно-трансмиссионные агрегаты танка Т-34. Масса самоходной артиллерийской установки не должна была превышать массу танка.

Для выполнения решения ГКО приказом наркома танковой промышленности от 22 октября 1942 года на Уралмашзаводе была организована специальная конструкторская группа в составе Н. В. Курина, Г. Ф. Ксюнина, А. Д. Неклюдова, К. Н. Ильина, И. И. Эммануилова, И. С. Сазонова и др. Руководство всеми работами по проектированию и изготовлению САУ осуществляли Л. И. Горлицкий и заместитель наркома танковой промышленности Ж. Я. Котин.

Установке был присвоен заводской индекс У-35, но впоследствии по указанию ГАБТУ Красной Армии индекс был изменен на СУ-122. На создание машины давался очень короткий срок: все работы по проектированию и изготовлению опытного образца нужно было выполнить в течение месяца, то есть к 20 ноября 1942 года, поскольку уже 25 ноября должны были начаться государственные испытания.

После того как конструкторский отдел «Уралмаша» закончил рабочий проект САУ, межведомственная комиссия представителей ГАУ и НКТП подробно его рассмотрела. Кроме того, рассматривался и проект, выполненный ранее заводом № 9, поскольку на изготовление самоходок по своим проектам претендовали оба завода. Комиссия рекомендовала для производства проект Уралмашзавода, поскольку он имел лучшие технические показатели.

Для сокращения времени изготовления опытного образца самоходки разработка чертежей происходила в тесном контакте конструкторов и технологов. Чертежи на все крупные и трудоемкие детали были переданы в цеха на изготовление раньше, чем была закончена вся конструкторская работа. За сроками и качеством изготовления основных узлов и деталей велся тщательный контроль.

Вследствие короткого срока, отведенного на выполнение задания, не была возможности изготовить все необходимые приспособления и оснастку, поэтому создание опытного образца шло с применением большого количества пригоночных работ. Оснастка в полном комплекте проектировалась параллельно и предназначалась для последующего серийного производства.

30 ноября 1942 года была закончена сборка опытного образца, и в тот же день проведены заводские испытания пробегом на 50 км и стрельбой 20 выстрелами на заводском полигоне в Красном. После них в конструкцию самоходки были внесены только те доделки и исправления, которые были необходимы для госиспытаний. Все остальные недостатки, а также пожелания по улучшению конструкции САУ были учтены при отработке чертежей опытной серии.

В период с 5 по 19 декабря 1942 года на Гороховецком полигоне проводились государственные испытания двух образцов самоходных установок, изготовленных заводом № 592 и Уралмашзаводом, с целью определить их тактико-технические показатели и подготовить материал для решения вопроса о принятии одного из образцов на вооружение Красной Армии. Следует отметить, что завод № 592 согласно заданию разработал проект и изготовил опытный образец 122-мм САУ с использованием базы трофейного немецкого среднего танка PzKpfw IV.

Самоходная установка У-35 (СУ-122) была испытана 281 выстрелом (из них 161 — с усиленным зарядом) и 430-километровым пробегом.

В общей сравнительной оценке обоих представленных образцов государственная комиссия пришла к заключению о необходимости доработать самоходку СУ-122, чтобы устранить ряд выявленных в ходе испытаний недостатков и главным образом тесноту в боевом отделении, но вместе с тем рекомендовала принять ее на вооружение Красной Армии.

2 декабря 1942 года ГКО, не дожидаясь результатов госиспытаний, вынес постановление о немедленной организации серийного производства СУ-122 на Уралмашзаводе. Было разрешено изготовить первые 125 машин по чертежам опытного образца, и только с февраля 1943 года выпускать самоходки с устранением всех недостатков, отмеченных Государственной комиссией. Однако завод уже в декабре выполнил чертежи, которые устраняли большинство дефектов, и по ним начал изготавливать машины серийного производства. К внесенным изменениям относились: установка выпрямленного лобового листа рубки, что увеличило объем боевого отделения и улучшило условия работы экипажа; устранение щелей в бронезащите; улучшение расположения в боевом отделении боеукладки, рабочих мест экипажа, прицельных и смотровых приборов, приборов освещения, люков и др.; замена командирской башенки на прибор ПТК; увеличение емкости топливных баков; уменьшение усилий при работе маховиками механизмов наведения; улучшение условий при работе по натяжению гусеницы и др.

28 декабря 1942 года на заводском полигоне были произведены испытания одной из машин установочной декабрьской программы, которые заключались в пробеге на 50 км и стрельбе в 40 выстрелов. Никаких поломок и других недостатков во время испытаний отмечено не было. В результате вся установочная партия самоходок в количестве 25 штук была признана годной для принятия на вооружение Красной Армии и отправлена в учебный центр самоходной артиллерии.

Первые самоходно-артиллерийские полки (1433-й и 1434-й) были сформированы в декабре 1942 года в составе шести батарей каждый и имели смешанный состав. Четыре батареи в полку имели на вооружении по четыре легких САУ СУ-76 и две батареи — по четыре установки СУ-122. В каждой батарее было два взвода по две установки. Для командиров батарей машины не предусматривалось. Всего на вооружении полка состояло 17 САУ СУ-76 (в том числе одна самоходка командира полка) и восемь СУ-122.

Полки САУ предназначались для передачи в танковые и механизированные корпуса. Однако в связи с начавшейся операцией по прорыву блокады Ленинграда они были отправлены в конце января 1943 года на Волховский фронт. Первый бой новые полки приняли 14 февраля в тактической операции 54-й армии в районе Смердыни. За 4-6 дней боев самоходки обоих полков разрушили 47 дзотов, подавили 6 минометных батарей, уничтожили 14 противотанковых орудий, сожгли 4 склада боеприпасов. В ходе обучения и боевых действий была разработана тактика применения самоходной артиллерии, сохранившаяся затем до конца войны. Она состояла в том, что САУ, двигаясь за танками на расстоянии 400-600 м, входили в прорванную танками полосу обороны противника и уничтожали оставшиеся там вражеские танки или укрепленные точки и окончательно расчищали путь пехоте.

Окончательно отработанная конструкция серийной САУ СУ-122 имела следующие особенности: вся моторно-трансмиссионная группа и ходовая часть танка Т-34 сохранились без изменений; боевое отделение располагалось в передней части машины и было полностью бронировано; боевая масса самоходной установки — 29,6 т — была меньше массы танка Т-34, а скорость движения, проходимость и маневренность СУ-122 остались такими же, как и у Т-34. Штыревой верхний станок от 122-мм полевой гаубицы образца 1938 года М-30 ставился в гнездо специальной тумбы, смонтированной в передней части днища корпуса. На цапфах станка крепилась качающаяся часть гаубицы, причем ствол, люлька, противооткатные устройства, прицел и механизмы наведения были взяты штатные, без изменений. Необходимость бронирования качающейся части потребовала усиления пружинного уравновешивающего механизма, что было сделано без изменения его габаритов.

Боекомплект состоял из 40 выстрелов раздельно-гильзового заряжания, причем в основном это были осколочно-фугасные выстрелы. В отдельных случаях для борьбы с танками противника на дальностях до 1000 м применялись кумулятивные снаряды массой 13,4 кг, способные пробивать броню в 100-120 мм. Масса осколочно-фугасного снаряда составляла 21,7 кг. Для самообороны экипажа установка снабжалась двумя пистолетами-пулеметами ППШ с 20 дисками патронов (1420 штук) и 20 ручными гранатами Ф-1. У командира машины имелся перископический танковый прибор наблюдения ПТК-5, позволявший производить круговое наблюдение за местностью, и радиостанция 9РМ. Командир машины помимо своих прямых обязанностей выполнял работу правого наводчика по углу возвышения.

Для стрельбы прямой наводкой и с закрытых огневых позиций использовался один панорамный прицел с полунезависимой линией прицеливания. Головка панорамы выходила под бронированный козырек корпуса, имевший боковые отверстия для обзора местности, которые при необходимости могли закрываться шарнирными крышками. Относительно большой состав экипажа (5 человек) был необходим, потому что 122-мм гаубица имела поршневой затвор, раздельное заряжание и разнесенный по обе стороны орудия механизм наведения (слева находился маховик винтового поворотного механизма, а справа — маховик секторного подъемного механизма). Орудие имело угол горизонтального наведения 20° (по 10° на сторону) и вертикальный угол от +25° до -3°. В целом общее число деталей, заимствованных у танка Т-34, составляло 75 %; остальные были новыми, специально спроектированными для СУ-122.

Производство СУ-122 продолжалось на Уралмашзаводе с декабря 1942 года по август 1943 года. За это время завод выпустил 638 самоходных установок этого типа.

Параллельно с разработкой чертежей серийной самоходной установки еще в январе 1943 года начались работы над ее кардинальным усовершенствованием. В процессе этих работ было установлено, что лучшим решением является установка гаубицы в рубке САУ не на тумбе, а в маске. Крепление орудия к лобовому листу корпуса значительно увеличивало полезный объем боевого отделения. Добиться большей компактности артсистемы можно было уменьшением длины отката пушки с 1100 до 600 мм, т. е. требовалось создать новое орудие, специально приспособленное для самоходной артиллерийской установки. Разработку и производство пушки взял на себя завод № 9. В апреле 1943 года была изготовлена опытная САУ СУ-122М с новым орудием Д-11. Ее конструкция имела ряд преимуществ по сравнению с СУ-122. Боевое отделение увеличилось за счет расширения стенок до габаритов гусеницы и увеличения корпуса по высоте на 50 мм. Гаубица Д-11 устанавливалась вместе с люлькой в раму, вращавшуюся в цапфах и прикрепленную только к лобовому листу без связи с днищем и бортами. Орудие было самоуравновешено в цапфах и устанавливалось со смещением назад, что улучшало условия работы передних опорных катков ходовой части. Для более эффективной стрельбы прямой наводкой был установлен телескопический прицел.

Государственные испытания СУ-122М стрельбой проводились с 18 по 23 июня 1943 года на полигоне под Нижним Тагилом. Было произведено 329 выстрелов. Ходовые испытания проходили на трассах Свердловск — Нижний Тагил и Свердловск — Челябинск, на которых было пройдено 858 км. Государственная комиссия признала необходимым внести в конструкцию некоторые изменения для ее дальнейшего улучшения, но в общей оценке вынесла заключение, что самоходка может быть принята на вооружение самоходных артиллерийских частей Красной Армии.

Все замечания комиссии были реализованы на новом опытном образце САУ СУ-122-111, вооруженном 122-мм гаубицей Д-6 завода № 9. В конце июля — начале августа 1943 года эта машина вместе с тремя опытными образцами самоходок, вооруженных 85-мм пушками, проходила испытания на Гороховецком полигоне. В ходе испытаний у гаубицы Д-6 выявились существенные недостатки, и СУ-122-111 была снята с испытаний.

Что касается серийной СУ-122, то с апреля 1943 года началось формирование самоходно-артиллерийских полков с однотипными машинами. В таком полку имелось 16 САУ СУ-122, которые вплоть до начала 1944 года продолжали использоваться для сопровождения пехоты и танков. Однако такое применение ее было недостаточно эффективным из-за малой начальной скорости снаряда — 515 м/с — и, следовательно, малой настильности ее траектории. Поступавшая в войска с августа 1943 года в значительно больших количествах новая самоходная артиллерийская установка СУ-85 быстро потеснила свою предшественницу на поле боя.