Почти одновременно с ИС-1 началось производство более мощно вооруженной модели ИС-2 (объект 240). Только что созданная 122-мм танковая пушка Д-25Т (первоначально имевшая поршневой затвор) с начальной скоростью снаряда 781 м/с позволяла поражать все основные типы немецких танков на всех дистанциях боя. В опытном порядке на танке ИС устанавливались 85-мм пушка большой мощности с начальной скоростью снаряда 1050 м/с и 100-мм пушка С-34.

В октябре 1943 года под руководством Н. Ф. Шашмурина была осуществлена проработка варианта танка ИС с более мощной танковой пушкой Д-25 калибра 122 мм. После успешного завершения государственных испытаний танк был отправлен на испытательный полигон под Москвой, где из его пушки с расстояния 1500 м произведен обстрел немецкого танка Pz. Kpfw. V «Пантера». Первый же снаряд пробил лобовую броню «Пантеры» и, не утратив своей энергии, прошил все внутренности, ударил в кормовой лист корпуса, оторвал его и отбросил на несколько метров.

Под маркой ИС-2 в октябре 1943 года танк был принят в серийное производство, которое было развернуто в начале 1944 года. При массе в 44 т, незначительно превосходившей массу танка КВ-1с, новая боевая машина имела более толстую броню. Башня, лобовая деталь и подбашенная часть корпуса выполнялись литыми. Установка малогабаритных планетарных механизмов поворота (ПМП) конструкции А. И. Благонравова позволила уменьшить ширину корпуса ИС-1 на 18 см по сравнению с КВ-1с..

В 1944 году ИС-2 был модернизирован. Новый образец имел наклонную лобовую часть корпуса, вместо смотрового люка механика-водителя — щель, закрытую стеклоблоком. На кронштейне, закрепленном на подвижном погоне командирской башенки, установили крупнокалиберный зенитный пулемет. В том же году, выпустив 107 машин, производство танка ИС-1 прекратили. С этого момента в производстве остался только ИС-2. Его ходовая часть состояла из шести опорных катков с внутренней амортизацией на борт, трех поддерживающих катков, ведущего колеса заднего расположения со съемными зубчатыми венцами(цевочное зацепление)и направляющего колеса. Подвеска опорных катков — индивидуальная торсионная. В состав трансмиссии входили: многодисковый главный фрикцион сухого трения, восьмискоростная коробка передач с демультипликатором, планетарные механизмы поворота и бортовые передачи.

Вскоре на ИС-2 изменили прицельные приспособления (в частности был изъят перископический прицел ПТК-5) и расширили броневую маску пушки. С середины 1944 года ИС-2 начали выпускаться с наклонной лобовой частью корпуса без смотрового люка механика-водителя (так называемой «пробки»), но со щелью, закрытой стеклоблоком. Кроме того, был введен крупнокалиберный зенитный пулемет ДШК, который, впрочем, устанавливался не на всех танках. В таком виде ИС-2 принял участие в заключительных сражениях второй мировой войны. В середине 1945 года после выпуска 3483 танков его производство было прекращено.

Танки ИС-2 поступали на вооружение отдельных тяжелых танковых полков, которым уже при формировании присваивалось наименование «гвардейский». В начале 1945 года были сформированы несколько отдельных гвардейских тяжелых танковых бригад, включавших по три тяжелых танковых полка каждая. ИС-2 впервые был применен в Корсунь-Шевченковской операции, а затем участвовал во всех операциях завершающего периода Великой Отечественной войны.