Броневой корпус и рубка самоходной установки сваривались из катаных броневых плит толщиной 45, 40, 20 и 15 мм. Броневая защита слабо дифференцированная, противоснарядная. Броневые плиты рубки устанавливались под рациональными углами наклона. На прототипе и первых серийных самоходках лобовая часть рубки собиралась из двух бронеплит под разными углами наклона, впоследствии её заменили на единую деталь, устанавливаемую под углом 50° к нормали. Для удобства технического обслуживания надмоторные броневые плиты были выполнены съёмными, а верхняя кормовая деталь — откидной на петлях. В корпусе было прорезано достаточно большое количество отверстий для стрельбы из личного оружия, установки осей и цапф балансиров подвески, антенного ввода, горловин топливных баков, смотровых приборов и прицелов, слива топлива и масла. Ряд из них закрывался броневыми крышками или пробками, выведенные через верхнюю кормовую деталь выхлопные трубы защищались двумя броневыми колпаками. Смотровые приборы на лобовой и бортовых плитах рубки имели броневые козырьки для своей защиты. Для обеспечения доступа к узлам и агрегатам двигателя и трансмиссии на крыше моторного отделения был сделан ряд лючков, а в верхней кормовой детали — большой круглый откидывающийся люк. В крыше рубки были сделаны два больших отверстия — под смотровую башенку панорамного прицела и люк для посадки-высадки экипажа САУ. Последний (не считая аварийного люка в днище) был единственным средством покинуть машину, поскольку люк механика-водителя на лобовой бронеплите рубки предназначался только для наблюдения — бронировка противооткатных устройств гаубицы не давала ему возможности открываться полностью. Это сильно затрудняло эвакуацию экипажа из подбитой машины.

К броневой рубке и корпусу приваривались поручни для танкового десанта, а также бонки и кронштейны для крепления дополнительных топливных баков и некоторых элементов набора запасных частей, инвентаря и принадлежностей к машине. Другие его компоненты укладывались на надгусеничных полках или в боевом отделении самоходки.

Основным вооружением СУ-122 была модификация М-30С нарезной 122-мм дивизионной гаубицы обр. 1938 г. (М-30). Различия между качающимися частями самоходного и буксируемого вариантов были небольшими, вызванными необходимостью подгонки орудия под монтаж в стеснённом боевом отделении самоходки. В частности, от полевой гаубицы М-30 сохранялось разнесённое по разные стороны ствола размещение органов управления механизмами наводки, что требовало наличия двух наводчиков в экипаже. Орудие монтировалось на тумбовой установке, подкреплённой поперечной балкой справа от плоскости продольной симметрии машины. Гаубица М-30С имела ствол длиной 22,7 калибра, дальность стрельбы прямой наводкой достигала 3,6 км, максимально возможная — 8 км. Диапазон углов возвышения составлял от −3° до +25°, сектор горизонтального обстрела был ограничен 20°. Поворотный механизм орудия винтового типа, его маховик располагался слева от ствола и обслуживался наводчиком. Подъёмный механизм — секторного типа с маховиком справа от ствола, обслуживался командиром САУ. Спуск гаубицы механический ручной.

Боекомплект орудия составлял 40 (32—35 для ранних вариантов) выстрелов раздельно-гильзового заряжания. Снаряды и метательные заряды в гильзах укладывались вдоль бортов и задней стенки боевого отделения самоходки. Скорострельность орудия — 2—3 выстрела в минуту. В состав боекомплекта могли входить практически все 122-мм гаубичные снаряды, но на практике в подавляющем большинстве случаев использовались только осколочно-фугасные и кумулятивные.