После войны в 1945—1946 годах — главнокомандующий Центральной группы войск на территории Австрии и Верховный комиссар по Австрии. С 1946 года — главнокомандующий Сухопутными войсками — заместитель министра Вооружённых Сил СССР. С 1950 года — главный инспектор Советской Армии — заместитель Военного министра СССР. В 1951—1955 годах — командующий Прикарпатским военным округом. В 1953 году — председатель Специального судебного присутствия, судившего Л. П. Берию и приговорившего его к смертной казни.
В 1955—1956 годах — 1-й заместитель министра обороны СССР и Главнокомандующий Сухопутными войсками. В 1956—1960 годах — 1-й заместитель министра обороны СССР, c 1955 одновременно Главнокомандующий Объединенными вооруженными силами стран Варшавского договора (в этом качестве руководил подавлением венгерского мятежа 1956). В 1960—1961 и с апреля 1962 в Группе генеральных инспекторов МО СССР. В 1961—1962 годах, в период Берлинского кризиса — главнокомандующий Группой советских войск в Германии.
Умер 21 мая 1973 года. Похоронен на Красной площади у Кремлёвской стены.
Награды, членство в организациях
Член ЦК КПСС с 1952 (кандидат в 1939—52)
Член ВЦИК в 1931—34
Депутат Верховного Совета СССР 1—8-го созывов
Почётный гражданин города Бельцы и других городов
Дважды Герой Советского Союза (29 июля 1944, 1 июня 1945)
Высший советский военный орден «Победа» (30.03.1945)
7 орденов Ленина (29.07.1944, 21.02.1945, 27.12.1947, 18.12.1956, 27.12.1957, 27.12.1967, 28.12.1972)
Орден Октябрьской Революции (22.02.1968)
3 ордена Красного Знамени (22.02.1938, 3.11.1944, 20.06.1949)
2 ордена Суворова 1 степени (27.08.1943, 17.05.1944)
2 ордена Кутузова 1 степени (9.04.1943, 28.07.1943)
Орден Красной Звезды (16.08.1936)
Медаль «XX лет Рабоче-Крестьянской Красной Армии» (22.02.1938)
Медаль «За оборону Москвы» (1.05.1944)
Медаль «За победу над Германией в Великой Отечественной войне 1941—1945 гг.» (1945)
Медаль «За взятие Берлина» (9.06.1945)
Медаль «За освобождение Праги» (9.06.1945)
Медаль «В память 800-летия Москвы» (21.09.1947)
Медаль «30 лет Советской Армии и Флота» (22.02.1948)
Медаль «40 лет Вооружённых Сил СССР» (17.02.1958)
Медаль «Двадцать лет победы в Великой Отечественной войне 1941—1945 гг.» (1965)
Медаль «50 лет Вооружённых Сил СССР» (1968)
Медаль «За воинскую доблесть. В ознаменование 100-летия со дня рождения Владимира Ильича Ленина»
Почётное оружие — именная шашка с золотым изображением Государственного герба СССР (22.02.1968)
Герой Чехословацкой социалистической республики (28.04.1970)
Герой Монгольской народной республики (7.05.1971)
Орден «За заслуги перед Отечеством» в серебре (ГДР)
Орден «Крест Грюнвальда» 1 класса (ПНР)
Звезда ордена «За воинскую доблесть» (Virtuti Militari) 1 класса (ПНР)
Звезда ордена Возрождения Польши 1 класса (ПНР)
Два ордена Сухэ-Батора (1961, 1971, МНР)
Орден Боевого Красного Знамени (МНР)
Орден «Партизанская звезда» 1 степени (СФРЮ)
Орден «Народная Республика Болгария» 1 степени (НРБ)
Орден Клемента Готвальда (ЧССР)
Звезда и знак ордена Белого льва 1 степени (ЧССР)
Орден белого Льва «За Победу» 1 степени (ЧССР)
Орден Военный крест (ЧССР)
Орден «Венгерская свобода» (ВНР)
Орден Венгерской народной Республики (ВНР)
Почётный рыцарь-командор ордена Бани (Великобритания)
Орден Почётного легиона 2 класса (Франция)
Военный крест (Франция)
Орден «Легион Почёта» степени Главнокомандующего (США)
Медаль Китайско-советская дружба (КНР)
