Pada awal serangan balik Soviet pada Perang Dunia II tahun 1943, Vasilevsky mengkoordinasikan dan mengeksekusi serangan Tentara Merah di Don bagian atas, di Donbass, Crimea, Belarus dan negara-negara Baltik, mengakhiri perangnya di Eropa dengan penaklukan Königsberg pada bulan April 1945. Pada Juli 1945 ia diangkat menjadi Panglima Angkatan Bersenjata Soviet di Timur Jauh. Dia mengeksekusi operasi ofensif strategis Manchuria
(Agustus 1945) dan kemudian menerima penyerahan diri Jepang. Setelah perang ia menjadi Menteri Pertahanan Soviet dari 1949 sampai 1953, posisi yang ia pegang sampai setelah kematian Stalin pada tahun 1953. Dengan naiknya Nikita Khrushchev menjadi unggul pada pertengahan 1950-an, Vasilevsky mulai kehilangan kekuasaan dan akhirnya pensiun. Setelah kematiannya ia dimakamkan di Kremlin Wall nekropolis sebagai pengakuan atas jasa masa lalu dan kontribusi untuk negaranya.