большей части благодаря этому расположению Шапошникова Василевский в мае 1940 года стал заместителем начальника оперативного отдела Генерального штаба. На этом посту он внес существенный вклад в разработку советских оборонительных и мобилизационных планов в предвоенные месяцы. После начала войны Сталин в августе 1941 года назначил Василевского начальником оперативного отдела Генерального штаба и заместителем начальника Генштаба. Позже, в июне 1942 года, Василевский сменил заболевшего Шапошникова на посту начальника Генерального штаба и одновременно в октябре 1942 года стал заместителем наркома обороны.59
Участвуя в планировании большинства важнейших операций Красной Армии, Василевский одновременно выполнял роль представителя Ставки в проводивших многие из этих операций действующих фронтах. Например, в октябре 1941 года он помогал восстановить оборону Красной Армии к западу от Москвы после пережитых ею катастрофических окружений под Вязьмой и Брянском, а перед назначением на должность начальника Генштаба координировал в апреле-мае 1942 года неудавшуюся попытку Северо-Западного фронта преодолеть оборону вермахта в Демянском выступе. Хотя Василевскому не удалось убедить Сталина не проводить в мае 1942 года злополучные наступления под Харьковом и в Крыму, именно эти мудрые советы, вероятно, ускорили его назначение на ключевой в вооруженных силах пост начальника Генерального штаба.
Василевский внес существенный вклад в формирование стратегии Ставки по срыву наступления вермахта летом и осенью 1942 года на Сталинград. Он был одним из ведущих архитекторов наступления Красной Армии в районе Сталинграда в ноябре-декабре 1942 года, а в качестве представителя Ставки контролировал перерастание Сталинградского контрнаступления в полноценное зимнее наступление, которое обрушило оборону вермахта на юге России и стремительно увлекло войска Красной Армии на запад – к Днепру и в Донбасс.
Повышенный в январе 1943 года до звания маршала Советского Союза, Василевский в начале февраля 1943 года добился таких успехов на юге, что подтолкнул Жукова и Ставку к идее провести общее наступление на всем советско-германском фронте. Сам Василевский должен был координировать операции на юге, а Жуков – на севере. Это наступление имело крайне амбициозные цели, оно должно было обрушить немецкую оборону от Ленинграда до Черного моря и вывести войска Красной Армии к Пскову, Витебску и на линию Днепра. Однако, столкнувшись с решительным и умелым сопротивлением немцев, весеннее наступление провалилось практически на всех участках, не оставив Жукову и Василевскому никакого иного выбора, кроме перехода в марте-апреле 1943 года к обороне под Курском.
Вместе с Жуковым Василевский планировал и координировал в июле-августе 1943 года оборону, контрнаступление и общее наступление Красной Армии в районе Курска. После этого, пока Жуков в сентябре-октябре 1943 года координировал наступление Красной Армии на Киев, Василевский курировал операции по очистке от вермахта района Донбасса.