начальника Генштаба Мерецкова, в феврале 1941 года на этот пост назначается Жуков, который, как обычно, пришёл со своей командой. 15 мая 1942 года Василевский представляет доклад о планах стратегического развёртывания Вооружённых Сил СССР на случай агрессии на Западе и на Востоке. Предлагается стратегия «прикрыть развёртывание наших войск и подготовить их к переходу в наступление». Василевский настаивает, что недопустимо строительство аэродромов и размещение складов и арсеналов вблизи границ. Но так как господствовали идеи, что война должна сразу начинаться с наступления, то доводы Василевского не были приняты. Впрочем, и времени на строительство новых аэродромов не оставалось. Первые дни войны подтвердили опасения Василевского, наши самолёты были уничтожены на аэродромах, а также немцы также захватили или уничтожили наши близлежащие склады и арсеналы, Захвачены большие трофеи, при производстве которых наш народ отдал много своих сил и здоровья. В связи с неудачами в первый период войны, в которых, несомненно, большая часть вины была на Жукове, как начальнике Генштаба, Сталин снимает Жукова и возвращает на должность начальника Генштаба Шапошникова. 1 августа на должность начальника оперативного управления – заместителя начальника Генштаба – назначается Василевский. В связи с частыми болезнями Шапошникова его обязанности в это время также исполняет Василевский. Сталин часто даёт поручения лично Василевскому. Во время битвы за Москву с 5 по 10 октября он входит в группу представителей ГКО, обеспечивающих отправку на Можайский оборонительный рубеж отступающих и вышедших из окружения войск. 15 октября ГКО принял решение об эвакуации из Москвы. Правительственные учреждения уезжают из Москвы, но Сталин вместе со Ставкой остаётся в Москве. Хотя Москву прикрывает Западный фронт во главе с Жуковым, фактически обороной Москвы руководит лично Сталин. Так как Генштаб во главе с Шапошниковым был эвакуирован в Куйбышев (Самара), то для обслуживания Ставки создаётся оперативная группа Генштаба из десяти человек во главе с Василевским (первый эшелон). Об обязанностях оперативной группы Василевский пишет: «Прежде всего, она должна была всесторонне знать и правильно оценивать события на фронте и постоянно и точно, но без излишней мелочности, информировать о них Ставку; в связи с изменениями во фронтовой обстановке, своевременно и правильно вырабатывать Верховному Главнокомандованию свои предложения в соответствии с принимаемыми Ставкой оперативно-стратегическими решениями, быстро и точно разрабатывать планы и директивы, вести строгий и непрерывный контроль за выполнением всех решений Ставки, а также за боеготовностью и боеспособностью войск, формированием и подготовкой резервов, материально-боевым обеспечением войск». 28 октября деятельность опергруппы была высоко оценена Сталиным. Василевскому было присвоено звание генерал-лейтенант, а трём членам группы звание генерал-майор. Таким образом, Василевский сыграл одну из ключевых ролей
