5 октября 1941 г. Гудериан был назначен командующим 2-й танковой армией. Но движение немецких танковых колонн к Москве, встречавших все более упорное сопротивление советских войск, замедлялось. К концу ноября — началу декабря немцам удалось выйти к пригородам советской столицы, но ресурсы для дальнейшего наступления были исчерпаны, к тому же германские войска (и боевая техника) оказались, как заявил Гитлеру Гудериан, не подготовленными к зиме.
В своих воспоминаниях Гудериан утверждал, что Гитлер еще до начала войны с Советским Союзом имел всю информацию «о военной мощи огромного государства… о мощи промышленности и прочности государственной системы России», но отказывался верить донесениям разведчиков и докладам дипломатов. Он был уверен в легкой победе и сумел «передать свой необоснованный оптимизм непосредственному военному окружению». В результате Верховное командование вооруженных сил и Главное командование сухопутных сил действительно верили в возможность завершения войны до наступления холодов, так что, по словам Гудериана, «в сухопутных войсках зимнее обмундирование было предусмотрено только для каждого пятого солдата».
Более того, Гудериан, вспоминая о своей первой книге «Внимание! Танки!», утверждает, что у него состоялся разговор с Гитлером, в ходе которого он указал фюреру на то обстоятельство, что «русские имеют большое превосходство в танках, которое будет увеличиваться, если потери в танках у нас будут одинаковые. У Гитлера тогда вырвалась фраза: „Если бы я знал, что у русских действительно имеется такое количество танков, которое приводилось в вашей книге, я бы, пожалуй, не начинал эту войну“».
Только 30 августа 1941 г. Главное командование сухопутных сил серьезно занялось вопросом снабжения зимним обмундированием крупных соединений сухопутных сил. В этот день в дневнике Гудериана появилась следующая запись: «Вследствие изменения обстановки возникает необходимость проведения местных операций с ограниченными целями также в условиях зимы. Оперативному управлению разработать план-смету снабжения войск необходимым зимним обмундированием и после утверждения начальником Генерального штаба сухопутных сил возложить на организационное управление проведение необходимых мероприятий».
Не преминул Гудериан и с досадой отметить, что любимое детище Геринга, люфтваффе, равно как и войска СС, было снабжено зимними вещами своевременно и в достаточном количестве. А вот его людям пришлось намного хуже: «…каждый полк уже потерял к этому времени не менее 400 человек обмороженными, автоматическое оружие из-за холода не действовало, а наши 37-миллиметровые противотанковые пушки оказались бессильными против русских танков Т-34. Дело дошло до паники…»
20 декабря, во время бурного обсуждения этой проблемы с самим фюрером, Гудериан в ответ на свой доклад о замерзающих в чистом поле подразделениях получил рекомендацию «зарыться в землю и защищать каждый квадратный метр территории». И, не сдержавшись, закричал, что подмосковная земля уже промерзла на полтора метра в глубину, «мы со своим жалким шанцевым инструментом ничего не сможем сделать». Гитлер, вспомнив свой опыт времен Первой мировой, предложил дробить мерзлую землю выстрелами из гаубиц и окапываться в получившихся воронках. Такая перспектива Гудериана тем более не обрадовала: «Мои дивизии вынуждены каждая оборонять фронт шириной 20–40 км, а на каждую дивизию у меня осталось не более четырех тяжелых гаубиц с боекомплектом в 50 выстрелов на каждое орудие. Если я использую свои гаубицы для того, чтобы сделать воронки, то с помощью каждого орудия я смогу только создать 50 мелких воронок, величиной в таз для умывания… но это ни в коем случае не составит оборонительной позиции! Кроме того, боеприпасы мне необходимы для того, чтобы отразить атаки русских. Мы не в состоянии вбить в землю шесты, необходимые для прокладки телефонных линий, и для этого вынуждены использовать взрывчатые вещества. Где же нам взять необходимое количество подрывных средств для создания оборонительной полосы такого большого масштаба?»
Войска под командованием Гудериана не смогли противостоять советскому контрнаступлению под Москвой, отбросившему войска группы армий «Центр» от советской столицы.
После конфликта с командующим группой армий «Центр» фельдмаршалом фон Клюге из-за самовольного увода танков с опасной позиции вопреки приказу Гудериан, отстраненный от командования 2-й танковой армией, был 26 декабря 1941 г. отправлен в резерв Главного командования.
Генерал-инспектор бронетанковых войск
16 января 1942 г. Гудериан получил официальное назначение в отдел пополнения штаба 3-го армейского корпуса, де-факто оставшись не у дел. Только спустя год, после немецкого поражения под Сталинградом, 1 марта 1943 г., он был назначен на должность генерал-инспектора бронетанковых войск. Отвечая за модернизацию бронетанковых частей, Гудериан сумел наладить оперативное деловое взаимодействие с министром вооружений и снабжения Третьего рейха Альбертом Шпеером, что позволило не только увеличить количество выпускаемых Германией танков, но и внести необходимые улучшения в их конструкцию.
В этот период Гудериан часто бывал на стрельбищах и танковых испытательных полигонах, инспектировал заводы и сопутствующие производства. Гудериан также неоднократно встречался с Гитлером и спорил с ним по стратегическим вопросам.
Во время совещания в ставке Гитлера по утверждению плана операции «Цитадель» 3 мая 1943 г. Гудериан снова столкнулся с фельдмаршалом фон Клюге, отстранившим его от командования танковой армией в конце декабря 1941 г. Дело дошло до вызова на дуэль, который прислал ему фон Клюге, призвавший, по словам Гудериана, в посредники самого фюрера. Но Гитлер поединок запретил.
Через несколько часов после неудачного покушения 20 июля 1944 г. и раскрытия заговора против Гитлера среди военных, в котором Гудериан не участвовал, он был назначен начальником Генерального штаба сухопутных войск и по совместительству остался генерал-инспектором бронетанковых войск. При этом Гудериана включили в состав военного трибунала, который рассматривал дела офицеров-заговорщиков и тех, кто был заподозрен в участии в заговоре 20 июля.
Гудериан трезво оценивал достоинства и недостатки Верховного командования вооруженных сил: «Фельдмаршал Кейтель был неплохой человек и добросовестно старался выполнять свои обязанности; но вскоре он подпал под влияние Гитлера и чем дальше, тем больше терял способность сопротивляться его гипнозу. Свою нижнесаксонскую преданность он сохранил до самой смерти. Гитлер знал, что он может полностью положиться на этого человека, поэтому он и держал Кейтеля на такой должности, хотя и знал, что он неблестяще разбирается в вопросах стратегии. Фельдмаршал не оказывал влияния на ход операций; он больше занимался административными вопросами, т. е. выполнял функции бывшего военного министерства. Несчастье Кейтеля было в том, что он не находил в себе сил протестовать против приказов Гитлера, противоречащих международному праву и морали. Только этим можно объяснить, что так называемый „приказ о комиссарах“ и директива „Ночь и туман“ были спущены в войска. За эту слабость он и поплатился в Нюрнберге своей жизнью; его семье не разрешили даже оплакать урну с его прахом.