Организация управления артчастями РГК во время начального периода войны против СССР существенных изменений не претерпела. Новшеством стало формирование т. н. «артиллерийских полковых штабов особого назначения», предназначенных для управления разнотипными артдивизионами и отдельными батареями, приданными тем или иным общевойсковым либо танковым соединениям. Например, 23 июля 1941 г. 4-й танковой группе был передан 802-й артиллерийский полковой штаб особого назначения, в подчинении которого находилось в общей сложности четыре дивизиона: 1-й и 2-й дивизионы 84-го артполка с немецкими и чешскими 240-мм пушками, 768-й артдивизион с 210-мм мортирами и 680-й артдивизион с 150-мм пушками.
Весной 1942 г. в составе артиллерии РГК появились первые части, вооруженные трофейными советскими орудиями — 1-й и 2-й стационарные артдивизионы «Смоленск». Каждый из них имел в своем составе пять батарей — четыре со 122-мм и 152-мм гаубицами и одну с 76,2-мм пушками Ф-22. Во второй половине года в составе артиллерии РГК появились первые части, вооруженные самоходными орудиями — 1-й и 2-й самоходно-артиллерийские полки. Они были сформированы во Франции и вооружены САУ на шасси трофейных транспортеров «Лоррэн». Каждый полк имел шесть шестиорудийных батарей. Пять из них были вооружены самоходными 150-мм гаубицами, а шестая — 105-мм гаубицами. 1-й самоходно-артиллерийский полк был расформирован уже в декабре 1942 г., а его матчасть распределили между тремя дислоцированными во Франции пехотными дивизиями. 2-й же полк в 1943 г. вошел в состав воссоздаваемой после разгрома в Тунисе 21-й танковой дивизии и стал именоваться 155-м панцерартиллерийским полком.
Несмотря на первоначальные успехи в войне против СССР, вермахт уже в 1941 — начале 1942 г. понес весьма тяжелые потери, в том числе и в артиллерии. Поначалу их удавалось компенсировать — количество артиллерии РГК летом 1942 г. не отличалось от количества в начале войны. Но вот в качественном составе произошли определенные изменения. В составе артиллерии РГК появились моторизованные дивизионы 105-мм легких гаубиц — летом 1942 г. их было 15. В качестве средства тяги в этих дивизионах применялись гусеничные тягачи RSO. Эта машина, простая и дешевая в изготовлении, представляла собой типичный «эрзац» военного времени. Максимальная скорость буксировки гаубиц составляла всего 17 км/ч (против 40 км/ч для полугусеничных тягачей). Было сформировано и несколько новых батарей железнодорожной артиллерии, вооруженных, главным образом, французскими установками. Вообще же представляется непонятным упорство командования сухопутных войск в развитии железнодорожной артиллерии — подобные установки не находили применения в концепции «блицкрига». Они были пригодны разве что при осаде крепостей либо в системе береговой обороны. Но единственной крепостью, при осаде которой вплоть до конца 1943 г. применялась железнодорожная артиллерия, оставался Ленинград. Применение же таких установок в системе береговой обороны также нельзя признать особо эффективным — рассредоточенные вдоль побережья орудия без обеспечения превосходства в воздухе ни в одном случае не смогли противостоять высадке вражеских десантов.
1943 г. ознаменовался резким снижением численности артиллерии РГК ввиду гибели многих дивизионов в сталинградском «котле». В июле 1943 г. насчитывалось лишь 20 дивизионов 105-мм пушек, 12 смешанных дивизионов и 23 дивизиона 150-мм гаубиц. Сократилось и количество 150-мм пушек — за год с лета 1942-го по лето 1943 г. было расформированы семь из восьми дивизионов таких артсистем. В артиллерии РГК остался один дивизион и 15 отдельных батарей 150-мм пушек, но к декабрю 1943 г. были расформированы и последний дивизион, а также восемь отдельных батарей. Их матчасть, главным образом, была передана береговой артиллерии. Компенсировано сокращение 150-мм пушек было за счет увеличения количества 170-мм пушек. К концу 1943 г. было сформировано два новых дивизиона (763-й и 764-й) и восемь отдельных батарей таких пушек, а также две батареи и составе смешанного 2-го дивизиона 84-го артполка (две другие батареи этого дивизиона были вооружены чешскими 240-мм пушками). Если в январе 1941 г. вермахт располагал всего четырьмя 170-мм пушками, то к маю 1942 г. их было уже 114, и количество таких систем продолжало увеличиваться. Также в частях РГК возросло количество трофейных советских орудий. Например, в мае 1943 г. были сформированы три моторизованных дивизиона — 456-й, 457-й и 460-й — каждый из которых включал две батареи 152-мм гаубиц-пушек KH 433/1(r) и одну — 122-мм пушек К 390(r).
Существенно возросло количество дивизионов штурмовой артиллерии — летом 1942 г. их было 19, а год спустя — 25 (и три отдельные батареи). Возросла и их огневая мощь за счет увеличения количества орудий в батареях штурмовой артиллерии с семи до 10. Наряду с 75-мм орудиями StuG III штурмовая артиллерия начала получать 105-мм штурмовые гаубицы StuH 42 — они вводились по три единицы в каждую батарею.
В июне 1943 г. были сформированы и два отдельных самоходных артдивизиона — 753-й и 757-й, вооруженные 150-мм САУ Sd.Kfz.165 «Хуммель». Эти части были очень сильными — каждый дивизион имел шесть огневых батарей (четыре по 6 орудий и две по 4, а всего 32 САУ — что равнозначно почти трем дивизионам буксируемых гаубиц). Но в дальнейшем большинство «Хуммелей» поступало не в артиллерию РГК, а в панцерартиллерийские полки танковых дивизий.
Во второй половине 1943 г. в составе артиллерии РГК началось формирование крупных артиллерийских соединений. Первым из них стала созданная в сентябре
1943 г. 18-я артиллерийская дивизия (кстати, так и оставшаяся единственной артиллерийской дивизией вермахта). Её основу составили части разгромленной 18-й танковой дивизии — 88-й панцерартиллерийский полк, транспортный батальон, батальон связи, а также медицинские и ремонтные части. Кроме того, в состав дивизии включили 288-й и 782-й моторизованные артполки. 88-й полк имел в своем составе три дивизиона легких гаубиц (в общей сложности, 36 leFH 18) и самоходный артдивизион обычного для танковых дивизий состава (12 «Веспе» и шесть «Хуммель»). В состав 288го артполка вошли два дивизиона 150-мм гаубиц (24 sFH 18), дивизион 105-мм пушек (12 орудий) и дивизион 210-мм мортир (девять). 782-й артполк имел лишь один артдивизион с девятью 170-мм пушками; кроме того, в его состав входили дивизион АИР и зенитный дивизион (четыре батареи; в общей сложности, восемь 88-мм, девять 37-мм и 18 20-мм зениток, а также две самоходные счетверенные 20-мм установки на полугусеничных тягачах Sd.Kfz. 7/1. В январе 1944 г. 18-я артиллерийская дивизия прибыла на Восточный фронт, войдя в состав 24-го танкового корпуса 4-й танковой армии, а вскоре была передана в состав 1-й танковой армии. Но «карьера» 18-й артдивизии оказалась недолгой — уже в апреле 1944 г. её расформировали.
Противотанковое орудие Pak40
Вплоть до осени 1944 г. численность артиллерии РГК поддерживалась примерно на одном уровне, хотя в структуре и происходили определенные изменения. В частности, продолжало увеличиваться количество батарей 170-мм пушек. Формировались новые дивизионы с советскими орудиями. К осени 1944 г. их было уже шесть — один со 122-мм пушками и пять смешанных, со 122-мм гаубицами и 152-мм гаубицами-пушками. Среди них были и моторизованные дивизионы, и частично моторизованные, и стационарные — без собственных транспортных средств. Наряду с восемью дивизионами РГК, вооруженными французскими артсистемами, пятью — чешскими и двумя батареями с польскими 155-мм гаубицами, было сформировано шесть дивизионов с итальянскими орудиями, ставшими трофеями в сентябре 1943 г., после перехода Италии на сторону антигитлеровской коалиции. Возросла численность самоходной артиллерии — в середине 1944 г. в составе РГК было семь дивизионов по 12 САУ «Хуммель». Также увеличилось количество дивизионов 105-мм гаубиц — до 27-ми (четыре моторизованных с полугусеничными тягачами и 23 с тягачами RSO). В составе РГК появляются и части, вооруженные безоткатными орудиями — 105-мм LG 40 и LG 42. Было сформировано два дивизиона таких орудий (423-й и 424-й), а также одна отдельная батарея (429-я).