На военную службу Гилле хотел вернуться всегда, и когда этот шанс ему представился, он долго не раздумывал. Как только началось формирование частей усиления СС, он был одним из первых офицеров, зачисленных в них. 20 мая 1934 года Герберт Отто Гилле был назначен командиром 11-го штурма 3-го штурмбанна 1-го штандарта СС, который в торжественной обстановке в ноябре 1935 года на торжествах во время партийного съезда в Нюрнберге получил название штандарта СС «Дойчланд»[Хотя обычно «Deutschland» переводится как «Германия», при обозначении штандартов частей усиления СС мы сохраняем исключительно огласовку. Это связано с тем, чтобы избежать путаницы — второй штандарт частей усиления именовался «Germania».] и заслуженно считался одной из самых боеспособных частей войск СС. Штандартом, дислоцированным в Эльвангене, командовал другой выдающийся командир войск СС, Феликс Штейнер, с которым Гилле в будущем предстояло не раз сталкивался и воевать под его командованием. 9 ноября 1935 года Гилле перевели на пост командира 12-го штурма, который в июле 1936 года в ходе развертывания штандарта до четырех штурмбаннов был переформирован в 19-й штурм 4-го штурмбанна. Рост в чинах у Гилле также ускорился: если звание оберштурмфюрера СС он получил через два года после предыдущего — 20 апреля 1935 года, то гауптштурмфюрером (то есть капитаном) он стал уже 9 ноября 1935 года.
В конце 1934 года Герберт Гилле решил наконец расстаться с холостой жизнью — все же ему было уже 37 лет. 3 января 1935 года состоялась свадьба, избранницей Гилле стала София Шарлота Меннеке. Невеста была на шесть лет младше супруга — она родилась 31 декабря 1903 года в Штеммене (Нижняя Саксония). Через девять месяцев после свадьбы в семье произошло прибавление: 9 октября родилась дочка. Больше детей у четы Гилле не было.
1 октября 1936 года Гилле распрощался с «Дойчландом»: его ждало новое, более высокое назначение. Теперь он стал начальником штаба другого штандарта частей усиления СС — «Германии». Если быть точным, то в этот момент часть именовалась 2-м штандартом СС, а название «Германия» ему было присвоено в ноябре 1936 года, и тоже на партийном съезде в Нюрнберге. 15 февраля 1937 года Гилле возглавил 2-й штурмбанн своего штандарта, дислоцированный в Арользене, и 20 апреля того же года был произведен в штурмбаннфюреры СС. В составе германских войск штурмбанн участвовал в аншлюсе Австрии, а позже из личного состава «Германии» был сформирован почетный эскорт Бенито Муссолини во время его визита в Германию. После оккупации Чехии штандарт был переброшен в Прагу и стал по документам проходить как караульный полк имперского протектора Богемии и Моравии (Wach-Regiment des Reichsprotektors von Bhmen und Mhren). Как следствие, Гилле был награжден медалями в память 1 октября 1938 года и 13 марта 1938 года (хотя число кавалеров этих медалей было довольно значительным и ничего особенного для их получения совершить в общем-то не было нужно).
В мае 1939 года руководство частями усиления СС взяло курс на формирование более крупного объединения — дивизии. В связи с этим было принято решение кроме существовавших пехотных штандартов, штурмбаннов саперного и связи начать формирование артиллерийских частей. В новые части были откомандированы офицеры из уже существовавших штандартов. То, что выбор пал в том числе и на Гилле, ничего странного не было: он был хорошим строевиком, обладал необходимым опытом, а кроме того, вся его служба в имперской армии прошла именно в артиллерии. Гилле было поручено сформировать 1-й дивизион артиллерийского полка СС (и он, естественно, был назначен его командиром). В крайне сжатые сроки в учебном лагере в Ютербоге Гилле практически с нуля создал дивизион — три батареи по четыре гаубицы в каждой — и начал изнуряющие тренировки личного состава: война была не за горами и надо было в сжатые сроки создать боеспособную часть. Надо сказать, что Гилле это удалось, хотя основная заслуга в создании артиллерийского полка все же принадлежит его первому командиру, оберштурмбаннфюреру СС Петеру Хансену.[Майор Петер Хансен (30.11.1896-23.5.1967) в январе 1933 года был назначен командиром 2-го дивизиона 50-го артиллерийского полка. В апреле 1933 года он вступил в СС и вскоре был переведен в части усиления СС командиром артполка СС. Войну Хансен закончил бригадефюрером СС и генерал-майором войск СС на посту начальника штаба XVIII армейского корпуса СС.]
Перед Польской кампанией артиллерийский полк был переброшен в Восточную Пруссию. Хотя части усиления СС и не были использованы в качестве единой дивизии, как на это надеялся ее командир Пауль Хауссер, все же эсэсовцы приняли посильное участие в завоевании Польши. Вместе с полком «Дойчланд» артиллерия СС была объединена с 4-й танковой бригадой в группу «Кемпф» (названную так по имени командира — генерал-майора Вернера Кемпфа). В составе I армейского корпуса 3-й армии эсэсовцы приняли в первых числах сентября участие в разгроме польской армии «Модлин», под Млавой, а 6 сентября начали яростные атаки под Пултуском. В дальнейшем группа «Кемпф» успешно осуществляла преследование отступавших частей армии «Модлин», и входившие в нее части показали себя с хорошей стороны. Как указывает ряд источников, в Польской кампании части усиления СС понесли большие потери, чем аналогичные соединения вермахта, что объяснялось несколько более низким качеством командного состава. Однако к дивизиону Гилле это не относилось — артиллеристы обеспечивали артиллерийскую поддержку наступавшим войскам и сами непосредственного участия в военных действиях не принимали, за исключением артиллерийской дуэли, а также эпизодических столкновений. Действия дивизиона были признаны успешными, и по результатам кампании — именно по результатам, а не за конкретные отличия — Гилле был награжден планками к уже имевшимся у него Железному кресту 2-го (26 октября 1939 года) и 1-го (21 ноября 1939 года) класса. Примерно тогда же — 19 октября 1939 года — Гилле был произведен в оберштурмбаннфюреры СС.
После окончания Польской кампании из частей усиления СС была сформирована дивизия усиления СС (позже дивизия СС «Рейх»), в состав которой вошел и дивизион Герберта Гилле. К началу кампании на Западе дивизион вместе с большей частью дивизии располагался в районе Мюнстера, являясь ближайшим резервом наступавших частей первого эшелона. В мае часть Гилле приняла участие в боях в Брабанте, а затем в преследовании отступавших войск союзников. В июне последовали бои на Сомме, Марне и Сене, участие в разгроме французской группировки у Шатийона. Солдаты Гилле завершили кампанию в районе Бордо.
Уже после победы над Францией руководство СС активизировало создание новых дивизий войск СС. В рамках этой программы решено было начать формирование дивизии СС, укомплектованной иностранными добровольцами. (Вернее, такие добровольцы составляли лишь часть дивизии, куда зачислялись также и фольксдойче, и рейхсдойче;[Фольксдойче (Volksdeutsche) именовались этнические немцы («лица германской крови»), проживавшие вне территории Третьего рейха; немцы, жившие в Германии и Австрии именовались рейхсдойче (Reichsdeutsche).] костяком же дивизии стал уже существовавший и ранее входивший в дивизию усиления пехотный полк СС «Германия».) Новая дивизия получила первоначально название «Германия», но в январе 1941 года она была переименована в «Викинг». Командный состав нового формирования был набран в основном из уже имевших опыт боевых действий подразделений дивизии усиления СС. На должность командира дивизии был выбран один из создателей войск СС, Феликс Штейнер, с которым Гилле уже сталкивался по службе в штандарте СС «Дойчланд». Сам Гилле 15 ноября 1940 года был назначен командиром 5-го артиллерийского полка СС, который был составной частью новой дивизии. Вскоре — 30 января 1941 года — Гилле был произведен в штандартенфюреры СС, что стало как признанием его заслуг, так и более соответствовало новой должности командира полка.
То, что Штейнер при подборе командных кадров отдавал предпочтение офицерам, имевшим большой опыт службы (каким был он сам), сказалось на боеспособности дивизии «Викинг» — она и позже выделялась из дивизий СС своей высокой боеспособностью, и как результат — второе по числу количество кавалеров Рыцарского креста среди дивизий СС (больше было только у дивизии «Рейх»). В то же время командный состав этой дивизии был наиболее аполитичен, если так можно сказать о частях СС. Несмотря на давление со стороны Гиммлера, большинство ее старших командиров в течение войны так и не вышли из церкви. В дивизии было меньше фанатизма и больше вдумчивого профессионального руководства, но Гиммлеру приходилось с этим мириться, так как результаты которых достигал «Викинг», были очень высоки. В то же время, хотя дивизию и постоянно отмечали, главными «объектами» нацистской пропаганды среди частей СС стали безупречные в идеологическом плане «Лейбштандарт» и «Мертвая голова», и в определенной степени «Рейх».
Как и его командир, Гилле не отличался покладистым характером. Кроме того, как профессиональный офицер (то есть имевший определенное военное образование) он постоянно критиковал действия руководства СС и лично рейхсфюрера. Не без оснований Гилле считал Гиммлера и его советников дилетантами, ничего не понимавшими ни в тактике, ни в стратегии. Кроме того, Гилле претили методы Гиммлера, старавшегося установить систему тотальной слежки и заидеологизировать войска СС. Как мог, Гилле противился этому, активно борясь с наличием информаторов в дивизии. Учитывая, что Гилле никогда не скрывал своей точки зрения, надо отдать должное Гиммлеру: он закрывал глаза на эти, казалось бы, важные в идеологических войсках факты и не преследовал Гилле, понимая, что его профессиональные знания крайне важны для боеспособности дивизии «Викинг». (И это относилось не только к Гилле; во время войны было достаточно случаев, когда Гиммлер переманивал офицеров в войска СС и присваивал им высокие звания при том, что они даже не являлись членами НСДАП.) Тем более что в главном противоречий между Гилле и рейхсфюрером СС не было: Герберт был немецким националистом, убежденным нацистом и яростным антикоммунистом, считавшим, что борьба с большевизмом — единственный путь для спасения Германии. Естественно, все это не прошло мимо Гиммлера. Он, например, заявил отвечавшему в дивизии за политическое воспитание оберштурмбаннфюреру СС Фику: «В нашем аристократическом 5-м артиллерийском полку ношение коричневых рубашек осуждается. Мне придется прислать вам наряд солдат, чтобы помочь переодеться!».
Перед началом кампании на Востоке дивизия «Викинг» была включена в резерв 1-й танковой группы группы армий «Север», и в июне она перешла границу СССР и взяла курс на Лемберг (Львов). Из действовавших в июне 1941 года на советско-германском фронте дивизий СС «Викинг» первой вступила в бой — это состоялось 29 июня под Тернополем. Дивизия вела бои на Тернопольско-Житомирском направлении, участвовала во взятии Днепропетровска и Сталино (Донецка). После прорыва в октябре 1941 года к Невинномысску и Успенскому дивизия начала наступление на Миус и 1 января 1942 года вошла в город. Заслуги Гилле были тем временем отмечены повышением его в звании до оберфюрера СС (1 октября 1941 года). На Миусском плацдарме дивизия оставалась до второй половине июля 1942 года, ведя тяжелые бои в районе Матвеева Кургана на юго-западе Ростовской области. 28 февраля 1942 года Гилле был награжден Германским крестом в золоте.
Дивизия СС «Викинг» стала заслуженно пользоваться очень высоким авторитетом у немецких генералов, выделявших ее как отличную моторизованную ударную часть. Узнали «Викинг» и советские войска. Немецкий исследователь Фрашка в своей книге «С мечами и бриллиантами» описывает следующий случай. В сентябре 1941 года в ходе боев дивизия «Викинг» наголову разгромила XXVII советский стрелковый корпус. Командир корпуса генерал-майор Павел Данилович Артеменко 27 сентября был взят в плен. В плену Артеменко заявил, «что восхищен храбростью "Викингов”, хвалил их невиданную доселе ударную силу, отчаянную смелость и тактический ум их офицеров. На советской стороне были рады, когда "Викингов” однажды отвели; наконец, можно было немного передохнуть. Но эта передышка продолжалась недолго. Когда через три дня солдаты войск СС появились вновь и пошли в наступление, начался "настоящий ад”, сказал Артеменко. "Конец вы видите… мой корпус разгромлен, уничтожен, мой штаб и я в плену”».[После окончания войны генерал-майор Артеменко был передан в органы СМЕРШ, а затем предстал перед Военной коллегией Верховного Суда Союза ССР, которая 26 августа 1950 года приговорила его к расстрелу за измену Родине. В тот же день Артеменко был расстрелян.]
Гилле показал себя не только способным артиллерийским командиром, его личная храбрость и тактические способности сделали его кандидатом на занятие высоких должностей, которые подразумевали командование соединениями из разных родов войск. Штейнер неоднократно поручал командиру своего артиллерийского полка руководство передовыми ударными частями дивизии, и Гилле полностью оправдывал его доверие. Когда же рейхсфюрер СС добился разрешения на формирование более крупного формирования войск СС — Танкового корпуса — лучшей кандидатуры на командование его артиллерией, чем Гилле, не нашлось: за его плечами был и опыт, и неоспоримые способности командира. 20 июля 1942 года он был официально назначен начальником Arko (то есть артиллерийского командования) Танкового корпуса СС, который формировал в Берген-Бельзеен оберруппенфюрер СС Пауль Хауссер. Однако оказалось, что Гилле не может оставить свой полк, наступавший в этот момент на Ростов-на-Дону и Батайск. Кроме того, и сам Гилле не выказал желания перейти на новый пост: организация и координирование действий артиллерии (при фактическом отсутствии командных функций) не устраивала его, так как в том числе лишала возможности проявить свои способности командира боевых частей. Как бы то ни было, в июле приказ был отменен, и Гилле, не оставляя командование артиллерийским полком, возглавил также оставшийся без командира 10-й моторизованный полк СС «Вестланд» своей же дивизии (он командовал этим полком до 1 декабря 1942 года).
Дивизия СС «Викинг» шла в авангарде немецких войск, наступавших от Батайска на Кубань, при этом наиболее значительную роль в действиях дивизии сыграли подчиненные Гилле войска — фактически под его началом была объединена наиболее боеспособная половина дивизии. Гилле же фактически был командиром дивизии, потому что Штейнер одновременно возглавлял различные более крупные объединения войск СС (в состав которых также входила и дивизия «Викинг»). В сентябре 1942 года вехами на пути дивизии стали Туапсе, Пятигорск, Минеральные Воды. Осенью 1942 года Гилле принял активное участие в кровопролитных боях за Моздок и Орджоникидзе. Причем заметим здесь, что если те же «Лейбштандарт» или «Мертвая голова» после тяжелых потерь время от времени выводились на отдых на Запад, то «Викинг» практически без перерыва всю войну вел бои на советско-германском фронте. В этом сказалось как прохладное отношение Гиммлера к дивизии, так и тот факт, что командование дивизии обращалось со своими подчиненными значительно бережнее, чем их коллеги из так называемых «первых» дивизий войск СС, и в результате ему удавалось с помощью пополнений постоянно поддерживать боеспособность дивизии на высоком уровне. Тяжелые бои на Кубани и во время последующего зимнего отступления на рубеж Сталино — Донец принесли Герберту Отто Гилле новые отличия: 8 октября 1942 года он стал кавалером Рыцарского креста Железного креста, а 9 ноября 1942 года был произведен в бригадефюреры СС и генерал-майоры войск СС.
(Подобная дата присвоения новых званий — 9 ноября — очень часто встречается в списках чинов СС. По традиции именно в этот день — годовщину «Пивного путча» 1923 года — Гитлер подписывал приказы о массовом производстве чинов СС. И тот факт, что все свои «генеральские» звания Гилле получил именно в этот день, показывает, что, несмотря на все его заслуги, Гиммлер не представлял его к производству вне общих списков, то есть за особые заслуги, очень неплохо характеризует взаимоотношения Гилле и рейхсфюрера СС. Тем более что заслуги у Гилле были впечатляющие.)
В начале весны 1943 года дивизия «Викинг» вела бои в районе Грушевая — Изюм, а в апреле была отведена во второй эшелон и размещена в Лозовой, где должна была получить пополнение и реорганизоваться — постепенно началась подготовка к превращению ее в танковую дивизию.
