Современники и исследователи отмечали, в частности, его феноменальную память и безупречную исполнительность, граничащую с услужливостью
. И вот этот маленький человек (Ежов был низкого роста) был назначен по инициативе Сталина во главе наркомата-«монстра» для решения больших и ответственных дел, и прежде всего для очищения страны от врагов. Предстояла чистка от враждебных элементов и самих органов госбезопасности.
Что касается Г.Г. Ягоды, то после снятия с поста руководителя НКВД он был назначен народным комиссаром связи СССР. 29 января 1937 года было принято решение о переводе комиссара госбезопасности Ягоды в запас. Февральско-мартовский пленум ЦК ВКП(б) стал последним партийным форумом, на котором он выступал. На этом пленуме обвинительную речь против Ягоды и его сподвижников произнес Н.И. Ежов. Он опирался на высказывание Сталина, что органы госбезопасности в своей борьбе с «оппозицией» «опоздали на четыре года», и развивал это положение. Ягода признал «допущенные ошибки», каялся в несовершенстве руководства НКВД. С резкой критикой своего опального шефа выступили Л.М. Заковский, Я.С. Агранов, В.А. Балицкий, Е.Г. Евдокимов. Последний, например, предложил привлечь Ягоду к ответственности и «снять с него звание комиссара государственной безопасности, хотя бы в отставке».
29 марта 1937 года Ягода был арестован по обвинению в участии в так называемом «правотроцкистском блоке». После указанного пленума ЦК и ареста Ягоды состоялся партийный актив сотрудников НКВД, на котором бывшие соратники резко критиковали и отмежевывались от своего бывшего шефа. Одним из наиболее резких было выступление А.Х. Артузова, который, в частности, сказал, что «при установившемся после смерти Менжинского фельдфебельском стиле руководства отдельные чекисты и даже целые звенья нашей организации вступили на опаснейший путь превращения в простых техников аппарата внутреннего ведомства, со всеми его недостатками, ставящими нас на одну доску с презренными охранками капиталистов». Что касается Ягоды, то на открытом процессе указанного блока (дело Бухарина, Рыкова и др.) он был приговорен к высшей мере наказания. Смертный приговор был приведен в исполнение в час ночи 15 марта 1938 года в присутствии прокурора А.Я. Вышинского
.
Но впереди чекистов и их ведомство ждали гораздо худшие времена. Бывший чекист М.П. Шрейдер вспоминал, что при вступлении в должность наркома Ежов сказал на совещании руководящего состава НКВД: «Вы не смотрите, что я маленького роста. Руки у меня — крепкие — сталинские, у меня хватит сил и энергии, чтобы покончить со всеми троцкистами, зиновьевцами и бухаринцами… И в первую очередь мы должны очистить наши органы от вражеских элементов, которые по имеющимся у меня сведениям смазывают борьбу с врагами народа». И после паузы новый нарком добавил: «Предупреждаю, что буду сажать и расстреливать всех, невзирая на чины и ранги, кто посмеет тормозить дело борьбы с врагами народа»
.
27 января 1937 года Ежову было присвоено звание Генерального комиссара государственной безопасности, а в июле 1937 года он был награжден орденом Ленина с формулировкой «За выдающиеся успехи в деле руководства органами НКВД по выполнению правительственных заданий». Будучи приближен Сталиным и находясь в эйфории славы, Ежов, ссылаясь на «обращения трудящихся», предложил переименовать Москву в Сталинодар
. Но до этого дело все-таки не дошло.
С приходом Ежова к руководству НКВД начальником Главного управления государственной безопасности 29 декабря 1936 года был назначен Я.С. Агранов, который в 1934–1937 годах являлся и первым заместителем наркома. А после его освобождения от этих обязанностей эти должности с апреля 1937 до сентября 1938 года занимал М.П. Фриновский.
25 декабря 1936 года отделам ГУГБ в целях конспирации были присвоены порядковые номера. Разведкой стал заниматься 7-й (Иностранный) отдел, возглавлявшийся по-прежнему А.А. Слуцким. Будучи тяжело больным
[41], он возглавлял разведку органов госбезопасности до своей смерти в феврале 1938 года. Была реорганизована и внутренняя структура этого отдела. В 1936 году в нем было 6 отделений, а в 1938 год сначала 7, а затем 11 отделений, в том числе 8-е отделение занималось разработкой эмиграции
.
26 января 1937 года Политбюро ЦК ВКП(б) приняло решение о сдаче Наркомфину валютных фондов НКВД (в золотых рублях, в инвалюте и в золоте в пластинах). В качестве особого резервного фонда для резидентур НКВД было разрешено оставить 210 тысяч рублей золотом, хранящихся в заграничных банках.
Произошли изменения и в организации контрразведывательной деятельности. 27 ноября 1936 года Политбюро ЦК ВКП(б) одобрило предложения НКВД о реорганизации Особого отдела ГУГБ, что и было оформлено на следующий день специальным приказом НКВД. Из него был выделен самостоятельный отдел, обслуживавший РККА, у которого и сохранилось это наименование (Особый), а из контрразведывательной части Особого отдела и расформированного аппарата Экономического отдела был создан новый отдел контрразведки, к которому вернулось и привычное когда-то сокращение — КРО (Контрразведывательный отдел).
В декабре 1936 года, когда в целях конспирации отделам ГУГБ были присвоены порядковые номера, он стал именоваться 3-м отделом ГУГБ
. Бывший начальник Особого отдела М.И. Гай был переведен начальником управления НКВД в Иркутск. Начальником КРО был назначен бывший начальник экономической контрразведки Л.Г. Миронов, впрочем, пробывший в этой должности лишь полгода. Затем ее по совместительству с исполнением обязанностей заместителя наркома менее месяца занимал В.М. Курский, застрелившийся в июле 1937 года. После него и до конца марта 1938 года начальником КРО был А.М. Минаев-Цикановский.
Наряду с разведкой и контрразведкой органов госбезопасности борьбой против эмиграции занималась и Особая группа при председателе ОГПУ, возглавляемая по-прежнему Я.И. Серебрянским, осуществлявшая, в частности, акты диверсионно-террористического характера против ее лидеров и активистов. Как уже упоминалось ранее, Серебрянский и его сотрудники развертывают в 30-е годы собственную агентурную сеть и создали двенадцать своих резидентур на территории основных стран Европы, Азии и Америки. Будучи высочайшим профессионалом разведки, Серебрянский лично завербовал более 200 человек. По существующим данным, с декабря 1936 года занимаемая им должность (и соответственно возглавляемая структура) официально звучала так: начальник Группы особых заданий при наркоме внутренних дел СССР
.
Одновременно с развернутой под руководством Ежова деятельностью против «врагов народа» внутри страны продолжалась и борьба против Русского Зарубежья, и особенно против военной эмиграции и ее организаций.
До 1939 года не произошло принципиальных изменений в структуре военной разведки, которая также участвовала в борьбе по выявлению и пресечению планов военной эмиграции и ее лидеров. Вместе с тем в руководстве и в кадрах Разведупра налицо были большие перемены, и главным образом в результате массовых репрессий. В 1936 году усилились разногласия между начальником военной разведки С.П. Урицким и пришедшими в нее из разведки органов госбезопасности А.Х. Артузовым (занимавшим должность его заместителя) и руководителями ведущих отделов О.О. Штейнбрюком и Ф.Я. Кариным. Последние были отстранены Урицким от обсуждения оперативных вопросов, и он систематически угрожал им снятием с должности.
