Революцию он встретил в Баку. Женился на сестре товарища по партии. После падения Бакинской коммуны уехал в соседнюю Персию — вместе с родителями жены. Семья искала там спасения от хаоса Гражданской войны. Так он оказался в городе Реште, столице образованной с помощью Красной армии Персидской Советской Республики, где познакомился с молодым чекистом Яковом Григорьевичем Блюмкиным. Тот взял Серебрянского в особый отдел персидской Красной армии.
Потом Серебрянский перебрался в Москву. Служил секретарем административно-организационного отдела ВЧК. В августе 1921 года уволился. Пошел учиться в Электротехнический институт. Эсеры превратились во врагов, и 2 декабря 1921 года Серебрянского арестовали на квартире правого эсера Давида Моисеевича Абезгауза. Серебрянский отсидел четыре месяца. 29 марта 1922 года президиум ГПУ решил его судьбу: из-под стражи освободить, но взять на учет и запретить работать в политических, разыскных и судебных органах, а также в Наркомате иностранных дел.
От тоски он пристроился в канцелярию нефтетранспортного отдела Москватопа. Но за него поручился другой бывший эсер — Яков Блюмкин, убийца немецкого посла в Москве графа Вильгельма фон Мирбаха. Серебрянский вернулся на Лубянку особоуполномоченным закордонной части Иностранного отдела. Его командировали на нелегальную работу в Палестину. В декабре 1923 года они с Блюмкиным прибыли в Яффу.
Блюмкина в июне 1924-го отозвали. Серебрянский остался резидентом. К нему приехала жена Полина, работавшая в Краснопресненском райкоме партии. Начальство было им довольно. В 1925 году его перевели в Бельгию. В начале 1927-го вернули в Москву. В апреле 1929 года Серебрянский возглавил 1-е отделение (нелегальная разведка) Иностранного отдела. И одновременно — Особую группу, главной задачей которой являлась ликвидация врагов за границей. Самой удачной его акцией считается похищение Кутепова.
Председатель ОГПУ Менжинский доложил политбюро, что операция по ликвидации головки РОВСа увенчалась успехом, похищение и уничтожение генерала Кутепова серьезно ослабило военную эмиграцию. Менжинский просил политбюро отметить участников операции в Париже орденами и именным оружием. Серебрянского в марте 1930 года наградили орденом Красного Знамени.
Тринадцатого июня 1934 года — после создания Наркомата внутренних дел — его группу подчинили непосредственно наркому. Теперь она называлась — Специальная группа особого назначения. 29 ноября 1935 года Серебрянскому присвоили высокое звание старшего майора госбезопасности. 31 декабря 1936 года он получил орден Ленина — «за особые заслуги в деле борьбы с контрреволюцией».
Серебрянский и другой еще более известный чекист, Павел Анатольевич Судоплатов, который дослужится до генерал-лейтенантских погон, приняли деятельное участие в работе токсикологической лаборатории, образованной по разрешению Сталина.
Сотрудникам лаборатории объяснили, что создание смертельных препаратов необходимо для операций за кордоном. Но яды были востребованы и в Стране Советов. Разрешение на применение яда давали нарком внутренних дел или его заместитель.
Руководители лаборатории предложили препараты проверять на живых людях. Иначе как гарантировать эффективность создаваемого ими оружия? Пытливым ученым передавали приговоренных к расстрелу. Задача состояла в том, чтобы не только убить, но и скрыть реальную причину смерти. Подмешивали яд в пищу. Делали инъекции. Кололи зонтиком и тростью (этот метод впоследствии возьмут на вооружение). Иногда в людей, превращенных в подопытных кроликов, стреляли отравленными пулями. Или вводили яд в подушку, чтобы человек умер во сне. В некоторых случаях люди погибали долго и мучительно. Иногда агония продолжалась двое суток.
Заместителем Серебрянского в Особой группе стал будущий генерал Наум Эйтингон, уже упоминавшийся на этих страницах. Группа Серебрянского состояла из двадцати оперативников и шестидесяти нелегалов. Сотрудники Иностранного отдела делились на две категории — в зависимости от того, побывали они уже за границей или нет. Первые щеголяли в хорошо сшитых костюмах из добротного материала, носили галстуки, белые рубашки, шляпы. Остальные удовлетворялись гимнастерками, сапогами и кепками.
После того как наркомом внутренних дел стал Берия, на Лубянке прошла большая чистка. Осенью 1938 года Серебрянского отозвали в Москву. 10 ноября Якова Исааковича с женой арестовали, как только они вышли из самолета. Допрашивал Серебрянского будущий начальник военной контрразведки СМЕРШ Виктор Семенович Абакумов, тогда еще лейтенант госбезопасности и начальник отделения во 2-м (секретно-политическом) отделе Главного управления государственной безопасности НКВД. Очень старался отличиться. Допрашивал так, что Яков Исаакович, человек не робкого десятка, всё подписал.
Сохранилось следственное дело № 981168 по обвинению Серебрянского. На странице 35-й дела резолюция наркома: «Тов. Абакумову! Крепко допросить. Л. Берия. 13.XI.1938».
Через много лет, в 1953-м, когда арестовали уже самого Лаврентия Павловича, прокурор СССР Роман Андреевич Руденко поинтересовался:
— Что означало «крепко допросить»?
Берия предпочел уклониться от прямого ответа:
— Не могу сейчас объяснить, что означало слово «крепко».
Шестнадцатого ноября 1938 года Берия сам пожелал допросить Якова Серебрянского. Недавние сослуживцы обвиняли его в том, что он перебросил на советскую территорию группу белогвардейцев, шпионов, террористов и по заданию бывших руководителей ведомства госбезопасности Ягоды и Ежова подбирал яды для терактов против руководителей партии и правительства.
Но вопрос о нем не был решен. 3 августа 1939 года Берия распорядился приостановить дело Серебрянского до особого распоряжения. Яков Исаакович продолжал сидеть. 6 октября 1940 года в прокуратуру Союза ССР ушло обвинительное заключение, в котором Серебрянский именовался агентом французской и британской разведок и участником антисоветского заговора внутри НКВД. Но санкции на расстрел не поступило, так что дело положили под сукно.
А когда началась война, 7 июля 1941 года Военная коллегия Верховного суда спешно приговорила Серебрянского к расстрелу — за измену родине, шпионаж и участие в антисоветской заговорщической организации, в которую его вовлек бывший председатель ОГПУ Ягода. Его жене дали десять лет. Но расстрелять Серебрянского не успели — вмешался майор госбезопасности Павел Судоплатов, только что утвержденный начальником Особой группы при наркоме внутренних дел. Ему поручили вести диверсионную борьбу в немецком тылу. Для эффективной работы понадобились опытные кадры. Он попросил Берию освободить Серебрянского и других видных чекистов.
— Вы уверены, что они нам нужны? — переспросил Берия.
— Совершенно уверен.
Выяснилось, что большинство нужных людей уже расстреляны. А Серебрянскому и его жене повезло. Лаврентий Павлович пошел Судоплатову навстречу, сказал:
— Свяжитесь с Кобуловым, пусть освободят.
Комиссар госбезопасности 3-го ранга Богдан Захарович Кобулов был заместителем наркома госбезопасности.