В начале октября 1929 года Блюмкин был отозван из страны. В Москве он попытался объединить известных ему сторонников Троцкого. В частности, информировал видного троцкиста Карла Радека о своих встречах с Троцким в Стамбуле. Радек, находившийся в опале, немедленно сообщил об этой беседе Сталину. Одновременно Блюмкин рассказал своей близкой знакомой, сотруднице ИНО ОГПУ Елизавете Горской (в дальнейшем видная советская разведчица-нелегал Елизавета Юльевна Зарубина), о своих контактах с троцкистами. Горская рекомендовала Блюмкину немедленно доложить о своих встречах руководству внешней разведки. Однако тот отказался. В свою очередь Горская поставила в известность о разговоре с Блюмкиным помощника начальника Иностранного отдела Михаила Горба. Тот дал ей указание прекратить все контакты с разведчиком.
15 октября Яков Блюмкин был арестован. Следствие по его делу вел заместитель начальника Секретно-политического отдела ОГПУ Яков Агранов, который впоследствии печально прославился участием в необоснованных репрессиях против чекистов. На допросах Блюмкин ничего не скрывал, надеясь на снисхождение. Однако чистосердечное признание ему не помогло. 3 ноября 1929 года Коллегия ОГПУ постановила расстрелять Якова Григорьевича Блюмкина «за повторную измену делу пролетарской революции и Советской власти и за измену революционной чекистской армии».
«Безусловно, Блюмкин являлся очень интересной фигурой, подчеркивал в беседе с автором Анатолий Серебрянский, сын героя нашего повествования. О нем много говорили и много писали. Но писали по-разному. Тем не менее при всех его недостатках это был действительно борец за советскую власть, хотя и с элементами авантюризма. Кстати, я считаю, что у всех работников внешней разведки, добившихся результатов в оперативной деятельности, этот элемент, хотя бы в небольших количествах, всегда присутствовал. Я думаю, что отца в Блюмкине привлек именно его авантюризм, постоянная готовность к риску, неожиданным ситуациям. Полагаю, что в молодости отцу были также присущи некоторые элементы авантюризма. Ну а первая их совместная деятельность относится к периоду существования Гилянской Красной армии».
Первый чекистский опыт. Переезд в Москву
Являясь в Реште комиссаром штаба Красной армии Гилянской Советской Республики, Яков Блюмкин одновременно руководил специальными боевыми операциями в провинции Гилян под именем Якуб-заде. Подыскивая себе помощников, он не мог не обратить внимания на бывшего однопартийца, активиста эсеровского движения Якова Серебрянского. Вряд ли в Реште в то время легко можно было найти бывших профессиональных революционеров-подпольщиков, знакомых с методами конспирации. А ведь именно они в первые годы советской власти составили костяк ВЧК.
Кроме того, оказалось, что по эсеровской партийной линии Блюмкин был хорошо знаком с братом будущей жены Серебрянского и его другом Марком Беленьким. Нельзя исключать, что именно Марк, тесно общавшийся с Серебрянским, мог рекомендовать его Блюмкину как человека, заслуживающего доверия.
Во всяком случае, знакомство двух Яковов в Реште состоялось, и Блюмкин предложил кандидатуру Серебрянского для работы в только что созданном Особом отделе Гилянской Красной армии. Так началась работа будущего разведчика-нелегала в ВЧК. Серебрянский, знавший несколько иностранных языков, был назначен начальником Общего отделения Особого отдела Гилянской Красной армии.
Это был первый опыт чекистской работы Якова Серебрянского.
В августе 1920 года армия Гилянской Советской Республики при поддержке советских войск предприняла наступление на соседнюю провинцию Зенджан с перспективой дальнейшего наступления на Тегеран, но была отброшена иранскими войсками.
В июне Кучек-хан был вынужден уйти из революционного правительства, так как не поддержал аграрную реформу. В новое правительство вошли представители недавно созданной иранской компартии. Началось проведение земельной реформы, была развернута активная антирелигиозная пропаганда.
20 сентября 1920 года, вернув уведенный белогвардейцами флот и убедившись в том, что попытка создания советской власти в Иране не удалась, правительство РСФСР приняло решение о сворачивании своей военной операции в Иране и приступило к переговорам с шахским правительством. 26 февраля 1921 года был заключен советско-иранский договор о постепенном выводе советских войск. Согласно договору советские войска начали покидать Гилян с апреля и были полностью выведены к началу сентября 1921 года.
Как же развивались события после ухода советских войск?
В мае 1921 года Кучек-хан, опиравшийся на помещиков и духовенство, вновь возглавил правительство республики. Вскоре армия республики получила название Персидская Красная армия. А в июне сама республика была переименована в Персидскую Советскую Социалистическую Республику. В том же месяце был предпринят повторный поход в провинции Мазендеран и Зенджан и сделана попытка овладеть Тегераном. Но и она вновь оказалась неудачной.
В конце сентября 1921 года, опасаясь усилившегося влияния компартии и развития революционных событий, Кучек-хан организовал переворот и уничтожил своих главных политических противников. В республике началась гражданская война. 2 ноября, воспользовавшись смутой, ее заняли войска иранского правительства.
Мирза Кучек-хан бежал и погиб в горах. Его голову выставили на всеобщее обозрение в городе Решт.
После поражения Гилянской Республики Серебрянский в конце августа 1920 года переехал через Баку в Москву, где продолжил службу в центральном аппарате ВЧК в качестве оперативного работника. Вместе с Яковом в Москву приехала и Полина Беленькая, ставшая его женой. В Саратове, где они оказались проездом, Яков и Полина сочетались законным браком.
По прибытии в Москву Яков Серебрянский был зачислен в штат Особого отдела ВЧК. Начальником отдела в тот период был Вячеслав Рудольфович Менжинский член Коллегии ВЧК.
Однако уже 3 мая 1921 года из Особого отдела Серебрянский был переведен на должность секретаря в Административно-организационное управление (АОУ) ВЧК.
Начальником управления был назначен Иван Андреевич Апетер, служивший в ВЧК с 1918 года. Управление ведало разработкой структуры ВЧК, штатами, подбором и расстановкой кадров, изданием приказов, составлением смет, командированием и увольнением сотрудников, а также проверкой работы губернских ЧК. То есть решало достаточно важные задачи, но не являлось оперативным. Сейчас трудно сказать, связан ли был переход Серебрянского на работу в АОУ с его собственным желанием. Но, скорее всего, такое неожиданное решение было продиктовано обострением политической ситуации: Серебрянский являлся бывшим правым эсером и к тому же не был членом РКП(б).
Впрочем, служба Серебрянского в центральном аппарате ВЧК длилась недолго. В августе 1921 года он увольняется из ВЧК по демобилизации и поступает на учебу в созданный в феврале того же года Московский электротехнический институт народной связи им. В. Н. Подбельского (в настоящее время Московский технический университет связи и информатики). Здесь стоит отметить, что ряд будущих подчиненных Серебрянского в свое время также закончили именно этот вуз.
Что касается супруги Серебрянского Полины Натановны, то в 1921 году она стала членом ВКП(б) и начала работать в Краснопресненском райкоме партии.