Весной 1920-го решением Гомельского губкома РКП(б) направлен на работу в органы ВЧК. С мая уполномоченный ОО Гомельского укрепрайона; затем уполномоченный по военным делам, член Коллегии и, наконец, — заместитель председателя Гомельской губЧК.

Активно участвовал в борьбе с бандитизмом на Гомелыцине: руководил агентурной разработкой и захватом известного авантюриста Опперпуга, ликвидацией савинковской организации (агентурное дело «Крот») и бандформирований Булак-Булаховича. В октябре 1921-го в бою у м. Давыдовка был тяжело ранен в левую голень. В течение 4 месяцев находился на излечении.

После выздоровления в марте 1922-го переведен в г. Уфу на должность члена Коллегии Башкирского губотдела ГПУ.

В мае 1923-го отозван в Москву и назначен уполномоченным, а затем заместителем начальника отделения Восточного отдела ОГПУ. Одновременно приступил к учебе на Восточном факультете ВА РККА.

В октябре 1925-го после завершения учебы, зачислен в ИНО ОГПУ и в том же году направлен резидентом внешней разведки в Шанхае.

С 1926-го под прикрытием консула СССР возглавлял резидентуры в Пекине, а с 1927-го и в Харбине. Во время работы в Китае Эйтингону удалось добиться освобождения группы советских военных советников, захваченных китайскими националистами в Маньчжурии, сорвать попытку захвата советского консульства в Шанхае агентами Чан Кайши. В 1928-м совместно с резидентом разведупра РККА в Шанхае X. Салнынем организовал устранение фактического диктатора пекинского правительства маршала Чжан Цзолиня.

Весной 1929-го, после разгрома китайской полицией советского консульства в Харбине, отозван в Москву и направлен в Турцию на должность легального резидента в Стамбуле под прикрытием атташе консульства СССР Леонида Александровича Наумова. Резидентура ОГПУ в Турции не работала против страны пребывания, а сосредоточила усилия на добывании информации в иностранных посольствах в Константинополе. Большое количество секретных документов добывалось в японском, французском и австрийском посольствах: С середины 1928-го в Стамбуле существовала нелегальная резидентура, работавшая по всему Ближневосточному региону. Во главе ее сначала был Я. Г. Блюмкин,а после его ареста в 1929-м за связь с Троцким — Г. Агабеков. В задачу Эйтингона в том числе входила организация связи Агабекова с Центром. Помимо этого, в декабре 1929-го он по поручению ИНО принял агентуру в Греции после ареста там нелегального резидента ОГПУ.

В июне 1930-го Агабеков бежал на Запад. Опасаясь провала, Центр в срочном порядке отозвал Эйтингона в Москву.

По возвращении в Центр Эйтингон, сделавший псевдоним «Леонид Александрович Наумов» своим именем, был назначен заместителем у Я. И. Серебрянского — начальником Особой группы при Председателе ОГПУ (Группа «Яши»),

В период работы в ОГ Эйтингон несколько раз выезжал за рубеж, в том числе в Калифорнию, где руководил созданием там глубоко законспирированной нелегальной агентурной сети. Однако сработаться с «Яшей» Эйтингону не удалось, и в 1931-м он перешел на должность начальника 8-го отделения ИНО ОГПУ и в скором времени командирован во Францию, а затем в Бельгию. По возвращении в Москву, с марта 1933-го нач. 1-го отделения (нелегальная разведка) ИНО, и во второй половине 1933 вновь направлен за рубеж для работы в нелегальных резидентурах в США.

В 1936-м, после начала Гражданской войны в Испании, Наумов-Эйтингон под именем Леонида Александровича Котова направлен в Мадрид в качестве заместителя A. M. Орлова(«Швед») — резидента НКВД и главного советника по безопасности при республиканском правительстве. В задачи «генерала Котова» входила подготовка испанских сил госбезопасности, руководство партизанскими операциями республиканцев в тылу противника. Он также участвовал в ликвидации руководителей испанской Рабочей партии марксистского единства (ПОУМ).

После побега на Запад «Шведа» в июле 1938-го «Котов» возглавил резидентуру. Центр поручил ему восстановить связь с одним из членов «Кембриджской пятерки» Гаем Берджесом(«Медхен»).

После поражения республиканцев в 1939-м Эйтингон руководил эвакуацией советских специалистов и добровольцев из Испании в СССР, затем перебрался во Францию, где в течение нескольких месяцев реорганизовывал и восстанавливал остатки испанской агентурной сети НКВД. В Париже Л. А. Эйтингон («Пьер») наладил работу с «Медхен», который в марте 1939 был передан на связь легальному резиденту НКВД в Лондоне А. В. Горскому.Во Франции «Пьеру» удалось привлечь к сотрудничеству с советской разведкой племянника главы испанской фаланги Примо де Риверы, который до 1942-го был важным источником информации о планах Франко и Гитлера.

Еще в 1937–1938-м И. В. Сталин принял решение положить конец международному троцкистскому движению путем физического устранения его лидера — Л. Д. Троцкого («Старика»), однако целый ряд попыток внедриться в его окружение и осуществить указание вождя по различным причинам не увенчался успехом. В марте 1939-го Генсек вернулся к проблеме «Старика», перебравшегося к тому времени в Мексику.

Общее руководство операцией, получившей кодовое наименование «Утка», было поручено П. А. Судоплатову.Тот, в свою очередь, предложил возложить непосредственную организацию и осуществление операции на месте на Наумова-Эйтингона.

Первая попытка ликвидировать «Старика», предпринятая 20.05.40 во время нападения на его виллу в Койоакане группы боевиков во главе с известным художником Давидом Сикейросом, закончилась неудачей. Тогда был приведен в действие второй вариант, где главная роль отводилась молодому испанскому коммунисту Рамону Меркадеру,привлеченному Эйтингоном к сотрудничеству с советской разведкой еще в Испании.

Меркадеру (по легенде — бельгийскому журналисту Жаку Морнару) удалось войти в ближайшее окружение Троцкого. 20.08.40 Меркадер, находясь в кабинете Троцкого, нанес ему удар ледорубом по голове. На следующий день «Старик» скончался. Сам Меркадер был задержан охраной и арестован. Эйтингону и матери Рамона — Каридад Меркадер удалось покинуть Мексику.