Возвратившись в Россию, в Москву, в 1899 году Азеф поступает на службу во Всеобщую электрическую компанию. Вскоре, как инженер этой компании, он переезжает в Петербург. Но неожиданно Азеф бросает перспективную службу и с головой уходит в революцию. В Москве в 1899–1900 годах Азеф примыкает к «Северному союзу социалистов-революционеров» и становится другом Герша Гершуни – будущего лидера партии эсеров.

Первым крупным «делом» Азефа стала выдача полиции типографии эсеров в Томске и руководителей «Союза социалистов-революционеров» во главе с А. Аргуновым. Перед арестом Аргунов передал Азефу явки и пароли Союза, связи Союза с заграничными центрами. Для укрепления влияния Азефа среди революционеров из фондов Департамента полиции Азефу было передано 500 рублей для партии эсеров.

Азеф сыграл вместе с Гершуни главенствующую роль в партии социалистов-революционеров (эсеров), которая была сформирована к декабрю 1901 года. В 1901 году Гершуни и Азеф разработали план широкой террористической кампании и создали для этого Боевую организацию террористов. Избранный в Центральный комитет партии эсеров в 1902 году Азеф занимал чуть ли не первое место в ЦК благодаря той исключительной роли, которую он играл при организации террористических актов. Азеф организует ввоз в Россию революционной литературы через Финляндию. Когда царской полиции удается захватить Григория Гершуни, власть Азефа в Боевой организации становится неограниченной. Как представитель партии эсеров Азеф участвует в работе международных социалистических съездов в Амстердаме и Штутгарте. В руках Азефа сосредоточены все заграничные связи партии эсеров.

Террор в России начался в феврале 1901 года, когда эсер П. Карпович смертельно ранил министра народного просвещения Н. Боголепова. А первым терактом Боевой организации Гершуни – Азефа стало убийство министра внутренних дел Д. Сипягина. Сипягин пал жертвой террора за подавление студенческих демонстраций в 1899 и 1901 годах. Во время студенческих беспорядков он грозил «потопить Петербург в крови», если начнутся уличные манифестации. 2 апреля 1902 года в кабинете министра в Мариинском дворце член Боевой организации эсеров Степан Балмашев стреляет в Сипягина. В 1902 году Азеф организует Петроградский Комитет эсеров и провоз из-за границы в Россию нелегальной революционной литературы в холодильных аппаратах.

В мае 1903 года слесарь Уфимских железнодорожных мастерских эсер-террорист Е. Дулебов убивает генерал-губернатора Н. Богдановича. В подготовке покушения на Богдановича Азеф играет главную роль. Летом 1903 года после ареста Гершуни и выезда Брешко-Брешковской за границу Азеф остается единственным руководителем партии эсеров в России, руководителем Боевой организации. Азеф добился «монопольного права» участия в эсеровском терроре со стороны контролируемой им «боевой организации» и с помощью полиции устраняет собственных конкурентов среди руководителей эсеров.

В январе 1904 года, по возвращении из Западной Европы в Россию, Азеф «преобразовывает» и набирает новых членов в Боевую организацию. Он создает в Петрограде «динамитную» лабораторию, привлекает для террористических актов таких искренних борцов против царизма, как Каляев, Сазонов, Покотилов, Швейцер… Всякая другая работа, кроме террористической, объявлялась Азефом несущественной.

15 июля 1904 года эсер Е. Созонов на Измайловском проспекте бросил бомбу в карету министра внутренних дел В. Плеве. В результате теракта Плеве убит, а тяжело раненного Созонова арестовали. В начале 1905 года эсер И. Каляев бросил бомбу в Московского генерал-губернатора, великого князя Сергея Александровича Романова; в конце года эсерка А. Биценко застрелила усмирителя аграрных волнений в Саратовской губернии генерал-лейтенанта В. Сахарова.

Террористические акты были совершены эсерами против начальника охранного отделения Нижнего Новгорода, губернатора Уфы, градоначальника Москвы, командира Семеновского полка генерала Г. Мина. Готовились покушения на полковника Н. Римана, министра внутренних дел П. Дурново, генерал-губернатора Москвы Ф. Дубасова… Все террористические акты – дело рук Боевой организации Азефа при Центральном комитете партии социалистов-революционеров. Под непосредственным руководством Азефа проходят политические убийства петербургского градоначальника фон дер Лaуница, губернатора Сахарова, прокурора Павлова, графа Игнатьева, провокаторов Татарова и Гапона.

С 1902 по 1911 год более двухсот раз рвались в России эсеровские бомбы и гремели выстрелы. Объектами террористических актов стали два министра, 33 губернатора, генерал-губернатора и вице-губернатора, 16 градоначальников, начальников охранных отделений, полицмейстеров, прокуроров, помощников прокуроров, начальников сыскных отделений, 24 начальника тюрьмы и других тюремных чиновников, 26 приставов, исправников и их помощников, 7 генералов и адмиралов, 15 полковников, 8 присяжных поверенных, 26 шпионов и провокаторов.

Еще в 1903 году впервые появилось письмо-упреждение, касающееся провокатора Азефа. Тогда Азеф, сидя в кругу однопартийцев, испугался до истерики: рвал на себе рубаху, плакал. Но убедившись, что авторитет его не поколеблен, пришел «в шутливое настроение».

В 1905 году Азеф принимает активное участие в перевозке значительного количества оружия для вооруженного восстания через Финляндию на пароходе «Джон Крафтон».

Азеф тщательно готовит рад покушений на великого князя Николая Николаевича, на великого князя Владимира Александровича, на генерала Трепова, на начальника петербургского охранного отделения, на Клейгельса, Дурново, адмирала Дубасова… Но все эти покушения кончаются провалом. Когда Первая Государственная дума была распущена, в Териоках (Финляндия) состоялось совещание «перводумцев» для выработки революционного воззвания к народу, армии и флоту. Азеф активно участвует в этом совещании и предлагает принять радикальные меры.