Все эти бурные события конца 1927 года Блюмкин застал лишь частично. «Это было уже после демонстраций оппозиции, — вспоминал он. — Самый же факт апелляции оппозиции к беспартийным массам я усваивал с большим трудом и не разделял ее». Но теперь ему предстояло думать: что делать? Как совместить службу в ОГПУ с его оппозиционными настроениями? Скрывать ли их от руководства? Или, наоборот, сделать демонстративный шаг и уйти из «органов»?

Впрочем, позже в своих показаниях Блюмкин утверждал, что руководство ОГПУ было информировано о его оппозиционных настроениях еще в то время, когда он находился в Монголии. «ГПУ знало мои шатания», — утверждал он.

Здесь, скорее всего, Блюмкин не врал. Действительно, сразу после возвращения в Москву он встречался с новым главой ОГПУ, сменившим на этом посту умершего в 1926 году Дзержинского, Вячеславом Менжинским, а также с Трилиссером и Ягодой. Что касается его службы в Монголии — то всё обошлось. Ему попеняли на недостатки в поведении и попросили написать отчет о работе. С его оппозиционной деятельностью всё оказалось сложнее. Блюмкин заверил начальство в своей «чекистской лояльности», но полностью от оппозиции не отмежевался. Он признавался, что для него самого такая терпимость оказалась «неожиданной».

Его судьба решилась довольно быстро — Блюмкина решили оставить в закордонной разведке. Все-таки в делах оппозиции к тому времени он еще активно поучаствовать не успел, и как разведчика его, вероятно, ценили высоко. Да и времена в 1927 году были еще относительно лояльные.

Блюмкину предложили отдохнуть и подлечиться в санатории. Это было кстати — он и сам чувствовал себя не очень хорошо. Сказывались последствия петлюровских побоев, кочевого образа жизни, да и алкоголь сыграл свою роль. Медицинская комиссия рекомендовала ему двух-трехмесячный отпуск с лечением.

До того как отправиться на отдых, он установил связь с оппозицией (Блюмкин утверждал, что об этом он тоже проинформировал своих руководителей по ОГПУ). Он встречался с видными троцкистами Львом Сосновским (бывшим редактором «Красной газеты», «Гудка» и «Бедноты») и Михаилом Богуславским, которые рассказали о его «смене курса» самому Троцкому. Оппозиция думала, как ей лучше всего использовать Блюмкина. Большинство склонялось к тому, что он мог бы стать полезен в будущем для нелегальной работы, если дело дойдет до нее, а пока ему рекомендовали особо не распространяться о своих взглядах.

Блюмкин оценивал ситуацию в лагере оппозиции как «полнейшую сумятицу по части организационных перспектив». Одни думали о нелегальной работе, другие готовились к арестам, третьи считали, что нужно подчиниться решениям партии. Такая неопределенность, утверждал Блюмкин, «меня, человека, привыкшего к организационной четкости, расхолаживала».

Сосновский предложил Блюмкину информировать оппозицию о том, что происходит в ОГПУ. Он не то чтобы прямо отказался от этого, но особо ничего ценного не сообщил.

Позже, уже на Лубянке, он напирал на то, что и при всем желании не мог бы сообщить оппозиции ничего ценного. Ведь у него практически не было контактов с сотрудниками из тех отделов, которые занимались троцкистами, зиновьевцами и прочими «отщепенцами». «Как работник закордонной части ИНО я никакого отношения к материалам других отделов не имел, никогда не получал и не видел общеинформационных сводок ОГПУ», — писал Блюмкин. Да и вообще — «общая чекистская сдержанность и скрытность сама по себе достаточное препятствие для информирования».

Но кое о чем он все-таки информировал оппозицию. Как признавался сам Блюмкин, на квартире у Сосновских он, например, «рассказывал вещи полусплетнического характера». Однажды он узнал, что руководителям ОГПУ «известны какие-то мероприятия оппозиционеров… по подысканию квартиры для Зиновьева». Об этом Блюмкин сообщил Сосновскому в «шутливой форме». В другой раз он слышал на работе разговоры о том, что в одной из иностранных миссий расценивают внутрипартийную борьбу как «симптом падения советского режима», и рассказал об этом Сосновскому. Когда Блюмкина собирались направить в Якутию, для подавления антиправительственного восстания, он тоже сообщил об этом оппозиционерам, хотя в Якутию он так и не поехал. «Величайшая невинность, мизерность и случайность этой „информации“ сама по себе достаточно очевидна», — считал он.

К тому времени Сосновский и его жена Ольга, как и многие другие оппозиционеры, были фактически лишены средств к существованию. По словам Блюмкина, они интересовались, не может ли он дать им денег, и сожалели, что «не позаботились припасти денег на черный оппозиционный день». Он пообещал «распродать некоторые личные вещи и соответственно дать».

Между тем в январе 1928 года лидеров оппозиции начали высылать из Москвы. Троцкого выслали в Алма-Ату (он отказался идти на вокзал добровольно, и агентам ОГПУ пришлось выносить его из квартиры на руках), Каменева — в Калугу, Зиновьева — в Казань, Раковского — в Астрахань, Радека — в Тобольск, Преображенского — в Уральск, Ивана Смирнова — в Новобаязет в Армении, Сосновского — в Барнаул и т. д. Блюмкин с Сосновским попрощался по телефону. После его высылки он несколько раз встречался с его женой, и на этих встречах она якобы опять просила его дать денег.