Неудивительно, что март 1937 года стал месяцем резкого обострения закулисной внутриполитической борьбы. Очевидно, что против Сталина активизировалась тайная борьба многих видных деятелей в партийном и военном руководстве страны. Имевшиеся в германских правящих кругах сведения позволили Паулю Кареллу утверждать, что «в марте 1937 года соперничество между тайными агентами Тухачевского и Сталина обострялось и становилось все более драматичным». Объясняя, почему Тухачевский не выступил в марте, Карелл считает, что в это время «каждый шаг офицеров Генерального штаба и командующих округами, штабы которых были размещены на десятки тысяч километров друг от друга, было трудно координировать. К тому же усиленное наблюдение за ними со стороны НКВД заставляло их действовать с максимальной осторожностью».

Однако в это время сам наркомат внутренних дел переживал период чистки. В марте 1937 года Ежов направил почти всех руководителей отделов НКВД, остававшихся еще на своих постах со времен Ягоды, для проведения инспекций на местах. Как утверждал Р. Конквест в своей книге «Великий террор», все они «были арестованы на первых же станциях после выезда за пределы Москвы и доставлены в тюрьмы. Через два дня таким же образом были арестованы все заместители руководителей отделов. Одновременно Ежов сменил охрану НКВД на всех наиболее важных постах». 18 марта Ежов в своем выступлении перед коллективом центрального аппарата НКВД объявил Ягоду преступником и тот был арестован 3 апреля. Аресты бывших сотрудников Ягоды были продолжены. Р. Медведев утверждает, что «не менее десяти — пятнадцати видных работников НКВД покончили жизнь самоубийством». Называя фамилии тех, кто был арестован или покончил жизнь самоубийством, Рыбин писал, что многие из них участвовали в заговоре Ягоды: «Аресты Ягоды, Агранова, Паукера, Воловича и Гинцеля проходили на моих глазах. Комендант Кремля комиссар Тал кун, подчиненный непосредственно Ягоде, застрелился. Комиссар Даген был арестован, комиссар Курский застрелился, капитан Черток, порученец Ягоды, бросился с седьмого этаже и разбился насмерть. Затем исчезли Панов, Тихонов, Козлов и Голубев. Словом, весь наш командный состав разных рангов».

17 марта был снят с поста второго секретаря ЦК КП(б) У проводник жесткой линии кандидат в члены Политбюро Постышев. Хотя он был избран первым секретарем Куйбышевского обкома партии, в Киеве развернулась кампания против «небольшевистских методов работы» Постышева.

В апреле были продолжены аресты среди военных. Были арестованы заместитель начальника автобронетанкового управления РККА М. М. Ольшанский, командир 9-го стрелкового корпуса Московского военного округа Г. Н. Кутателадзе, бывший начальник охраны правительства В. Паукер, бывший комендант Кремля Р. А. Петерсон, заместитель коменданта Кремля дивизионный комиссар М. А. Имянинников.

Эти события заставили участников заговора ускорить время выступления. По словам Карелла, на 1 мая 1937 года было назначено выступление. Выбор дня переворота был обусловлен главным образом тем, что «проведение первомайского военного парада позволяло бы ввести военные части в Москву, не вызвав подозрений». Однако в развитие событий вмешались внешнеполитические обстоятельства.

В это время в Западной Европе стали широко распространяться слухи о том, что в Москве готовится военный переворот. В «Бюллетене оппозиции» Троцкий писал о том, что «недовольство военных диктатом Сталина ставит в повестку дня их возможное выступление». 9 апреля 1937 года начальник ГРУ Красной Армии С. Урицкий сообщал Сталину и Ворошилову о том, что в Берлине ходят слухи об оппозиции советскому руководству среди военачальников страны.

Сведения о заговоре Тухачевского поступали также из других стран. 18 мая 1937 года советский военный атташе в Эстонии полковник В. И. Тупиков сообщил в Москву: «Месяца два назад в разговоре со мной Маазинг (начальник эстонской военной разведки) сказал, что он думает, что, по его данным, история с Ягодой и троцкистские процессы должны в скором времени коснуться и армии. Персонально он ни на кого не напирал, но назвал маршала Тухачевского. Вследствие того, что эта фамилия склонялась многократно в зарубежной прессе, я тогда этому не придал значения. Нов конце апреля разговор на эту тему возник вновь, и Маазинг сказал, что у него имеются проверенные данные, что маршала Тухачевского снимут тотчас после поездки на коронацию в Лондон».

В конце апреля в Лондоне было объявлено, что 12 мая 1937 года состоится коронация Георга VI, вступившего пять месяцев назад на престол вместо отрекшегося от трона Эдуарда VIII. В Москве было решено, что советскую делегацию на эту королевскую церемонию вновь возглавит Тухачевский. По словам Карелла, узнав о своей командировке в Лондон, Тухачевский решил воспользоваться этим случаем для того, чтобы еще раз договориться с немецкими генералами о сотрудничестве во время и после переворота. «Тухачевский отложил переворот на три недели. Это было его роковой ошибкой».

Существуют сведения о том, что действия заговорщиков были предотвращены в последнюю минуту. Празднование 1 мая в Москве для посвященных в суть дела прошло в обстановке тревожного ожидания непредвиденных событий. По свидетельству моего отца, находившегося 1 мая 1937 года на одной из трибун Красной площади, во время парада среди присутствовавших распространился слух о том, что вот-вот будет взорван Мавзолей, на котором находились Сталин и другие руководители страны. Ходили слухи и о других готовящихся терактах. Павел Мешик, впоследствии ставший видным деятелем СМЕРШа, а затем расстрелянный в декабре 1953 года и реабилитированный посмертно в 2000 году, в частных разговорах утверждал, что свой первый орден он получил за успешную поимку террориста, который уже занял позицию, чтобы открыть огонь по трибуне Мавзолея во время первомайских торжеств 1937 года.

Английский журналист Фицрой Маклин, присутствовавший 1 мая 1937 года на Красной площади, писал, что ему бросилась в глаза повышенная напряженность в поведении руководителей, стоявших на Мавзолее Ленина: «Члены Политбюро нервно ухмылялись, неловко переминались с ноги на ногу, забыв о параде и своем высоком положении». Лишь Сталин был невозмутим, а выражение его лица было одновременно «и снисходительным, и скучающе-непроницаемым». Напряжение царило и среди военачальников, располагавшихся до войны на трибуне у подножия Мавзолея. Как писал бежавший из СССР В. Кривицкий, присутствовавшие на Красной площади заметили, что Тухачевский «первым прибыл на трибуну, зарезервированную для военачальников… Потом прибыл Егоров, но он не ответил на его приветствие. Затем к ним присоединился молча Гамарник. Военные стояли, застыв в зловещем, мрачном молчании. После военного парада Тухачевский не стал ждать начала демонстрации, а покинул Красную площадь».