Митрополит Сергий был освобожден в марте 1927 года с условием, что он, как когда-то и Патриарх Тихон, выразит лояльность Советскому правительству. Это произошло 29 июля 1927 года. Под давлением власти митрополит Сергий выступил с посланием, известным как «Декларация», которая выдвигала тезис, что можно быть православным христианином и одновременно «сознавать Советский Союз своей гражданской родиной, радости и успехи которой – наши радости и успехи, неудачи – наши неудачи». Митрополит Сергий просил Русскую Церковь Зарубежом действовать абсолютно аполитично либо отделиться от Русской Православной Церкви. Реакция на заявление митрополита Сергия в церковных кругах была противоречивой. Зарубежный (Карловацкий) синод отверг и осудил его. Часть священнослужителей внутри страны, расценив поступок митрополита как предательство интересов Церкви, ушла в подполье, присвоив себе название – Истинно православная церковь. Часть, не будучи солидарны с рядом положений Декларации, оценили ее характер как вынужденный, сохранили доверие к Сергию как руководителю Патриаршей Церкви. Остальные полностью приняли Декларацию. Однако надежды митрополита и его сторонников в отношении власти не оправдались.

Репрессии по сравнению с 1922 годом утроились, и Л.М. Каганович написал в 1929 году: «Церковь – это единственная легальная контрреволюционная сила». Началась третья волна гонений. В 1929 году в Москве были разрушены несколько монастырей, которые веками почитались во всей России: Чудов, Вознесенский, Сретенский, Никитский, а также были разрушены кладбища Свято-Алексеевского, Андроникова, Симонова и Новоспасского монастырей. В 1930 году был закрыт последний из еще действовавших московских монастырей – Даниловский. 5 декабря 1931 года был взорван в Москве кафедральный храм Христа Спасителя. Аресты духовенства и административное закрытие храмов возобновились с новой силой. 15 мая 1932 года был принят «антирелигиозный пятилетний план», и начавшаяся пятилетка (1932–1936) была названа «безбожной». Был поставлен план уничтожить все церкви. Г.М. Маленков писал в записке И.В. Сталину: «Пора покончить с клерикальными организациями и с церковной иерархией». Начались массовые аресты духовенства. Было произведено около 60 тысяч арестов и 5 тысяч казней. В один только день – 18 февраля 1932 года – были арестованы все оставшиеся в живых монахи в Санкт-Петербурге, которых было почти 500 человек.

Сформировался «Союз воинствующих безбожников», который действовал энергично и жестоко. Была отменена семидневная неделя, потому что она основывалась на христианском календаре, в школах было введено преподавание атеизма. Синод Русской Церкви, возглавлявшийся митрополитом Сергием, юридического признания от государства не получил и в мае 1935 года вынужден был «самоликвидироваться».

В 1937 году председатель Союза воинствующих безбожников Е. Ярославский (Губельман) заявил, что «в стране с монастырями покончено». Четвертая волна гонений 1937–1939 годов примерно в 10 раз превышала по арестам гонения 1922 года, а по расстрелам – в 80 раз. Был расстрелян каждый второй. В течение 1937–1938 годов НКВД повсеместно провел массовые операции по арестам и расстрелам духовенства. Эти репрессии затронули также и обновленцев. Общее количество репрессий – около 200 тысяч, а казней – 100 тысяч. К 1939 году церковная структура по всей стране была практически уничтожена. Епархии как административные единицы фактически исчезли. Значительная часть духовенства истреблена физически или находилась в лагерях. К началу осени 1939 года в СССР было всего лишь 4 зарегистрированных архиерея (2 правящих и 2 викарных), около 300 священнослужителей и примерно столько же действовавших храмов.

Русская Православная Церковь восприняла свое мученичество с христианским смирением, воплощая на практике то, о чем писал Патриарх Тихон в 1919 году: «Чадца мои! Пусть слабостью кажется иным эта святая незлобивость Церкви, эти призывы наши к терпеливому перенесению антихристианской вражды и злобы… Но мы умоляем вас, умоляем всех наших православных чад не отходить от этой единой спасительной настроенности христианина, не сходить с пути крестного, ниспосланного нам Богом, на путь восхищения мирской силы или мщения. Не омрачайте подвига своего христианского возвращением к такому пониманию защиты благополучия Церкви, которое бы унизило ее и принизило вас до уровня действий ее хулителей».

Ситуация серьезно изменилась с сентября 1939 года, когда к СССР были присоединены республики Балтии, Западная Украина, Западная Белоруссия и Бессарабия. В результате этого на территории СССР оказалось свыше 7 миллионов православных верующих, организованных в епархии и приходы, действующие монастыри, учебные заведения, редакции церковных изданий и т. д. Точной статистики действовавших в канун Великой Отечественной войны храмов нет, но, по некоторым данным, их число составляло около 4 тысяч храмов, более 90 % которых приходилось на вновь включенные области и республики, а количество священнослужителей составляло около 6 тысяч человек.

Внутри страны ситуация начала меняться с 22 июня 1941 года. Когда нацистские войска Гитлера напали на Советский Союз, И.В. Сталин понял необходимость получения помощи Церкви. Она была необходима, чтобы с ее помощью возжечь патриотическое чувство народа, усилить народное согласие перед лицом Великой Отечественной войны. Сталин должен был принимать в расчет православие как важный элемент для единства народа и укрепления его национальных чувств. Это позволило Русской Православной Церкви воссоздать минимальные структуры для собственного выживания. 22 июня 1941 года митрополит Сергий, вернувшись в канцелярию Патриархии от воскресной литургии в Богоявленском соборе, собственноручно отпечатал Послание пастырям и пасомым Христовой Православной Церкви, в котором призывал всех стать на защиту Родины. Обращение было разослано по всем епархиям. 26 июня в Богоявленском соборе Москвы митрополит Сергий отслужил молебен о даровании победы, после чего подобные молебствия стали совершаться во всех храмах Русской Церкви. Была организована широкая кампания по сбору средств, на которые были построены и переданы действующей армии танковая колонна имени Дмитрия Донского и эскадрилья имени Александра Невского. С началом Великой Отечественной войны по инициативе властей начался процесс принятия в Патриаршую Церковь обновленческих клириков и архиереев.

В условиях вынужденного военно-политического союза с Великобританией и США И.В. Сталин встал перед необходимостью прекратить антирелигиозную и антицерковную кампании в СССР, которые имели крайне негативное воздействие на общественное мнение союзных держав. Ф.Д. Рузвельт прямо обусловил оказание помощи не только ослаблением репрессий против религии, но и улучшением ее правового и политического положения в СССР.

Другим серьезным фактором в ослаблении репрессий против религии было церковное возрождение на территориях СССР, находившихся под контролем Германии. Перешедшие в стратегическое наступление Вооруженные Силы СССР по соображениям политической целесообразности не могли сразу возобновлять на занимаемых территориях прежнюю репрессивную практику

5 июня 1943 года И.В. Сталин подписал секретное постановление Государственного комитета обороны «Об утверждении мероприятий по улучшению зарубежной работы разведывательных органов СССР», в котором религиозные организации впервые были отнесены к объектам, «представляющим интерес для органов внешней разведки СССР». Примером такого интереса может послужить деятельность Русской Православной Церкви на Балканах и на Ближнем Востоке, где через Московский Патриархат распространялось советское влияние, к серьезной озабоченности Запада. Накануне Тегеранской конференции, состоявшейся в конце 1943 года, Сталину необходимо было сделать публичный жест и продемонстрировать свою лояльность к Церкви в стремлении увеличить помощь Запада.