А. А. Волин был заместителем прокурора республики полтора года. 25 июля 1939 года приказом Прокурора Союза ССР М. И. Панкратьева Анатолий Антонович назначается Прокурором РСФСР. Сразу навалилась масса неотложных дел. В их число он включил и вопрос о подыскании подходящего здания для прокуратуры. Для того, чтобы «пробить» его, ему пришлось приложить немало труда и настойчивости. Для аппарата республиканской прокуратуры он присмотрел здание под № 13 на Кузнецком мосту. Совет Народных Комиссаров РСФСР принял решение предоставить его прокуратуре.

Однако проблема заключалась в том, что там размещалось несколько учреждений: прокуратура Московской области, два народных суда, редакция газеты «Труд» и даже Шахматный клуб Ботвинника. После долгих утрясок, а также преодоления «вето” тогдашнего первого секретаря Московского городского комитета ВКП(б), кандидата в члены Политбюро Щербакова, вопрос был решен положительно. Правда, Волину пришлось лично встречаться с «хозяином» Москвы и долго убеждать его в необходимости перемещения прокуратуры республики в отдельное здание. Только после этого все уладилось.

А. А. Волин с присущими ему энтузиазмом и энергией принялся за решение и других вопросов, в частности, кадровых и финансовых. Были укреплены отделы аппарата прокуратуры республики, утверждены должности трех заместителей, в том числе и по кадрам. «Разрешение проблемы с помещением и проблемы кадров, передача прокуратуре республики вопросов финансирования — все это имело важное значение для повышения самостоятельности прокуратуры республики, — вспоминает А. А. Волин. — Но главным оставалась организация руководства периферийными органами прокуратуры. Было решено начать регулярные обследования прокуратур автономных республик, краев и областей, а в некоторых случаях — городских и районных прокуратур по важнейшим аспектам их деятельности. Для заслушивания результатов обследования и содокладов прокуроров автономных республик, краев и областей при прокуроре республики было образовано постоянно действующее оперативное совещание с принятием по его результатам постановлений, в соответствующих случаях оформляемых приказом прокурора республики. Это не могло не сказаться на повышении роли и авторитета прокуратуры республики».

В течение 1940–1941 годов (до Великой Отечественной войны) А. А. Волин принял участие в целом ряде совещаний, проведенных Прокуратурой Союза ССР, а также сам организовал несколько крупных мероприятий, направленных на повышение активности и эффективности прокурорского надзора и следственной работы.

Пожалуй, самые трудные годы для Волина пришлись на Великую Отечественную войну. На третий день после ее начала Прокурор Союза ССР Бочков издал приказ № 57с, где были намечены все узловые вопросы, призванные стать определенной канвой для перестройки работы органов прокуратуры на военный лад. Соответствующий приказ подготовил и А. А. Волин. Напряжение, с каким работал тогда Анатолий Антонович и возглавляемый им аппарат, было очень велико. Заполненные до отказа делами дни, бессонные ночи, ответственнейшие персональные поручения правительства, многочисленные поездки по стране изматывали до предела. И все это в условиях военного времени, когда права на ошибку не было.

В самые трудные годы военного лихолетья в прокуратуре республики рабочий день продолжался с 9 до 24 часов с перерывом для отдыха с 18 до 20 часов. Но нагрузка была такова, что люди не укладывались и в этот напряженный режим времени. Ночевали часто прямо на рабочих местах. Нередко следователи и прокуроры выезжали в командировки не только по своим служебным делам, но и по заданиям партийных и советских органов. Осенью 1941 года вместе с другими центральными органами Прокуратура РСФСР оказалась в эвакуации. В Москве оставалась лишь небольшая оперативная группа прокуроров и следователей. Часто приезжал в это время в столицу и Анатолий Антонович. Исключительно тяжелыми и напряженными стали для Волина и некоторые поездки по стране в первые годы войны. Случалось, попадал и под бомбежки.

В 20-х числах августа 1948 года А. А. Волину позвонил заведующий управлением кадров ЦК ВКП (б) Бакакин и сказал, что его срочно вызывает к себе А. А. Кузнецов. В пять часов вечера Волин был уже в кабинете секретаря ЦК. Кузнецов принял его приветливо, стал расспрашивать о работе, откуда он родом, какое имеет образование, и после непродолжительной беседы, ничего не сказав о цели вызова, направил к В. М. Молотову. С ним также состоялся непринужденный, но ничего не значащий разговор.

Анатолий Антонович, как человек умудренный большим опытом, понял, что речь может идти о каком-то новом назначении. И, действительно, дня через три-четыре ситуация прояснилась. Волина прочили Председателем Верховного суда СССР, на место Голякова.

О том, как происходило это назначение, А. А. Волин рассказывал: «Через некоторое время я уже сидел за столом Политбюро… Сижу на краю длинного стола. Утвердили какого-то министра. Входит Сталин. Председательствовал, кажется, Маленков. Сталин подошел к столу, что-то на нем посмотрел, что-то спросил у председательствующего и стал прохаживаться. Кузнецов стал докладывать мое дело. Я, естественно, поднялся. Как только Кузнецов кончил докладывать, Сталин посмотрел на меня и говорит: «А не молод ли товарищ Волин?» Мне было 45 лет. У меня был моложавый вид, от силы можно было дать 35 лет. Я сказал: «Мне недавно уже исполнилось 45 лет, товарищ Сталин». Он как-то недоверчиво посмотрел и спросил: «А не тяжело ли Вам будет, товарищ Волин?» Это как бы вытекало из первого вопроса. Я вспомнил, что министр, которого назначали передо мною, пробубнил на такой же вопрос: «Если мне поможет ЦК, я постараюсь оправдать доверие ЦК и ваше, товарищ Сталин». И думаю: как же мне ответить, чтобы не быть попугаем. Я сказал: «Я сознаю, что это нелегко, товарищ Сталин». Он так посмотрел-посмотрел и говорит: «Хорошо». Кто-то из членов Политбюро сказал: «Утвердить». Кузнецов дал мне знак уходить. Больше я с ним (Сталиным. — Авт.) не встречался. Но видел его десятки раз на приемах. Я был на всех приемах».

25 августа 1948 года Президиум Верховного Совета СССР избрал А. А. Волина Председателем Верховного суда СССР, а очередная сессия Верховного Совета утвердила его в этой должности. Руководителем высшего судебного форума А. А. Волин прослужил два конституционных срока. Он много сделал для того, чтобы решительно повысить уровень судебной работы в стране, обеспечить возможность более быстрого пересмотра судебных дел, по которым были допущены извращения законности в той или иной форме, а также условия для более углубленного изучения судебной практики и дачи суда м необходимых руководящих указаний. Для этого пришлось не только навести должный порядок в аппарате Верховного суда СССР, но и разработать и внести на рассмотрение директивных органов целый ряд законопроектов, направленных на демократизацию судебного процесса. Надо сказать, что проходили они с большим трудом, и далеко не сразу была оценена прогрессивность взглядов на судебную систему нового Председателя Верховного суда СССР.