7 апреля 1906 года А. А. Макаров в качестве старшего председателя возглавил Харьковскую судебную палату, но пробыл на этой ответственной должности только полтора месяца. Назначенный в правительстве И. Л. Горемыкина министром внутренних дел П. А. Столыпин, успевший за время совместной работы в Саратове по достоинству оценить деловые качества Макарова, в мае 1906 года пригласил Александра Александровича к себе заместителем. В восхождении А. А. Макарова по ступеням служебной иерархии начался следующий, более ответственный период.

Назначение Макарова товарищем министра внутренних дел совпало, с одной стороны, с усилением террористической деятельности социалистов-революционеров, а с другой — с введением военно-полевых судов и наступлением царизма на революционное движение. Ему достался самый боевой участок. Как заместитель министра он курировал департаменты полиции и духовных дел иностранных исповеданий, а также состоящий при министерстве техническо-строительный комитет.

С. Ю. Витте считал серьезной ошибкой назначение на эти посты П. А. Столыпина и А. А. Макарова. Он писал, что со времени вступления Столыпина на пост министра «последовала полная дезорганизация полиции». В это время работа полиции строилась в основном на провокациях. «Вся полиция в такое трудное время очутилась в руках лиц, совершенно незнакомых с тем делом, которым они должны были заниматься», — писал Витте.

А. А. Макарову как бывшему прокурору было довольно сложно срабатываться со своими подчиненными. На многие вопросы он смотрел с точки зрения законности, а это не всем нравилось. Обладая неплохими ораторскими способностями, Макаров часто поднимался на думскую трибуну, чтобы отстоять тот или иной законопроект, разработанный министерством внутренних дел, ответить на запросы депутатов, дать справку по расследуемым уголовным делам или разъяснения по сложным вопросам внутренней жизни империи. По словам В. Н. Коковцова, сменившего на посту председателя Совета Министров Столыпина, выступления Макарова в Государственной думе, причем по делам «крайне щекотливого свойства, отличались всегда большим тактом, эрудицией и определенностью и снискали ему то уважение, без которого участие в работе законодательных учреждений для представителя правительственной власти просто невозможно».

Товарищем министра внутренних дел А. А. Макаров служил до января 1909 года, получив чин тайного советника и одновременно став Сенатором. 1 января 1909 года он был назначен Государственным секретарем, что для него было «весьма неприятно». 17 января 1909 года А. А. Макаров, без освобождения от своих основных обязанностей, был утвержден членом Алекссеевского главного комитета по призрению детей лиц, погибших в войне с Японией. За служебное рвение он был удостоен новых наград: ордена Св. Владимира 2-й степени, золотого нагрудного знака в память столетнего юбилея Государственной канцелярии и, как жест особой милости, — ему был пожалован фотографический снимок Их Императорских Величеств вместе с наследником.

В сентябре 1911 года от руки террориста погиб председатель Совета министров и министр внутренних дел П. А. Столыпин. Император Николай II перед своим отъездом из Киева предложил пост председателя Совета Министров Владимиру Николаевичу Коковцову. Министром внутренних дел стал А. А. Макаров. С января 1912 года он одновременно являлся и членом Государственного совета.

В первых числах апреля произошло трагическое событие на приисках Ленского золотопромышленного товарищества — колонна рабочих организованно направилась к администрации, чтобы вручить прошение прокурору, но была расстреляна. Ленская трагедия всколыхнула всю страну. В Петербурге началась стачка протеста, которая затем перекинулась и на другие губернии.

6 апреля Макаров, находившийся на отдыхе, получил срочную телеграмму об этом событии от своего заместителя И. М. Золотарева и немедленно выехал в Петербург. Он прибыл в столицу 9 апреля, когда страсти кипели вовсю. Левые партии в Государственной думе внесли запрос правительству, требуя разъяснения создавшегося положения. Александру Александровичу, только что прибывшему из Крыма и не успевшему полностью войти в курс дела, пришлось выступать в Государственной думе. Он произнес речь, концовка которой всех ошеломила. Он сказал о расстреле рабочих: «Так было, и так будет впредь».

Впоследствии, на допросе в Чрезвычайной следственной комиссии, А. А. Макаров сказал, что теперь он не «защищает своей речи», произнесенной в Государственной думе, так как он «был односторонен, был самонадеян, был вследствие этого ложен в своей речи».

Объясняя причину появления знаменитой фразы, произведшей такой резонанс, А. А. Макаров сказал: «Я никогда своих речей не писал, а намечал себе что-нибудь в уме. Так что это вышло у меня совершенно случайно. С другой стороны, это было сказано не в том смысле, — отнюдь не в общем. Впоследствии придали этой несчастной фразе слишком, по-моему, распространительное толкование. А касалась она того, что если на маленькую воинскую часть, которой поставлена задача охранять порядок, наступает громадная толпа в несколько тысяч человек, то она находится в таком положении, что может быть этой толпой смята, и ей приходится стрелять. Вот смысл».

Однако этих слов Макарову не простили. С. В. Завадский писал, что после Февральской революции он был арестован, конечно, не за одни слова, а за все свое прошлое в совокупности, но не освободил его А. Ф. Керенский только за эту злополучную фразу.

А. А. Макаров был освобожден от должности министра внутренних дел 16 декабря 1912 года, с изъявлением ему высочайшей благодарности.

В течение нескольких лет он оставался лишь членом Государственного совета, примкнув там к правой группе, а также присутствующим в Правительствующем сенате. Новый и последний взлет карьеры А. А. Макарова пришелся на лето 1916 года. 7 июля император подписал указ, который гласил: «Члену Государственного совета, Сенатору, тайному советнику Макарову Всемилостивейше повелеваем быть Министром юстиции, с оставлением членом Государственного совета и Сенатором».