Недолго прослужил вольноопределяющимся в 1 – м лейб-гренадерском Екатеринославском полку и зачислен в запас в чине прапорщика. Затем занимал самые разнообразные должности: почётного мирового судьи в Москве, члена Московской городской управы, товарища московского городского головы, был директором, управляющим Московского учётного банка, председателем наблюдательного комитета страхового общества «Россия». Гучков был состоятельным человеком, но активно предпринимательской деятельностью не занимался, его называли «неторгующим купцом».

Но, несмотря на состояние и солидные посты, по складу характера выходец из купеческой семьи был отчаянным авантюристом, искателем приключений. Ещё гимназистом он то хотел бежать на русско-турецкую войну за освобождение Болгарии, то собирался отправиться в Англию, чтобы убить британского премьера Дизраэли за его антирусскую политику. Даже копил деньги, чтобы купить для этого пистолет.

В 1895 вместе с братом Фёдором Гучков совершил путешествие по населённым армянами территориям Османской империи, в которых тогда проходили антитурецкие выступления. Собрал материалы, которые затем были использованы при составлении сборника о положении армян в Турции.

В 1898 году Гучков уехал на Дальний Восток, где поступил на службу офицером охраны на строительстве Китайско-Восточной железной дороги (КВЖД). В 1899 году был уволен за оскорбление действием инженера. После этого совершил вместе с братом Фёдором рискованное путешествие в европейскую Россию через Китай, Монголию и Среднюю Азию.

В 1899 году в качестве добровольца Гучков отправился в Африку, в Трансвааль, где участвовал в англо-бурской войне на стороне буров, был ранен и попал в плен. По воспоминаниям современников, в ходе кровопролитных боёв отличался находчивостью и внешним спокойствием, несмотря на опасность.

В 1903 году Гучков совершил путешествие в Македонию для того, чтобы участвовать в восстании местного населения против Османской империи. Во время русско-японской войны был помощником главноуполномоченного Красного Креста при Маньчжурской армии. Весной 1905 года попал в плен к японцам, так как не пожелал покинуть Мукден вместе с отступающими русскими войсками и оставить находившихся в госпитале раненых. Вскоре был освобождён японцами и вернулся в Россию.

Репутацию авантюриста дополняла его слава отчаянного бретёра. В 1899 году Гучков вызвал на дуэль инженера, работавшего на строительстве КВЖД. После отказа последнего принять вызов ударил его по лицу. В 1908 году он вызвал на дуэль лидера кадетской партии Милюкова, заявившего в Думе, что Гучков по одному из обсуждавшихся вопросов «говорил неправду». Милюков вызов принял, но переговоры секундантов закончились примирением сторон.

В 1909 году состоялась дуэль Гучкова с членом Государственной думы графом Уваровым, который, как утверждали газеты, в беседе со Столыпиным будто бы назвал Гучкова «политиканом». В ответ Гучков написал ему оскорбительное письмо, спровоцировав вызов на дуэль и отказался при этом от примирения. Дуэль завершилась неопасным ранением Уварова, который стрелял в воздух.

В 1912 году Гучков дрался на дуэли с подполковником Мясоедовым, которого обвинил в участии в создании в армии системы политического сыска. Мясоедов стрелял первым и промахнулся; Гучков сразу же после этого выстрелил в воздух.

После возвращения из заграничных странствий в Россию Гучков с головой окунулся в политическую деятельность. Он активно участвовал в земских и городских съездах, придерживаясь либерально-консервативных взглядов. Выступал за созыв Земского собора с тем, чтобы император выступил на нём с программой реформ.

Осенью 1905 Гучков стал одним из основателей либерально-консервативной партии «Союз 17 октября», которую он возглавил в качестве председателя ЦК. Был сторонником правительства Столыпина, которого считал сильным государственным лидером, способным проводить реформы и обеспечивать порядок. Выступал за решительную борьбу с революцией, в том числе с помощью военно-полевых судов.

По новому избирательному закону, возглавляемая Гучковым партия октябристов достигла впечатляющего успеха на выборах в 3-ю Государственную думу и Гучков стал ее депутатом. Накануне выборов он заявлял: «Мы знаем, что единственно правильный путь – это путь центральный, путь равновесия, по которому идём мы, октябристы».

По словам октябриста Н.В. Савича: «При большом уме, талантливости, ярко выраженных способностях парламентского борца, Гучков был очень самолюбив, даже тщеславен, притом он отличался упрямым характером, не терпевшим противодействия его планам».

В 1910–1911 годах был председателем Государственной думы, но 15 марта 1911 года отказался от этого звания, не желая поддерживать позицию правительства Столыпина в связи с принятием законопроекта о введении земских учреждений в западных губерниях.