29 июня 1695 г. войско приблизилось к Азову. 8 июля начала действовать русская батарея, но турки постоянно получали подкрепление с моря. Петр понял, что Азов это не «игра». Два штурма города не удались. 27 сентября решили отступить от Азова. Успешно действовали Шереметев и Мазепа, захватив четыре небольших турецких опорных городка, в их числе Кази-Керим и Таган.

22 ноября 1695 г. царь торжественно вступил в Москву. Хотя первое предприятие Петра не увенчалось успехом, он не пал духом. Петр проявил небывалую деятельность, чтобы быстрее забыть неудачи первого азовского похода. Именно с этого момента начинается настоящее царствование Петра Великого.

В 1696 г. приступили к строительству флота: 26 тысяч плотников должны были срубить 1300 стругов, 300 лодок, 100 плотов. Адмиралом строящегося флота царь назначил Лефорта. Петр носил теперь звание капитана. 27 ноября был объявлен новый поход. Военачальниками назначили генералиссимуса Алексея Шеина и генерала Федора Головина.

В период подготовки ко второму походу на Азов, среди шума и суеты, как-то незаметно для всех на 30-м году жизни скончался царь Иоанн Алексеевич. Это случилось 29 января 1696 г. У царицы Прасковьи Федоровны, вдовы Иоанна Алексеевича, урожденной Салтыковой, после смерти мужа осталось пять дочерей.

Первым делом царя-самодержца Петра была поездка в Воронеж, где было начато строительство кораблей. Плотники, служилые люди из-за тяжелых условий труда бежали с верфи. Но флот был построен: 2 корабля, 23 галеры, 4 брандера.

23 апреля суда с войском двинулись на юг. На первом корабле плыл царь Петр Алексеевич, в звании капитана. Русский флот загородил дорогу туркам в устье Дона. Азов остался без помощи. Нападение татар на русский лагерь было отбито. Начались осадные работы. Обстрел города прошел с большим успехом 16 июля. Штурм города также был удачным. Хотя город не пал, но турки 18 июля объявили о готовности сдаться. Турецких воинов выпустили из Азова с женами, детьми и при оружии.

Москва торжествовала. 31 июля 1696 г. ударили в колокола. Эта была первая победа русского оружия над турками. Память россиян еще хранила неудачи Чигиринского похода.

Петр тут же, не отдохнув от ратных дел, осмотрел ближайшие приморские места и на мысу Таган-Рог решил построить крепость и гавань. Азов был сильно укреплен. Мечети превратили в православные храмы. Город стал снова русским.

За большую победу над турками царь раздал награды сообразно старым традициям: Алексей Шеин получил медаль в 13 червонцев, кубок с крышкой, золотой кафтан на соболях, увеличение жалованья и вотчину в 305 дворов. Франца Лефорта удостоили медали в 7 червонцев, такого же кафтана и вотчины в 140 дворов. Остальные генералы, полковники и офицеры, смотря по чину, получили медали, кубки, кафтаны, вотчины. Рядовому составу выдали по золотой копейке.

20 октября 1696 г. великий государь в Преображенском принял бояр. Решили в Азов направить 3 тысячи семей и 400 конных калмыков. Царь объявил сборы средств с монастырей, бояр, дворян, служивых людей на строительство кораблей. Потребовались иностранные специалисты. Но Петр решил учить и своих подданных за границей: 28 человек было направлено в Италию, 22 — в Англию и Голландию. Сам царь тоже отбыл за границу в свите направленного туда из России, так называемого Великого посольства. Целью посольства было прямо объявлено «подтверждение древней дружбы и любви, для общих всему христианству дел, к ослаблению врагов креста Господня, салтана Турского, хана Крымского и всех бусурманских орд». Посольство должно было побывать в Англии, Голландии, у курфюрста Бранденбургского, в Венеции. Великими, полномочными послами были назначены адмирал, наместник новгородский Франц Яковлевич Лефорт, генерал и воинский комиссар Федор Алексеевич Головин и думный дьяк Прокофий Богданович Возницын. При них было прикомандировано 20 дворян и 35 волонтеров, среди них — Преображенского полка урядник Петр Михайлов (под этим именем скрывался царь). В целом состав Великого посольства насчитывал около 250 человек.

Управление государством царь поручил трем знатнейшим людям: боярину Льву Кирилловичу Нарышкину, князю Борису Алексеевичу Голицыну и князю Петру Ивановичу Прозоровскому.

23 февраля 1697 г. был назначен отъезд Великого посольства из Москвы, но раскрылся стрелецкий заговор против царя. После расследования дела (заговора против царя) боярина Алексея Соковнина, полковника Ивана Цыклера, стольника Федора Пушкина четвертовали, стрельцов Филипова, Рожина и казака Лукьянова казнили.

Наконец 10 марта Великое посольство выехало из столицы. Побывали в Риге, которая находилась тогда на территории, завоеванной Швецией. Прием был официальным, холодным. С 8 апреля по 2 мая побывали в герцогстве Курляндском, которое в значительной степени зависело от Польши. В Митаве царю оказали радушный прием. Затем он поехал в Либаву, именно здесь Петр впервые увидел Балтийское море. 2 мая на корабле «Святой Георгий» царь отплыл в Кенигсберг. 8 мая его принял курфюрст Бранденбургский Фридрих III. В Кенигсберге русский царь выучился у главного бранденбургского специалиста в области артиллерии подполковника фон Штернфельда огнестрельному искусству. В Пруссии Петр задержался дольше, чем предполагал, из-за событий в Польше, где готовились к выборам короля.

После избрания королем Польши Августа II Сильного Петр продолжил свое путешествие.

В Германии он встретился с образованнейшими женщинами Европы того времени: курфюрстиной Ганновера Софией и ее дочерью — курфюрстиной Софией Шарлоттой. Интересны их впечатления о русском царе: «Царь высок ростом, у него прекрасные черты лица, осанка и движения исполнены силы и благородства; ум у него живой и оборотливый; ответы быстры и метки. Но при всех достоинствах, которыми его одарила природа, хорошо было бы, если бы в нем было поменьше грубости. Это государь очень хороший и вместе с тем очень дурной: в нравственном смысле он вполне представитель своей страны. Если бы он получил лучшее воспитание, из него вышел бы человек совершенный, потому что у него много достоинств и ум — необыкновенный». Особенно Петру понравилась живая, остроумная София Шарлотта (тогда еще десятилетняя девочка, будущая королева Пруссии, мать Фридриха II). Петр на память обменялся с ней табакеркой. В последний вечер, после ужина и танцев, Петр взял принцессу за уши, приподнял и поцеловал ее два раза. Царь на прощанье поцеловал и брата Софии Шарлотты — Георга, будущего короля Англии.

Будучи еще 11-летним ребенком, Петр поражал своей необычной красотой и живостью. Современники находили, что лицом он был в материнскую родню. Красота и живость с течением времени остались, но раннее развитие, страшные потрясения, неумеренность в трудах и потехах сильно пошатнули крепкую натуру Петра и оставили следы: голова тряслась, по лицу, случалось, проходили судороги. Быстрый и пронзительный взгляд Петра производил на людей порой неприятное впечатление.

Покинув Германию, царь прибыл в Амстердам, работал там простым плотником. В свободное время Петр ходил по заводам и фабрикам. Его узнавали, и постоянная толпа зевак следовала за русским царем. Четыре с половиной месяца Петр жил в Голландии. В январе 1698 г. он переехал в Англию, оттуда путь шел через Голландию и Германию в Австрию.