Второй поход оказался продолжительнее первого — он проходил с осени 1549 по весну 1550 гг. В результате неподалеку от Казани по приказу царя была возведена крепость Свияжск. Она стала опорным пунктом для последующего, победоносного похода. Две первые попытки решить военным путем проблемы с совершавшими набеги соседями показали всю слабость и несостоятельность русского войска. Именно эти походы и стали толчком к пониманию необходимости проведения военных реформ. Третий Казанский поход начался летом 1552 года. К Казани 150-тысячное царское войско подошло хорошо подготовленным и вооруженным. Имея 150 крупных пушек и хорошую инженерную команду, армия была готова к осаде Казани. Под высокие стены Казанского кремля было сделано несколько подкопов, в которые саперы заложили бочки, наполненные порохом. Взрывы проделали бреши в стенах — и в результате долгого и тяжелого штурма Казань была взята, а хан Едигет-Магмет захвачен в плен.

В честь взятия Казани в Москве начато строительство Покровского собора, сейчас больше известного как собор Василия Блаженного. Дошла до наших дней и икона, написанная в честь этого события — «Благословенно воинство небесного царя», которая хранится в Третьяковской галерее. Однако взятие Казани не означало полного уничтожения и разорения Казанского ханства.

Дальновидный политик, Иван Грозный постарался сохранить управляющую структуру захваченных земель. Наместником Казани был назначен князь Горбатый-Шуйский, а помощником его — Василий Серебряный. Царь пригласил к себе на службу всю татарскую знать, пообещав сохранить их прежние статусы. Это решение не только позволило не оставлять в Казани большое войско для усиления власти, но и помогло новым землям органично влиться в состав русского государства. Подобная политика имела и еще одно немаловажное последствие — после казанского похода сибирский хан Едигер добровольно попросился «под руку» царя, согласившись стать данником Руси.

После успешного взятия Казани Иван Грозный решил устранить вторую угрозу — со стороны Астраханского ханства. Ханство контролировало нижнюю часть Волги, создавая угрозу как для внешней торговли, так и для приграничных земель Руси. Первый Астраханский поход состоялся в 1554 году. Выступивший навстречу русскому войску отряд астраханского хана был разбит наголову, в результате столица ханства взята без боя. Но на тот момент присоединять земли ханства царь Иван IV посчитал нецелесообразным. Новым ханом при активной поддержке Руси стал Дервиш-Али, пообещавший хранить верность Ивану Грозному. Однако обещания свои новый хан не сдержал и спустя год открыто перешел на сторону крымского хана, поддерживавшего Османскую империю — вечного врага Руси. Царь Иван Грозный в 1556 году решается на второй поход. Русское войско, усиленное донскими казаками, вновь подчистую разбило армию астраханского хана. Астрахань опять была сдана без боя — защитников у города не осталось. Этот поход подчинил ханство Руси, добавив к территории царства новые земли.

В результате первых победоносных походов — Казанских и Астраханских — территории Русского царства значительно расширилась, а влияние Ивана Грозного простиралось вплоть до Кавказских гор. В 1559 году Черкасские и Пятигорские князья попросили Ивана IV о защите их княжеств от посягательств крымского хана; таким образом зона влияния царя распространилась и на часть Кавказа. Помимо внешнеполитических последствий, успех первых походов оказал большое влияние и на внутреннюю политику. Авторитет Ивана IV вырос чрезвычайно, укрепив власть молодого царя. Кроме того, на захваченных и присоединенных землях начало быстро распространятся православие — вопросам веры царь уделял большое внимание.

В декабре 1569 года, подозревая новгородскую знать в соучастии в «заговоре» недавно убитого по его приказу князя Владимира Андреевича Старицкого и одновременно в намерении передаться польскому королю Сигизмунду II Августу, Иван Грозный в сопровождении большого войска опричников выступил против Новгорода.

Поводом к этому послужил донос, поданный неким бродягой, волынцем Петром, за что-то наказанным в Новгороде, и обвинявший новгородцев во главе с архиепископом Пименом в намерении посадить на престол князя Владимира Старицкого и передать Новгород и Псков польскому королю. В. Б. Кобрин считает, что «донос был откровенно нелеп и противоречив», так как новгородцам приписывались два несовместимых стремления.

Двинувшись на Новгород осенью 1569 года, опричники устроили массовые убийства и грабежи в Твери, Клину, Торжке и других встречных городах (документально подтверждается убийство 1505 человек, в основном — сидевших по темницам литовских и татарских пленников, а также выселенных из своих домов псковичей и новгородцев, застигнутых опричниками по дороге в Москву).

2 января 1570 года передовые отряды во главе с В. Г. Зюзиным подошли к Новгороду и оцепили город заставами, опечатали казну в монастырях, церквях и частных домах, арестовали и поставили «на правёж» монахов, священников и видных новгородцев. 6 января у города появился сам Иван Грозный.

8 января, во время встречи опричного войска новгородским духовенством на Великом мосту через Волхов, царь обвинил в измене архиепископа Пимена. Последний был арестован и заключен в тюрьму (18). Впоследствии опричный оруженосец Афанасий Вяземский был обвинен в том, что пытался предупредить Пимена об аресте, подвергнут торговой казни и сослан в Городецкий посад на Волгу, где и умер.

В Новгороде было казнено с применением различных пыток множество горожан, включая женщин и детей. Точный подсчёт жертв вёлся лишь на первых порах, когда Иван Грозный целенаправленно уничтожал местную знать и приказных, устроив суд в «Рюриковом городище» (было убито 211 помещиков и 137 членов их семей, 45 дьяков и приказных, столько же членов их семей). Среди убитых оказались: главные дьяки Новгорода К. Румянцев и А. Бессонов, боярин В. Д. Данилов, заведовавший пушечными делами, а также виднейший боярин Ф. Сырков, принимавший ранее участие в составлении «Великих Четьих-Миней» и построивший на свои средства несколько церквей (его сначала окунули в ледяную воду Волхова, а затем живьём сварили в котле). После этого царь начал объезжать новгородские монастыри, отбирая у них все богатства, а опричники осуществили общее нападение на новгородский посад (остававшийся до тех пор нетронутым), в ходе которого погибло неведомое количество людей. С храма св. Софии были сняты Васильевские ворота и перевезены в Александрову слободу.

Затем последовали казни, продолжавшиеся до 15 февраля. Было казнено с применением различных пыток множество горожан, включая женщин и детей. По сообщению русской повести о разгроме Новгорода (19). Иван велел обливать новгородцев зажигательной смесью и затем, обгорелых и ещё живых, сбрасывать в Волхов; иных перед утоплением волочили за санями; «а жен их, мужеск и женск пол младенцы» он повелел «взяху за руце и за нозе опако назад, младенцев к матерем своим и вязаху, и с великия высоты повеле государь метати их в воду». Священники и монахи после различных издевательств были забиты дубинами и сброшены туда же. Современники сообщают, что Волхов был запружен трупами; живое предание об этом сохранялось ещё в XIX веке.