Иоанн не забывал крымского хана, с которым шли переговоры о мире. Хан раскрыл царю «великую тайну» о приготовлении Турции к воине с Россией. Дания и Швеция вели военные действия за пределами Литвы, поэтому Иоанна они беспокоили меньше. Однако, для безопасности, Россия заключила мир со Швецией.

В последний день 1563 г. скончался, будучи глубоким старцем, митрополит Макарий. Он написал известную Степенную книгу, в котором изложил события с 862 до 1559 г., и способствовал учреждению в Москве первой типографии. При нем впервые в России была издана Библия. Новым митрополитом был избран Афанасий — инок Чудова монастыря.

Перемирие, заключенное Иоанном и Сигизмундом II Августом, не помешало россиянам и литовцам нападать друг на друга. Русские завершили завоевание полоцких земель, литовцы опустошили черниговские и стародубские земли. В январе 1564 г. русские возобновили военные действия против Литвы, но поход был неудачным. К тому же в нем погиб князь Петр Шуйский, завоеватель Дерпта.

Страх, наведенный царем на князей и бояр, привел к бегству многих из них за рубеж. К Сигизмунду II Августу ушел князь Дмитрий Вишневецкий, который попытался захватить Молдавию, но был пленен господарем Стефаном, сослан к турецкому султану и казнен там. Изменил Иоанну его недавний любимец князь Андрей Курбский — сподвижник царя, герой битв под Тулой, Казанью, на полях Ливонии. Иоанн уже не доверял Курбскому. Тот, зная об этом, простился с женой и девятилетним сыном. Для начала князь объяснился с царем, написав ему сильное и смелое письмо. Царь с достоинством и гневом ответил. Так началась знаменитая переписка Иоанна Грозною с Андреем Курбским, своего рода образец красноречия, литературный памятник XVI века.

Обласканный Сигизмундом II Августом, Курбский советовал ему, как нанести поражение России. Вскоре 70 тысяч литовцев, поляков, прусских немцев, венгров, волохов во главе с изменником России пошли на Полоцк. Одновременно 60 тысяч крымских татар вступили в рязанские земли. Бояре Басмановы первыми сообщили Иоанну о нападении татар и вооружили рязанцев на защиту города. Войска россиян подошли к Оке — татары быстро скрылись. За этот поход Басмановы были награждены золотыми медалями.

Измена Курбского и замысел польского короля потрясли Россию и лишь вызвали некоторую тревогу в Москве. Но сердце Иоанна не успокоилось, оно кипело гневом; царь всех подозревал и искал предлога для наказания мнимых виновников. В начале зимы 1564 г. Москва узнала, что царь покинул столицу и убыл в неизвестном направлении. С царем ушли жена, два сына и его ближайшие советники — Алексей Басманов, Михаил Салтыков, князь Афанасий Вяземский и другие. Две недели царь прожил в Коломенском, 17 декабря он с обозом переехал в село Тайнинское, оттуда в Троице-Сергиеву лавру, а к Рождеству перебрался в Александровскую слободу.

3 января 1565 г. Иоанн прислал митрополиту в Москву письмо, в котором описывал беззаконие бояр. Другую грамоту он отправил гостям, купцам и мещанам Москвы. Эту грамоту читали народу, столица была в панике. Безначалие всем казалось хуже тиранства. К Иоанну в слободу отправились делегации от духовенства, вельмож, бояр, купцов, мешан и других слоев населения. Откликнувшись на просьбы народа, царь 2 февраля торжественно выехал в столицу и на другой день собрал знатнейших людей страны.

На 25-м году жизни Иоанн был велик ростом, имел широкие плечи, крепкие мышцы, широкую грудь, прекрасные волосы, длинные усы, римский нос, серые светлые глаза, небольшие, но проницательные и исполненные огня. Лицо было приятным. Но теперь, по приезде в Москву, Иоанн так изменился, что его трудно было узнать. Лицо было мрачным, взгляд свирепым, все черты исказились, а на голове и в бороде почти не осталось волос от необъяснимого действия ярости, которая кипела в его душе.

Иоанн предложил боярам и чиновникам создать для своей и государственной безопасности особых телохранителей и предложил им устав опричнины. Это слово никому не было до этого известно. Царь объявил своей собственностью ряд городов и выбрал тысячу телохранителей из князей, дворян, боярских детей. В самой Москве он взял себе Чертольскую и Арбатскую улицы (с Сивцевым оврагом), половину Никитской улицы. Были назначены особые чиновники для царских услуг. Иоанн дал указание строить новый дворец за Неглинкой — между Арбатом и Никитской улицей, огородив его высокой стеной.

Эта часть Москвы, тысячная дружина, новый двор, как отдельная собственность царя, находившиеся под его непосредственным ведомством, и были названы опричниной (от слова «опричь» — т.е. кроме, особо). А все остальное, то есть государство, — земщиной, которой Иоанн поручил править земским боярам. Царь потребовал себе от земской казны 100 тысяч рублей за издержки его путешествия от Москвы до Александровский слободы. Ему никто не противился.

Здесь уместно напомнить о земской реформе, которую произвел Иоанн IV в середине XVI века. Земство заменило наместничье управление (на основе кормлений) в городах и волостях местным выборным самоуправлением. Это был прогрессивный шаг, достойный внимания и современных россиян. Ввели: земские управы — уездные исполнительные органы земства, набираемые на 3 года на земских собраниях; земские соборы — высшие представительные учреждения России, в которые входили члены Освященного собора, Боярской думы, «Государева двора», выборные от дворянства и горожан, земские собрания — распорядительные органы земства.

К этому же периоду сложилась система приказов — органов центрального управления России (они начали зарождаться в конце ХV века). В числе основных постоянных приказов были: Большого двора (1534), Большого прихода (1554), Земский (1564), Казанский (60-е годы), Казенный (1512), Костромской четверти (60-е годы), Ловчий (1509), Новгородской четверти (60-е годы), Оружейной палаты (первая половина века), Печатный (1553), Полотняничный (середина века), Посольский (1549), Разрядный (первая половина века), Сокольничий (1550), Стрелецкий (1571), Устюжской четверти (60-е годы), Холопий (середина века), Челобитный (середина века), Ямской (1550).

4 февраля 1565 г. Москва увидела исполнение условий, объявленных царем духовенству и боярам в Александровской слободе. Начался второй этап казней мнимых изменников. Казнили близких к Курбскому князя Александра Горбатого-Шуйского (потомка Св. Владимира), его сына 17-летнего Петра, Петра Ховрина, окольничего Головина, князя Иоанна Сухого-Кашина, князя Петра Горенского, бывшего кравчим. Князь Дмитрий Шевырев был посажен на кол. Двух князей Иоанна Куракина и Дмитрия Немого постригли, многих бояр сослали в Казань. Другие бояре, в том числе и князь Василий Серебряный, должны были представить за себя ручательство в «неизменной службе» государю. Например, за князя Серебряного, в случае его побега из России, была установлена сумма неустойки 25 тысяч рублей (или 500 млн. рублей по курсу XIX века).