К сожалению, в этот момент произошла ссора Иоанна с братьями. Борис, княживший в Волоке-Ламском, и Андрей — в Суздале, обиделись на него за какую-то несправедливость и решили с семьями покинуть родину, отбыв в Литву. Казимир IV дал им в правление Витебск. Иоанн подозревал свою мать в тайном сговоре с братьями, зная ее большую любовь к Андрею. Великий князь предложил братьям Алексин, Калугу и другие уделы, но они гордо отвергли предложения.

Ахмат шел к Москве, постоянно ожидая вестей от великого князя литовского Казимира IV. Как только Золотая Орла двинулась на москвитян, Иоанн тут же оповестил об этом Менгли-Гирея. Внезапно крымские татары напали на Литву. Иоанн дал указание крымскому царевичу Нордоулату и звенигородскому воеводе князю Василию Ноздреватому с небольшим отрядом сесть на суда и плыть Волгой, чтобы разгромить беззащитную столицу Орды.

Москва наполнилась ратниками. Передовое войско уже стояло на Оке. Софья с семьей выехала в Дмитров, оттуда - в Белоозеро, мать Иоанна осталась в Москве. Великий князь сам принял руководство войсками. Вся Русь с надеждой и страхом следила за событиями. Ровно 100 лет назад, в 1380 г., в аналогичном положении был Дмитрий Донской. Ахмат, узнав, что берега Оки заняты русскими, от Дона прошел мимо Одоева, Любутска и направился к реке Угре. В это время Иоанн помирился с братьями, и те вернулись на родину.

8 октября вся ханская сила подступила к Угре. Несколько дней шло вялое сражение. Так как силы татар были велики, многие приближенные к Иоанну уговаривали его искать мира, духовенство же, наоборот, призывало к битве. Иоанн послал к хану бояр с предложением о перемирии, но Ахмат требовал, чтобы к нему с покаянием прибыл сам великим князь. Этого делать Иоанн, конечно, не хотел. После того как архиепископ Вассиан обратился к великому князю с патриотическим посланием, он уже больше не думал о мире с татарами, а стал готовиться к сражению.

Две недели прошли в бездействии. Ахмат ждал помощи от литовцев, но она все не приходила. Настали сильные морозы. Русские войска отошли к Кременцу, чтобы сразиться с ханом на удобных для битвы Боровских полях. Татары решили, что русские расставляют им сети, и решили удалиться.

7 ноября представилось изумительное зрелище: два войска, никем не гонимые, бежали друг от друга. Наконец русские войска остановились, огляделись и разобрались в обстановке. Ахмат же ушел восвояси, разорив в Литве 12 городов за то, что Казимир обманул его, не оказав помощи. Так завершилось последнее нашествие Золотой Орды на Русь.

Крымский царевич Нордоулат добросовестно исполнил указание Иоанна, он взял столицу Золотой Орды Сарай, пленил многих жителей и привез большую добычу. Видимо, по этой причине татары и бежали с поля боя, а Иоанн просто тянул время начала битвы, ожидая вестей от Нордоулата. Но некоторые летописцы это предположение не поддерживают.

Иоанн возвратился в Москву. Он не увенчал себя лаврами победы над татарами, но своими действиями утвердил независимость государства. Народ веселился, митрополит установил ежегодный праздник Богоматери и крестный ход 23 июня в память освобождения Руси от татаро-монгольского ига. Наконец-то для русскою народа наступил конец рабства, которое продолжалось свыше 300 лет!

История столетней давности повторилась. Тогда хан Мамай бежал с поля боя и был ограблен своими соотечественниками, теперь Ахмат попал в аналогичное положение. Он вышел из Литвы с богатой добычей, но его уже ожидал Ивак (Ибрагим-Ивак) — хан Шибанских, или Тюменских, улусов, который хотел поживиться награбленным добром. С 16 тысячами воинов Ивак гнался за Ахматом от берегов Волги до Малого Донца, где близ Азова тот остановился зимовать. Ахмат не проявил дальновидности, он распустил свое войско и беспечно проводил время. Однажды Ивак ночью окружил ханскую белую вежу (шатер) и собственноручно умертвил спящего Ахмата, без сражения взял все богатство Золотой Орды, увел к себя жен и дочерей Ахмата.

Ивак объявил великому князю московскому, что его враг лежит в могиле и Золотая Орда исчезла, но сыновья Ахмата именовались еще ханами и держали под своим контролем степи Поволжья. Однако Москва больше не кланялась столице Батыя, которая обратилась в развалины. Хан Ивак также не дерзал требовать от Руси дани. Как ни странно, современники Иоанна были недовольны его политикой по отношению к татарам, осуждали его за якобы проявленное малодушие, поругивали и Софью, что было, конечно, несправедливо.

Иоанн совершил для потомства великое дело. И как пишет Н.М. Карамзин, свержение ига татар «в глазах современников не имело полной чистой славы, обнаружив в нем, по их мнению, боязливость и нерешительность, хотя сия мнимая слабость происходит иногда от самой глубокой мудрости человеческой, которая не есть божественная, и, предвидя многое, знает, что не предвидит всего».

В конце 1480 г. Иоанн предпринял попытку нанести удар и по Немецкому Ордену, так как немцы подошли к Изборску, хотя и не смогли его взять, разорив только окрестности. Затем они сожгли городок Кобылий, умертвили до 4 тысяч жителей, и наконец 20 августа 1480 г. осадили Псков. Немецкое войско насчитывало 100 тысяч человек. Псковитяне мужественно защищались, в результате враг был отбит. Как только войско немцев разошлось по домам, Иоанн направил 12 тысячное ополчение на земли Ордена. К исходу февраля 1481 г. русская рать разделилась на три части: одна пошла к Мариенбургу, другая — к Дерпту, третья — к Вальку. Целый месяц русские войска ходили по ливонским землям: жгли поселения и грабили их, никто не оказывал сопротивления. Весной полки возвратились в Псков, обремененные добычей. Через два года послы Иоанна заключили в Нарве с немцами мирный договор на 20 лет.