Иоанн длительное время пел переговоры с польским королем Баторием, но обстоятельства стали складываться не в пользу России, овладевшей почти всей Ливонией, за исключением Ревеля, Риги, Курляндии.

Под Нарвой появился шведский отряд. Другие воинские подразделения опустошили Кексгольмскую землю. Ревельцы тревожили российские владения в Северной Ливонии. Польско-литовские войска заняли ряд городов в Южной Ливонии и отняли у России Венден. Магнус снова изменил Иоанну. В 1578 г. он заключил договор с Баторием и вместе с молодой супругой уехал в Курляндию. Иоанн не удивился этому и послал дополнительные войска в Ливонию. Шведы и поляки под руководством Батория в одном из боев под Дерптом взяли 17 русских пушек, множество коней и весь обоз. Убитых на поле боя было 6 тысяч человек. Этим сражением начались успехи польского короля. Баторий плохо знал русский язык, но он хорошо помнил, какие земли были отняты у Литвы и Польши.

В начале августа 1579 г. Баторий осадил Полоцк. Русские более трех недель защищались, но крепость пала. Этот город, памятный в народе тем, что он был уделом Владимира и Рогнеды, вновь, вплоть до царствования Екатерины II, стал собственностью Литвы. Литовцы выжгли 2 тысячи селений в смоленских землях.

В январе 1580 г. царь собрал высшее духовенство, он призвал церковь помогать ему в борьбе с внешними врагами. Иоанн увеличивал свое войско и в то же время мучительно искал мира с Литвой. Зима прервала военные действия. Баторий спешил в Вильно и Краков на сейм. Думая найти поддержку у Рима, Иоанн послал посольство к Папе и императору, но его поиски были бесполезными.

Баторий снова появился в России там, где его совсем не ждали. Иоанн трусил, но не предпринимал никаких мер. 5 августа 1580 г. литовцы взяли Великие Луки, девять тысяч воинов приближались к Смоленску, но русские на подступах к городу разбили этот отряд литовцев. Баторию сдались города Невель, Озерище, Заволочье. Уже зимой литовцы взяли Холм, выжгли Старую Руссу, опустошили дерптские владения и часть псковских земель.

С другой стороны на русских двинулись шведские полки, которые захватили Кексгольм, с боями взяли Падис и Везенберг.

Россия казалась слабой и безоружной, хотя имела 80 крепостей, наполненных оружием. Но Иоанн заперся в Александровской слободе. Воеводы же, обескураженные нерешительностью царя, сами действовать смело опасались.

В то время, как Баторий завоевывал русские земли, Иоанн решил жениться в седьмой раз. Выбор пал на Марию, дочь сановника Федора Федоровича Нагого. Одновременно царь женил своего сына Федора на сестре Бориса Годунова Ирине. Оба эти брака принесли России одни несчастья. Годунов все ближе становился к трону.

В 1581 г. Иоанн снова запросил у Литвы и Польши мира. Баторий требовал теперь не только земли Ливонии, но и Смоленск, Псков, Новгород, другие русские города. Баторий отклонил семилетнее перемирие, предложенное Иоанном, и прогнал русских послов. В августе поляки и литовцы осадили Псков. Обороняющихся воинов было тысяч тридцать. Более 40 тысяч воинов было в Новгороде, 15 тысяч — во Ржеве. Баторий привел в Россию 100-тысячное войско из поляков, литовцев, венгров, немцев, австрийцев. В общей сложности Иоанн собрал 300-тысячное войско, но оно было рассредоточено, так как царь боялся нападения крымского хана.

8 сентября 1581 г. осталось в истории славнейшим днем для Пскова. Была кровопролитная битва, «все нерусское», как говорили современники, бежало. Убитых псковитян было 863, раненых — 1626 человек. Неприятеля полегло около 5 тысяч. Но осады Пскова Баторий не снял, еще два месяца русские отражали нападение объединенных войск неприятеля. Литовцы хотели взять Печорский монастырь, который защищали около 300 воинов, но и монастырь выдержал осаду.

Шведы взяли несколько российских городов, в их числе Ивангород и Нарву, где в кровопролитной сече легло 7 тысяч россиян. Иоанн был в ужасе. Повсюду он видел одних неприятелей, не надеялся на силы россиян.

Вскоре литовцы все же согласились на перемирие. Иоанн отказался от ливонских земель, уступил Полоцк, Велиж. В то же время Баторий возвратил России города Великие Луки, Заволочье, Невель, Холм, Себеж, Остров, Красный, Изборск, Гдов. Так закончилась трехлетняя война со Стефаном Баторием, неудачная для России и постыдная для Иоанна, который почти 24 года стремился к Балтийскому морю и мог бы это сделать, если бы не его малодушие и политические просчеты.

Но жизнь текла. В своем старшем сыне Иоанн хотел видеть самого себя. Любимый сын присутствовал в Думе, объезжал государство. Царевич в 1581 г. уже имел третью супругу Елену Иоанновну из рода Шереметевых. Две первые жены — Евдокия Сабурова и Параскева Соловая — были принудительно пострижены в монахини. Иоанн Иоаннович обладал умом и был чувствительным к славе.

Поздней осенью 1581 г. царская семья пережила страшную трагедию: от руки Иоанна Грозного погиб его старший сын. Приводим версию гибели Иоанна Иоанновича в изложении Н.М.Карамзина.

Иоанн просил отца послать его освободить от неприятелей Псков, восстановить честь России. Царь в гневе закричал: «Мятежник! Ты вместе с боярами хочешь свергнуть меня с престола!». И посохом несколько раз ударил царевича по голове. Несчастный сын упал, обливаясь кровью. При этом якобы присутствовал Годунов, которого Иоанн тоже ранил. Ярость царя исчезла. Побледнев от ужаса, в трепете, в исступлении царь воскликнул: «Я убил сына!». После этого Иоанн кинулся его обнимать, старался удержать кровь, текущую из глубокой раны, плакал, рыдал, звал лекарей, молил бога о милосердии, сына о прощении. Царевич лобзал руку отца, нежно изъявляя ему любовь и сострадание, убеждал его не предаваться отчаянию, сказал, что умирает верным сыном и подданным. Иоанн-сын жил еще 4 дня и скончался в Александровской слободе 19 ноября 1581 г. Царь несколько дней сидел неподвижно у трупа сына без пищи и сна. 22 ноября бояре, князья — все в черной одежде — понесли гроб в Москву. Царь шел за гробом до самой церкви Св. Михаила Архангела. Там он указал место между могилами своих предков, где должен быть похоронен его сын. Сняв с себя царскую одежду, в печальной ризе, в виде простого, отчаянного грешника царь бился о гроб и землю с пронзительными воплями.