Сигизмунд I, готовясь к войне с Россией, склонял к ней и крымских татар. Узнав об этом, Василий направил Сигизмунду грамоту о разрыве отношений и начал военные действия против Литвы. Россия вооружилась и сама пошла на противника. В 1513 г. Василий приступил к Смоленску, но взять город не удалось (в это время в Литве скончалась вдовствующая королева Елена — сестра Василия). В июне того же года великий князь вторично пошел на Смоленск. Наместник города пан Юрий Сологуб встретил русские войска в поле, но в бою уступил. Василий сам прибыл в войска и 25 сентября начал осаду Смоленска, которая продолжалась шесть недель, однако город устоял. Так и не добившись цели, Василий с войском должен был возвратиться в Москву.

В 1514 г., после двух неудачных походов на Смоленск, Василий снова, собрав рать, пошел «воевать» этот город. Василий выехал из столицы с войском. 29 июля началась осада города, в результате которой сопротивление литовцев было сломлено. Отличились русские пушкари. «Взятие Смоленска, — говорит летописец, — казалось светлым праздником для всей России. Отнять чуждое лестно одному славолюбию государя; но возвратить собственное весело народу». 110 лет Смоленск находился под властью Литвы. Изменились обычаи, но русское слово трогало сердца местных жителей, и они с благодарностью встретили воинов-освободителей. Сологубу отсекли в Смоленске голову. Города Смоленщины — Мстиславль, Кричев и Дубровна — не сопротивлялись, и их население присягнуло России.

8 сентября 1514 г. состоялась кровопролитная битва русских с литовцами близ Орши. Несмотря на превосходство сил русских войск из-за несогласия между воеводами Булгаковым-Голицей и Челядниным литовцы победили. Литовский гетман Константин Острожский применил хитрость, зайдя в тыл русским войскам. Русские лишились 30 тысяч воинов, многие воеводы попали в плен. Но эта блестящая победа литовцев не имела никаких важных последствий.

Смоленск охватили волнения. Изменники сообщили Сигизмунду о передаче города Литве. Константин Острожский с шестью тысячами воинов осадил город. Василий Шуйский, наместник Смоленска, повесил всех изменников на стенах города. На повешенных были надеты собольи шубы, бархат, драгоценные камни, серебряные ковши и чарки, подаренные им русским великим князем. Острожский с ожесточением начал осаду города, но, так как изменников больше не было, город защищался мужественно. Литовцы ушли, они заняли лишь Дубровну, Мстиславль и Кричев, где жители снова присягнули Сигизмунду.

В 1515 г. Менгли-Гирей скончался. Этот хан, как говорили современники, «пережил самого себя», в последние годы он был лишь тенью властителя. Василий питал надежды на дружбу с его старшим сыном Магмет-Гиреем, но тот не походил на отца ни умом, ни добрыми качествами, к тому же пьянствовал. Сначала этот хан принял дружбу Василия, но затем изменил ей, войдя в сношения с Сигизмундом. Магмет-Гирей грозил Василию, который, однако, надеялся на дружбу с другим сыном Менгли-Гирея — Ахмат-Гиреем.

В 1515 — 1516 гг., татары опустошили Мещеру, собирались в окрестностях Азова, угрожали рязанским землям.

Литовцы, задобрив Магмет-Гирея богатыми дарами, спровоцировали крымских татар вновь напасть на русские земли. Татары дошли до самой Тулы. Но тут их встретили князья Одоевский и Воротынский. Татары бежали, но преследователи уничтожили почти все их войско. Князь Шемякин выгнал крымских татар из Путивля, побив их за Сулой.

Не имея перспектив наладить добрые отношения с Крымом, Василий приобрел в Европе двух новых союзников: Данию и Ливонский Орден. В это время рыцарство, как говорили, «тосковало в унижении». С немцами был заключен наступательный союз против короля Польши и Литвы. Но с Литвой при посредничестве некоторых европейских государств был заключен мир. В это же время трехтысячное войско псковитян захватило торговый литовский город Рославль. В отместку литовцы осадили Опочки, но были разбиты. Литовский гетман Константин Острожский бежал, тем самым был сглажен стыд россиян за оршскую битву. Во время мирных переговоров с Литвой Смоленск был главным препятствием в соглашении сторон.

В 1518 г. в Москве умер царевич Абдыл-Летиф, считавшийся преемником казанского хана Магмет-Амина. Василий был огорчен, но не колебался: как ни желал он союза с Крымом, но еще больше опасался усиления хана из рода Гиреев, который мог подчинить себе Казань и Астрахань, восстановив царство Батыя. Василий готовил престол в Казани для Шиг-Алея, внука последнего золотоордынского хана Ахмата Хромого, потомки которого обосновались в московских землях, спасаясь от Менгли-Гирея. Шиг-Алей был возведен на казанский престол. Все были довольны, в том числе и новый казанский хан, воспитанный в России и преданный Василию.

В 1519 г. 30-тысячное войско крымских татар напало на Литву. Сын крымского хана Богатыр огнем и мечом опустошил владения Сигизмунда, наголову разбил гетмана Константина Острожского, пленил 60 тысяч жителей, умертвил еще больше и с торжеством вернулся в Крым. То же самое Магмет-Гирей готовил и России. Но тем не менее еще на два года татары остались мнимыми друзьями Москвы.

Между тем Россия сама активно действовала в Литве. В 1518 г. русские осадили Полоцк, но голод вынудил их возвратиться. В августе 1519 г. московские, смоленские, псковские воеводы ходили до г. Вильно. Другие московские воеводы — Василий Годунов, князья Елецкий и Засекин с сильной татарской конницей подошли к Витебску и Полоцку. Третья рать под начальством крещеного татарского царевича Федора (племянника казанского хана Алегама) также беспокоила Литву.

Положение Сигизмунда I было бедственным. После неудачного приступа Опочки наемники — немцы и чехи — покинули войска Литвы. Лавры славного гетмана Острожского увяли. Литовские города стояли среди засыпанных пеплом полей, по которым скитались толпы жителей деревень, сожженных крымцами и россиянами. Но счастье вернулось к Сигизмунду. Ему удалось на шесть месяцев заключить перемирие с Москвой и с помощью подкупа укрепить границы с татарами.

Свои силы Сигизмунд направил на Ливонский Орден. Великий магистр Ордена Альбрехт Бранденбургский едва мог защитить Кенигсберг. Литовцы взяли Мариенвердер, Голланд и заставили Альбрехта просить мира. Но главной удачей литовцев было то, что Казань изменила России.