Все части Кавказской армии, воодушевленные достигнутым успехом, несмотря на крайнее утомление, всю ночь на 3-е февраля продвигались вперед, преследуя быстро отступавших турок.

На рассвете 3-го февраля части Кавказской армии начали подходить к самому Эрзеруму. Первой вошла в Эрзерум казачья сотня со старшим адъютантом штаба 1-го Кавказского корпуса есаулом Медведевым. За нею двигались другие. 39-я пех. дивизия, еще вечером свернувшая после занятия фортом Чобан-деде по гребню Деве-Бойну и пройдя мимо форта Сивишли, оставленного турками, на рассвете 3-го февраля спустилась на Эрзерумское шоссе, недалеко от самого Эрзерума.

Когда вступали в Эрзерум через Карсские ворота наши первые части, через противоположные Трапезундские ворота спешно уходили последние сохранившиеся турецкие войска.

В некоторых местах города горели дома; уже затихал огонь на развалинах громадного здания штаба 3-й турецкой армии; на площади перед ним толстый слой бумажного пепла свидетельствовал о только что уничтоженном архиве турецкой армии. Непрерывная трескотня от взрывов патронов в артиллерийском складе в валганге у Карсских ворот, продолжавшаяся более суток, сопровождала, как салют, вступление победных русских войск в Эрзерум через эти ворота.

Временами происходили большой силы взрывы пороховых погребов и складов огнестрельных припасов как в самом городе, так и за ним, и на различных фортах. Много подготовленных взрывов удалось предотвратить. Жителей осталось немного.

Рано утром 3-го февраля командующий Кавказской армией генерал Юденич, в сопровождении начальников оперативного и разведывательного отделений полковников Масловского и Драценко и личного адъютанта поручика Лаврентьева, выехал на автомобиле в Эрзерум. У перевала через гребень Деве-Бойну, на шоссе, вследствие загромождения последнего двигавшимися к Эрзеруму войсками и толстого слоя снега, обратившегося в вязкую глубокую грязь, генерал Юденич со спутниками пересел на казачьих лошадей проходившей казачьей части и в сопровождении небольшого конвоя от этой же части вскоре вступил в Эрзерум вместе с передовыми частями своей армии.

Сделав распоряжение о преследовании остатков турецкой армии, об установлении порядка в городе, охранении и производстве учета громадного имущества 3-й турецкой армии, о предотвращении дальнейших взрывов пороховых погребов и складов, локализации пожаров и лично объехав и осмотрев город, генерал Юденич воспользовался гостеприимством американского миссионера, единственно оставшегося из иностранцев, и пробыл у последнего несколько часов, пока необходимые первоначальные меры были приняты, а затем, вернувшись перед вечером в штаб армии в Гасан-калу, послал Августейшему Главнокомандующему краткое телеграфное донесение о победно закончившемся штурме, взятии Эрзерума, вступлении в него наших войск и своем посещении его.

В тот же день в Эрзерум подошла и 4-я Кавказская стр. дивизия, еще 2-го утром первой прорвавшаяся в Эрзерумскую долину, переданная тогда же в распоряжение командира 2-го Туркестанского корпуса, части которой выходили в Эрзерумскую долину в том же районе, и направленная последним на Эрзерум. А 4-го февраля, выступив утром из форта Гяз и спустившись с гор, в 10 часов вечера вошел в Эрзерум 155-й пех. Кубинский полк. Простояв на одной из площадей около двух часов, после полуночи двинулся через Трапезундские ворота на присоединение к своей дивизии, части которой вели бой в районе с. Илиджа.

Части Кавказской армии, выйдя в Эрзерумскую долину, продолжали преследование в беспорядке отступавших турок.

Во время этого преследования 3-й батальон 17-го Туркестанского стр. полка под командой подполковника Кирилова, бывший впереди на левом фланге корпуса, усиленный двумя спешенными сотнями Сибирской каз. бригады, в ночь на 4-е февраля атаковал турок, занимавших с. Кара-арз, с целью, прорвав расположение отступающего противника, дать выход Сибирской каз. бригаде для преследования. К рассвету 4-го февраля туркестанцы овладели селением, захватив орудия, пулеметы и пленных; одна рота турок попала целиком в руки 3-го батальона.

Тотчас же по занятии с. Кара-арз, Сибирская каз. бригада генерала Радаца бросилась вперед для преследования турок и захватила остатки 34-й турецкой дивизии с ее артиллерией.

В ту же ночь на 4-е февраля 156-й пех. Елисаветпольский полк, после горячего боя, овладел крупным селением Илиджа на главном пути из Эрзерума в Эрзинджан и Трапезунд, захватив при этом много трофеев.

В эти же дни преследования частями Кавказской армии в Эрзерумской долине было захвачено 46 офицеров, более 2500 аскеров и 59 орудий; на южных же путях от Эрзерума выдвинутой вперед нашей конницей было захвачено 20 орудий и много пленных.

Преследование велось на широком фронте от р. Чорох на севере до р. Тузлачай на юге; вся конница была выброшена вперед.

На главном направлении, вдоль Трапезундского шоссе, энергично наступала 2-я бригада 39-й пех. дивизии. На крайнем правом фланге 2-го Туркестанского корпуса частями 3-й Кубанской пластунской бригады 10-го февраля был занят г. Испир, но еще ранее, 9-го февраля, 156-й пех. Елисаветпольский полк занял с. Еникей, а 155-й пех. Кубинский полк ночной атакой овладел с. Ашкалой.