Теперь 11-летний Сергей Мосин мог рассчитывать на то, что перед ним откроются двери кадетского корпуса. Мальчик переступил школьный порог в тот год, когда «Царское правительство, ослабленное военным поражением во время Крымской кампании и запуганное крестьянскими „бунтами“ против помещиков, оказалось вынужденным отменить в 1861 году крепостное право» (История ВКП(б). Краткий курс, стр. 5).

К 1 августа 1861 года С. Мосин явился для сдачи вступительных экзаменов в Тамбов, где тогда помещались начальные классы кадетского корпуса.

16 августа 1861 года Сергей Мосин был принят в первый общий класс и зачислен в «неранжированную роту». Так началась для него новая, пока еще непривычная жизнь вдали от отца и приволья рамоньской усадьбы.

Но Мосину пришлось недолго пробыть в Тамбове. В июне 1862 года он перешёл во 2-й общий класс и был переведен в Воронежский кадетский корпус.

Учение давалось Мосину легко. Уже в ноябре 1861 года, после двух месяцев занятий, ему за хорошие успехи были нашиты погоны. По аттестации корпусного начальства, он был «способностей хороших». В мае 1864 года «за весьма хорошие успехи в науках и поведении» Мосин был награждён похвальным листом и подарком.

В «Замечаниях о характере, наклонностях и способностях» Мосина ротный офицер отмечал, что он был способным, скромным, исполнительным, добросердечным, несколько вспыльчивым, однако весьма дисциплинированным мальчиком. Эти черты характера, отчётливо определившиеся в юношеские годы, остались затем свойственны Мосину во всей его последующей жизни.

В 1865 году кадетский корпус (в связи с реформами в военном ведомстве) был преобразован в военную гимназию с широкой программой, близкой к курсу реальных гимназий того времени, с преобладанием точных и естественных наук. Качество преподавания значительно повысилось. Несомненно, это способствовало тому, что Мосин получил достаточно широкие и прочные знания основ наук.

Последние годы пребывания в гимназии были связаны для С. Мосина с некоторыми семейными затруднениями. Отец по каким-то причинам оставил службу у Шеле и переехал в Тульскую губернию. Сергей на некоторое время потерял связь с отцом. Одиночество несколько скрашивалось дружбой с товарищами по гимназии и напряжённой учёбой. В 1867 году Сергей Мосин с отличием окончил Воронежскую военную гимназию. Он получил хорошую подготовку, а, главное, гимназия, по словам С. Мосина, выработала в нем «способность к труду и веру в свои силы», что так пригодилось юноше в дальнейшем. С теплой признательностью вспоминал впоследствии Мосин годы, проведённые в гимназических стенах.

Рано обнаружившиеся прекрасные математические способности и живой интерес к военному делу предопределили его дальнейший жизненный путь.

Окончив военную гимназию, Мосин начал самостоятельную жизнь. В царской России без средств и связей в правящих кругах он мог рассчитывать только на свои собственные способности и силы.

12 июля 1867 года Мосин получил назначение в третье военное Александровское училище в Москве и «вступил в службу юнкером», но пробыл здесь недолго. 11 октября 1867 года он был переведён в Петербургское Михайловское артиллерийское училище.

Царское правительство, нуждаясь в подготовленных офицерских кадрах, уделяло внимание специальным военно-учебным заведениям. Михайловское артиллерийское училище являлось одним из лучших среди них. Как воспитанник военной гимназии Мосин был зачислен в младший класс без экзамена и приступил к занятиям с осени 1867 года.

Основным в программе училища был обширный курс математики, по отзыву знаменитого русского математика П.Л. Чебышева, поставленный весьма высоко. Мосин, таким образом, получил серьёзную математическую подготовку, столь важную для артиллериста.

Специальный курс лекций по артиллерии читали лучшие артиллеристы того времени — С.К. Каминский, известный работами о картечницах, и А.А. Фишер, получивший премию за свой полевой лафет с боковым движением станины. Их лекции, неразрывно связанные с самостоятельной творческой работой, будили мысль слушателей, знакомили с современными проблемами артиллерийской науки. Уже тогда у Мосина проявился интерес к артиллерийской технике, который, усиливаясь с годами, привёл его сначала в артиллерийскую академию, а затем к самостоятельной конструкторской работе.

Мосин успешно занимался и в 1870 году был произведён в портупей-юнкеры. В июле 1870 года он отлично сдал экзамены и окончил артиллерийское училище по первому разряду. Мосин был произведён в подпоручики. Получив 21 июля 1870 года назначение во вторую резервную конно-артиллерийскую бригаду, молодой офицер через 10 дней отправился к месту службы. Строевая служба, однако, не слишком привлекала Мосина, хотя он был одним из лучших офицеров. Мосин стремился продолжить своё специальное образование и деятельно готовился к поступлению в Михайловскую артиллерийскую академию.