В январе 1924 г. управление 17-го Приморского стрелкового корпуса было передислоцировано на Украину. Здесь И.С. Конев пробыл недолго. В июне его по личной просьбе перевели в Московский военный округ комиссаром и начальником политического отдела 17-й стрелковой дивизии, расквартированной тогда в Нижнем Новгороде. К новому месту службы он выехал вместе с семьей — женой и годовалой дочкой Тамарой, которую затем записали Майей в честь Дня международной солидарности, который отмечался 1 мая. Комиссар много внимания уделял решению вопросов, связанных с обустройством личного состава, установлением взаимоотношений с местным населением, обеспечением качественного выполнения задач боевой и политической подготовки. Одновременно, как отмечается в его автобиографии, он вел непримиримую борьбу «против троцкистов» и очищал «от враждебных элементов» дивизию.

Осенью 1925 г. произошло событие, которое коренным образом повлияло на карьеру И.С. Конева. Командующий Московским военным округом К.Е. Ворошилов, инспектируя войска, обратил внимание на смелое и принципиальное выступление Ивана Степановича об укреплении дисциплины и порядка в частях, повышении боеготовности и тут же предложил ему перейти на командную работу.

— Вы комиссар со строевой жилкой, — сказал Ворошилов. — Как вы смотрите на то, чтобы поучиться, а затем стать командиром-единоначальником?

И.С. Конев недолго думая согласился, так как давно мечтал об учебе. В сентябре 1925 г. его направили на Курсы усовершенствования высшего начсостава (КУВНАС) при Военной академии РККА. Его учителями были активные участники Первой мировой и Гражданской войн, имевшие значительный боевой опыт. Со многими ему в последующем приходилось не раз соприкасаться по службе, а труды В.А. Меликова, М.Н. Тухачевского, Б.М. Шапошникова, В.К. Триандафиллова сыграли большую роль в постижении Коневым основ военного искусства. Здесь же он познакомился с П.С. Рыбалко, будущим маршалом бронетанковых войск, командующим танковой армией.

После окончания учебы И.С. Конев по собственной просьбе был назначен командиром полка. Сначала это был 72-й стрелковый полк 24-й Самаро-Ульяновской Железной стрелковой дивизии, а затем 50-й Краснознаменный им. К.Е. Ворошилова стрелковый полк 17-й стрелковой дивизии. На этом завершился этап военной карьеры Ивана Степановича, связанный с военно-политической работой. Теперь ему предстояло проявить себя уже в новом качестве, на командной стезе. Он, вспоминая о том времени, отмечал:

«…Самым решающим звеном в становлении командира является полк… Полк учит, полк воспитывает, полк по-настоящему готовит кадры. Комполка — организатор боя, он обязан правильно использовать артиллерию, полностью и до отказа дать огонь, а не штык, использовать танки, использовать поддержку саперов и даже авиацию, запросив решения высших инстанций. Он хозяин на поле боя, в организации боя. Вот кто такой командир полка, вот почему я с большим желанием пошел на эту должность. Командовал полком пять лет. Многие говорили, что “засиделся” предлагали всякого рода должности, намекали, иногда даже иронизировали… Я решительно от всего отказывался. Я учил полк и учился у полка. Проводил занятия сам, очень сложные, продолжающиеся непрерывно, днем и ночью, с выходом в поле, с отрывом от базы, учил полк маршам и походам, боевой стрельбе и тактике, взаимодействию, и сам одновременно учился»{8}.

В данном случае Конев не погрешил против истины. В должности командира полка он проявил недюжинные способности организатора боевой подготовки. В его первой командирской аттестации отмечалось: «Инициативен, энергичен, решительный командир. Требователен. Целеустремлен. Пользуется деловым авторитетом»{9}.

В книге Б.Н. Полевого «Полководец» приводятся выдержки из писем бывших сослуживцев И.С. Конева, в которых они оценивают его деятельность на посту командира полка{10}. Например, полковник в отставке В. Киселев отмечал: дни, когда Иван Степанович Конев командовал нашим полком, я был красноармейцем, по-теперешнему говоря, солдатом. Хочу вам сообщить — это был замечательный командир, строгий и справедливый. Его все боялись и любили. И порядок у нас в ротах был образцовый. И питание хорошее, а обучении и говорить нечего: наш полк всегда первое место в дивизии держал. К бойцам товарищ Конев был исключительно внимателен. И нам все казалось, будто каждого из нас он знает в лицо. Хотя, конечно, это невозможно. В войну я сам полком командовал в звании гвардии подполковника. Так вот, встретится у меня какая трудность, думаю, а что бы Конев сделал, и принимаю решение. Так я “по Коневу и командовал”».

Не все шло, конечно, гладко у Конева. У него были и просчеты в деятельности командира полка, особенно в вопросах устройства быта подчиненных, укрепления воинской дисциплины, обучения командного состава. В этом отношении Конев не был исключением, ибо управлять таким сложным организмом, как полк, было не просто.

И.С. Конев, командуя полком, несколько раз отдыхал вместе с семьей в Гурзуфе. Здесь в санатории он познакомился с будущим Маршалом Советского Союза И.Х. Баграмяном. Оба командира полка быстро нашли общий язык. «Мой новый товарищ отличался прямолинейным характером и остроумием, — вспоминал Баграмян. — Он много читал, уделяя этому каждую свободную минуту. Много говорили мы с ним о волновавших нас проблемах армейской жизни. В результате этих бесед у меня создалось об Иване Степановиче мнение как об оригинально и творчески мыслящем командире, который был не только большим знатоком тактики, но и хорошим методистом боевой подготовки войск. Я подметил у Конева какое-то особое умение различать в развитии военного дела ростки нового, прогрессивного. Все шаблонное вызывало в нем крайнее раздражение, и тут уж даже дружеское расположение не спасало отрезкой критики»{11}.

В 1932 г. И.С. Конев получил возможность снова повысить свою теоретическую подготовку, теперь уже на полноценном курсе Военной академии им. М.В. Фрунзе. В это время в Красной Армии ускоренными темпами осуществлялась техническая реконструкция, которая опиралась на форсированную индустриализацию государства, милитаризацию его экономики, подчинение целям обороны всех социальных программ. В войсках начался переход от смешанной (территориально-кадровой) к кадровой системе комплектования. Соединения и части оснащались новыми системами оружия и военной техники, в том числе 45-мм противотанковой и 76-мм зенитной пушками, дальнобойными и скорострельными 122-мм и 152-мм орудиями, легкими танками Т-18, Т-26, БТ-2 и БТ-5, средними и тяжелыми танками Т-28 и Т-35, танкетками Т-27, плавающими танками Т-37 и Т-38. Авиация получила более совершенные истребители И-5, тяжелые бомбардировщики ТБ-2, легкие бомбардировщики Р-5 (они же самолеты-разведчики), штурмовики ТШ-2.

Одновременно совершенствуется организационная структура войск. В состав стрелковой дивизии впервые включается танковый батальон. Она стала иметь в 2 раза больше пулеметов и в 2,7 раза — орудий и минометов. Стрелковый корпус вместо двух корпусных артиллерийских дивизионов получил два артиллерийских полка, а также отдельный зенитно-артиллерийский дивизион и саперный батальон. В штате кавалерийской дивизии появился танковый полк. Организационное развитие артиллерии осуществлялось в направлении укрупнения ее частей и соединений. В 1930 г. формируется первая механизированная бригада, которая в 1932 г. развертывается в механизированный корпус. Одновременно создается новый род войск — воздушно-десантные войска. В 1933 г. была сформирована авиационно-десантная бригада особого назначения, а в 1936 г. — еще две такие же бригады и три авиадесантных полка особого назначения. В составе Военно-воздушных сил с 1933 г. создаются авиационные корпуса, а в конце 1936 г. — авиационные армии особого назначения (АОН), предназначенные для решения самостоятельных оперативно-стратегических задач. Для прикрытия Москвы, Ленинграда и Баку в 1932 г. были сформированы зенитно-артиллерийские дивизии ПВО, а других крупных городов — бригады и полки ПВО. В 1937 г. эти соединения и части преобразуются соответственно в корпуса и бригады ПВО.