Ильф поступил на работу в газету «Гудок» библиотекарем и поселился в общежитии редакции вместе с Ю. Оле-шей. Его жилье, ограниченное половинкой окна и тремя перегородками из чистейшей фанеры, весьма походило на пеналы общежития «имени монаха Бертольда Шварца», и заниматься там было трудно. Но Ильф не унывал. По вечерам он появлялся в «ночной редакции» при типографии и читал, пристроившись в углу. Чтение его было очень своеобразно, об этом вспоминают почти все, кто с Ильфом встречался в то время. Он читал труды историков и военных деятелей, дореволюционные журналы, мемуары министров; став библиотекарем в железнодорожной газете, увлекся чтением различных железнодорожных справочников. И всюду он находил что-нибудь интересное, что потом пересказывал остро и образно, и многое использовал впоследствии в своих произведениях.

Вскоре он стал литературным сотрудником «Гудка».

В 20-е годы «легендарный» «Гудок», вырастивший отряд первоклассных журналистов — «гудковцев», был боевой, широко связанной с массами, по-настоящему партийной газетой с ярко выраженной сатирической традицией.

Самым задорным, самым живым в газете был отдел «Рабочая жизнь», более известный под названием отдела четвертой полосы, в котором Ильф работал «правщиком». Так называли литературных сотрудников, обрабатывавших для последней страницы газеты (в 1923–1924 гг. это оказывалась чаще шестая полоса) рабкоровские письма, поступавшие «с линии», из самых отдаленных уголков огромной страны, куда только проникали нити железных дорог.

В 1923 г. рядом с Ильфом в комнате четвертой полосы можно было увидеть М. Булгакова, С. Гехта, Ю. Олешу — «самых веселых и едких людей в тогдашней Москве», по выражению К. Паустовского. Потом «правщик» Булгаков стал «бытовым фельетонистом» газеты, на четвертой полосе появились его псевдонимы Эмма Б. и Г. П. Ухов. Почти ежедневно стало украшать полосу имя Зубило. Так подписывал свои стихотворные фельетоны, чрезвычайно популярный среди читателей-рабочих, Ю. Олеша. В «Гудке» проходили свою журналистскую школу многие впоследствии известнейшие писатели, и школа эта в значительной степени была школой сатиры. Здесь регулярно печатались фельетоны В. Катаева — в стихах и в прозе. На четвертой странице он выступал как бытовой фельетонист Старик Собакин, на первой — как Оливер Твист, автор политических фельетонов. В «Гудке» работали Л. Славин, А. Эрлих, А. Козачинский. Частым гостем здесь был К. Паустовский. Иногда в редакцию заходил Владимир Маяковский, и на страницах газеты появлялись его стихи.

Ильф неизменно работал в «четвертой полосе», которой неизменно заведовал И. С. Овчинников, а рядом с ним над письмами рабкоров теперь трудились вместо М. Булгакова и Ю. Олеши «правщики» М. Штих и Б. Перелешин. Письма рабкоров, длинные, малограмотные, трудночитаемые, но почти всегда строго фактические и непримиримые, здесь превращались в короткие, в несколько строк, прозаические эпиграммы. Имени Ильфа, как и имен Штиха, Перелеши-на, под такими эпиграммами нет. Их подписывали рабкоры, большей частью условно: рабкор номер такой-то, Глаз, Зуб и т. д.

Иногда, совсем нечасто, в газете появлялись фельетоны и рассказы Ильфа. Уже существовало имя Ильф, оно было придумано еще в Одессе, с августа 1923 г. его можно встретить на страницах «Гудка». И все-таки до сотрудничества с Петровым Ильф предпочитал подписываться так: Иф, И. Фальберг, иногда инициалами И. Ф. Были псевдонимы А. Немаловажный, И. А. Пселдонимов и др.

В 1923–1924 гг. Ильф далеко еще не был уверен, что его призвание — сатира. Он пробовал писать рассказы и очерки на героические темы — о гражданской войне. Был среди них рассказ о бойце, пожертвовавшем своей жизнью, чтобы предупредить товарищей об опасности («Рыболов стеклянного батальона»), и рассказ об одесском гамене, мальчике Стеньке, захватившем в плен венгерского офицера-оккупанта («Маленький негодяй»), и очерк о революционных событиях в Одессе («Страна, в которой не было Октября»). Эти произведения неуверенно подписаны одной буквой И., словно Ильф сам задумывался: то ли это? И действительно, это еще не Ильф, хотя отдельные черточки будущего Ильфа даже здесь уловить нетрудно: в фразе из «Рыболова стеклянного батальона», позже повторенной на страницах «Золотого теленка» («В пшенице кричала и плакала мелкая птичья сволочь»); в сатирически очерченном портрете немецкого оккупанта, тупо не понимавшего того, что хорошо понимала простая старуха: что его все равно вышвырнут из Одессы («Страна, в которой не было Октября»); или в смешной детали трогательного рассказа о Стеньке (Стенька обезоружил офицера, ударив его по лицу только что украденным петухом).

Он писал очерки, и в первых же его гудковских заметках прозвучали мягкие, лирические интонации, те улыбчивые, восхищенные и застенчивые интонации, неожиданные для людей, привыкших считать Ильфа непременно резким и беспощадным, что позже так обаятельно проступили в третьей части «Золотого теленка». Они слышатся, например, в его корреспонденции, повествующей о демонстрации 7 ноября 1923 г. в Москве, о том, как «усердно и деловито, раскрывая рты, как ящики, весело подмигивая, поют молодые трактористы, старые агрономы, китайцы из Восточного университета и застрявшие прохожие», о коннице, которую с восторгом приветствует толпа, о том, как стаскивают с лошади растерянного кавалериста, чтобы качать его. «„Не надо, товарищи! — кричит он. — Товарищи, неудобно ведь! Нас там позади много!“ А потом счастливо улыбается, взлетая в воздух. „Ура, красная конница!“ — кричат в толпе. „Ура, рабочие!“ — несется с высоты седел» («Москва, Страстной бульвар, 7-е ноября»).

В 1925 г. по командировке «Гудка» Ильф побывал в Средней Азии, и его глубоко взволновал этот край, где на фоне внешне сохранившейся ветхозаветной старины уверенно пробивались ростки нового. Он опубликовал серию очерков о своей поездке, и в них впервые отчетливо проявился так характерный для Ильфа острый интерес к ярким подробностям жизни. Эти подробности он увлеченно собирает, как бы коллекционирует, составляя пеструю, увлекающую блеском красок мозаичную картину.

Но постепенно главным жанром для Ильфа становится сатирический фельетон.

Он писал фельетоны на актуальные политические темы для «Гудка» и журнала «Красный перец». В одном из самых ранних — «Октябрь платит» (1924) — он выступил против империалистов, все еще рассчитывавших получить от революционной России царские долги, саркастически обещал им оплатить сполна и интервенцию, и блокаду, и разрушения, и империалистическую поддержку контрреволюции. Писал кинофельетоны и кинорецензии для «Вечерней Москвы» и газеты «Кино». Но чаще всего — фельетоны, построенные на конкретном материале рабкоровских писем, — в 1927 г. они систематически появлялись в журнале «Смехач» за подписью И. А. Пселдонимова.