Социалисты-атеисты, отрицая божественное происхождение Христа и само существование Бога, тем не менее готовы были восхвалять Иисуса как защитника бедных и угнетенных, которого тогдашний правящий класс приговорил за это к жестокой смерти. В 1792 году революционный вождь Франции Камиль Демулен провозглашал, что он последователь «бесштанного Христа», то есть Христа санкюлотов. Поначалу Муссолини относился к Иисусу нетерпимее других социалистов. Во время пребывания в Швейцарии он посетил лекцию лидера бельгийских социалистов Эмиля Вандервельде о «бесштанном Христе». Как обычно, Муссолини после лекции ввязался в дискуссию и заявил, что если кто-то из древних религиозных вождей внес нечто ценное в современный социализм, то это скорее не Христос, а Будда, потому что Будда — ученый, изложивший свою философию в сорока томах. В ответ Вандервельде заметил, вызвав смех аудитории, что Кайфа и Понтий Пилат оборвали карьеру Иисуса до того, как он успел написать сорок томов.

Альфред Таглиатела хотел убедить итальянских социалистов стать христианами, но его попытки не увенчались успехом. В сентябре 1903 года он читал лекцию в Лозанне, на которой присутствовал Муссолини, резко критиковавший его взгляды. Тогда Таглиатела вызвал Муссолини на дебаты, которые были проведены 25 марта 1904 года перед аудиторией в пятьсот человек. Муссолини выдвинул тезис, что «Бога не существует и наука, включающая в себя религию, абсурдна». Он заявлял, что законы физики, управляющие теплом, электричеством, светом и звуком, «не откликаются на молитвы и сетования людей».

На сторонников Муссолини его речь произвела такое большое впечатление, что они просили опубликовать ее. Расширенный вариант вышел из печати в Лугано к концу 1904 года под названием «Человек и божество». Книга открывалась фразой: «Бога не существует». Эта тема тогда обсуждалась повсюду, так как в июле 1904 года по настоянию католиков Невшателя в Ла-Шо-де-Фон состоялся суд над профессором Джулио Каррора, обвинявшимся в том, что читаемые им лекции полны богохульства. Профессор был оправдан.

Тем временем Муссолини расширял познания в социалистической литературе. Он читал работы Петра Кропоткина, русского князя, который после сенсационного побега из петербургской Петропавловской крепости приехал в Западную Европу. Там его несколько раз арестовывали, заключали в тюрьму и выслали из Франции и Швейцарии за пропаганду анархистских доктрин. В августе 1904 года миланская газета «Л'Авангардна социалиста» напечатала сделанный Муссолини сокращенный перевод французского оригинала воспоминаний Кропоткина «Записки революционера».

Муссолини выучил немецкий язык, на котором впоследствии говорил так же бегло, как и на французском. К тому времени он прочел в итальянском переводе «Манифест коммунистической партии» и «Капитал» Карла Маркса, а теперь читал по-немецки остальные его работы. Он также познакомился с трудами Энгельса и Карла Каутского, считавшегося после смерти Энгельса и «бегства в ревизионизм» Эдуарда Бернштейна самым значительным теоретиком марксизма в Германии. Ленин тогда был большим поклонником Каутского, хотя позднее, когда тот стал критиковать действия большевиков в России после Октябрьской революции, обозвал его ренегатом.

В 1904 году социалисты с интересом изучали последнюю книгу Каутского «День после социалистической революции». Он описывал в ней общество, которое надеялся увидеть икоторое, он верил, будет после прихода социалистов к власти. Этой проблемы теоретики социализма почти нигде не касались. Только Маркс очень кратко в «Критике Готской программы» поднял этот вопрос. Муссолини решил перевести книгу Каутского на итальянский. По воспоминаниям Анжелики Балабановой, он сказал ей, что хочет перевести эту работу, но не знает немецкого, и она стала обучать его этому языку. Однако, по-видимому, она не права. Ведь Муссолини прочел и восторженно оценил «День после социалистической революции». А это можно было сделать, только достаточно владея немецким языком. Хотя вполне возможно, что Балабанова помогала ему с переводом.

В апреле 1904 года у Муссолини снова было столкновение с полицией. Когда он впервые приехал в Ивердон, его швейцарская виза позволяла ему оставаться в Швейцарии в течение 18 месяцев, до 31 декабря 1903 года. Однако по мере приближения этой даты он стал бояться, что ему придется вернуться в Италию как раз к моменту получения призывной повестки. Ему пришло в голову, что будет очень легко изменить в визе «3» на «5», что он и сделал. Получилось, будто ему разрешено пребывание в Швейцарии до 31 декабря 1905 года. Но в апреле 1904 года полиция Женевы обнаружила подделку. Муссолини был арестован и после трех дней пребывания в женевской тюрьме приговорен к высылке из кантона.

Социалистам Женевы удалось провести в Великий совет кантона одного из своих лидеров, адвоката Адриена Висса. На совете Висе высказал возражение против депортации Муссолини, а социалисты провели несколько демонстраций протеста на улицах Женевы. Ряд местных отделений социалистической партии вынес резолюции с призывом к 24-часовой всеобщей забастовке. Тем временем полиция уже повезла Муссолини к границе, но из-за протестов это путешествие было прервано, и его передали властям в Люцерне. Так что Пасху он провел в тамошней тюрьме.

Социалисты и радикалы Тичино, зная, что Муссолини провезут через их кантон по пути к итальянской границе, присоединились к протестам против его высылки. Радикал, член Великого совета Тичино Антонио Фузони высказал этот протест на заседании совета. Шумные возражения увенчались успехом, и Муссолини, которого должны были доставить к границе в Кьяссо, был освобожден в Беллинцоне. Ему было разрешено остаться в Тичино. Власти Женевы отозвали приказ о высылке, и Муссолини летом и осенью 1904 года оставался в Женеве, Лозанне и других районах Швейцарии.