Оппозиция тут же назвала Шмидта «пенсионным предателем». Избиратели почувствовали себя обманутыми. Парламентская фракция СДПГ восстала, ведь депутатам пришлось почувствовать на себе недовольство избирателей. Накажут ли они своего кандидата во время выборов канцлера в бундестаге? Внезапно Шмидту пришлось опасаться за свое переизбрание на пост канцлера. В конце концов, Шмидт капитулировал перед протестующей и бунтующей партией: ему пришлось скрепя сердце согласиться на увеличение пенсий с 1 июля 1977 года.

На покрытие дефицита пошли остатки социального страхования. Выборы бундесканцлера 15 декабря 1976 года с тех пор считаются самым большим политическим поражением политика Гельмута Шмидта.

Шмидт остался у власти, получив перевес в один голос и пустую государственную кассу. Канцлер покинул свое прежнее рабочее место и переселился из дворца Шаумбург в новое канцлерское ведомство. «Дом, который снаружи выглядел, как довольно большая рейнская сберкасса, в распоряжении которой очень много денег», — недовольно оценил глава правительства свою новую резиденцию. Однако он утешился, украсив здание картинами на свой вкус. Шмидт с юных лет был любителем искусства, с момента знакомства с художественными дисциплинами в прогрессивной гамбургской школе «Lichtwark». Особенно канцлеру, обладающему художественным вкусом, пришлись картины немецких экспрессионистов Эрнста Людвига Кирхнера, Эриха Хекеля, Карла Шмидта-Роттлуффа, Августа Маке, Кристиана Рольфса и Франца Марка. Уже перед въездом в новое здание он советовался с экспертом по искусству. Шмидт лично озвучил свою концепцию на публике: «Все произведения искусства должны быть предоставлены во временное пользование, чтобы не перегружать бюджет канцлерства. Имена всех художников должны быть связаны с изгнанием, дискриминацией, ссылкой и запретом заниматься искусством в годы национал-социализма в Германии. Зритель наряду с радостью от общения с искусством будет вынужден к серьезным размышлениям». В кабинете канцлера рядом с портретом социал-демократа Августа Бебеля висела каргина «Море» его любимого художника Эмиля Нольде. Интерес Шмидта к искусству остался в истории: в 1980 году по его указанию началась перестройка площади перед резиденцией канцлера, где была поставлена абстрактная работа британского художника Генри Мура, знакомая каждому телезрителю скульптура «Two Large Forms», переименованная боннцами в «Гельмута и Ганнелору».

Однако искусство не могло заставить канцлера забыть политические проблемы 1976 года. Тем охотнее он снова обратился к мировой политике. Роль, которая ему блестяще удавалась: немецкий канцлер — «честный посредник» между сверхдержавами СССР и США. Но отношения с США постепенно испортились, поскольку в ноябре 1976 года президентом США был избран Джимми Картер. «Джимми, ужасное имя, — канцлер не потрудился скрыть свою холодность по отношению к новому человеку и Белом доме. По-деловому сдержанный профессиональный политик Шмидт считал эмоционального и все время улыбающегося фермера из Джорджии крайне неопытным политиком. Эта антипатия имела и конкретнее причины. Президент США Картер сразу после своего вступления в должность подчеркнул, что он озабочен соблюдением прав человека в государствах соцлагеря. Картер бесцеремонно относился к советскому правительству, высказывая свои симпатии диссидентам. Канцлер, который предпочитал «ориентированную на разум», а не на чувства этику, видел в этом угрозу для неокрепшей «политики разрядки».

Когда Шмидт в июле 1977 года посетил Картера в Вашингтоне, были разобраны и конкретные политические разногласия. Шмидт не признавал ведущую роль немецкой экономики в продолжающемся мировом экономическом кризисе. Кроме того, существовали разные мнений насчет того, о каком ядерном оружии должна идти речь во время американо-советских переговоров о разоружении. Шмидт хотел включить туда также ракеты средней дальности, направленные на ФРГ. Картер видел угрозу США только в межконтинентальных ракетах и хотел добиться результатов разоружения в первую очередь в этой области. Президент США остался непоколебим в этом вопросе, но примирительно заметил: «Я чувствую себя более сильным, зная, что могу посоветоваться с Гельмутом Шмидтом… Он — государственный деятель, он умен и видит вещи с собственной точки зрения. Он постиг вызовы нашего времени и думает о том, как встретить их лицом к лицу. Я слушаю его и получаю пользу».

Официальная похвала не совсем полно отражает картину происходящего. Бывший советник по вопросам безопасности президента США, Збигнев Бжезинский, объясняет личные трения между Шмидтом и Картером со своей точки зрения: «Картер был заинтересован в том, чтобы учиться у Шмидта и работать рядом с ним. Эта установка не находила никакого ответа у немецкого канцлера. С самого начала, с первой встречи, Шмидт занял позицию снисходительного превосходства, в то же время рассыпаясь в малоправдоподобных уверениях в дружбе». После каждой встречи Шмидт позволял вовлекать себя в разговоры с различными американскими и немецкими журналистами и отпускал злобные комментарии в адрес Kартера, утверждал Бжезинский. Канцлер сильно омрачил немецко-американские отношения, позволяя себе подобные высказывания. Из-за поступков Шмидта уважение президента Картера к проектам американцев в Германии было подорвано, таков был вывод бывшего советника по вопросам обороны.

В 1978 году противоречия обострились. Картер опять заклеймил СССР позором из-за нарушения прав человека и агрессивной внешней политики в странах Африки, где СССР поддерживали многочисленные партизанские движения и возникающие просоветские правительства. Президента США не устраивало мнение о нем, как о слабом правителе, поэтому он не ограничился только словами. Картер попытался уговорить НАТО начать программу вооружения, которая, по общим подсчетам, должна была стоить 20 миллиардов марок, треть этих расходов должна была взять на себя ФРГ. Кроме этого, требовались расходы на строительство портов и складов, которые тоже будет нести Западная Германия. Финансовое положение в стране было нестабильным, экономия и подобные расходы для социально-либеральной коалиции стали бы для немцев серьезной проблемой.

Также речь шла и о реализации внешнеполитического курса Шмидта: сохранить «политику разрядки», чтобы стабилизировать ситуацию в мире и облегчить жизнь людям в обеих Германиях. Концепция Шмидта, по его собственному признанию, была следующей: «С одной стороны, твердое желание выглядеть с военной точки зрении неспособными к обороне, с другой стороны, опираться на достигнутый таким способом военный баланс сил, а также стремление сотрудничать с СССР». Во время заседания НАТО в Вашингтоне в мае 1978 года немецкая делегация опасалась, что предложения Картера могут начать очередной виток «холодной войны». Только много позже Шмидт признался, что был после этой конференции «подавлен». У него сложилось впечатление, что «Леонид Брежнев может лучше понять мои опасения, чем Джимми Картер».

Это провокационное высказывание Шмидта можно, вероятно, объяснить тем впечатлением, которое осталось у него незадолго до этого от главы СССР. По-человечески они стали ближе друг другу во время государственного визита лидера советского государства и партии в ФРГ в начале мая 1978 года. Во время пребывания Брежнева в Гамбурге, в родном городе Шмидта, канцлер пригласил его к себе на обед в Гамбург-Лангехорн. Коммунист Брежнев увидел дом канцлера, который поразил его не роскошью, а скромностью. Дом из красного кирпича был настолько невелик, что только после пристройки к нему обеденного зала здесь стало возможно соответствующим образом принять высоких гостей. Дом Шмидта отличала скандинавская мебель, кирпичный камин и небольшой домашний орган. «Квартира человека, который родился в стесненных обстоятельствах и который отказывает себе в том, чтобы раздвинуть свои личные рамки», — так в 1970-х годах один журналист прокомментировал быт главы правительства ФРГ.