В 1225 году папа снова позволил Фридриху II на пару лет отложить крестовый поход. Таким образом, крайний срок исполнения обета, данного императором в 1215 году, когда он принял крест, приходился на 1227 год. И император более не собирался уклоняться. Но злая судьба, долго поджидавшая своего часа, рассудила иначе. В войске крестоносцев разразилась эпидемия. Фридрих не смог начать поход и выслал лишь часть войска. В ответ папа отлучил его от церкви. Последовал разрыв между императором и папой, которого так стремился избежать великий магистр, используя все свое дипломатическое искусство.

Отлученный от церкви император все-таки отправился на Восток и, мудро проведя переговоры, добился того, чего не удавалось сделать ни одному войску крестоносцев — Иерусалим был сдан султаном без боя, — а потом Фридрих сам увенчал себя короной короля Иерусалимского, женившись на его наследнице. Однако успехи императора лишь усугубляли враждебность церкви. По возвращении в Италию летом 1229 года Герман оказался перед наитруднейшей задачей в своей жизни: ему надо было добиться примирения между Фридрихом II и папой Григорием IX. Примирение состоялось лишь в конце следующего лета. Примирительная трапеза двух противников, каждый из которых представлял свой мир, и заключительная беседа, при которой присутствовал лишь великий магистр как посредник между этими двумя половинами западноевропейского мира, положили конец открытой вражде двух предводителей христианства. Решилось и дело великого магистра, который жил, похоже, только для того, чтобы восстанавливать единство двух христианских вождей.

1227–1230 годы стали апофеозом политической деятельности Германа фон Зальца. Сразу после коронации в Иерусалиме опальный император писал о нем германскому князю: «Одно надлежит нам заметить, ничего по праву не утаивая, о магистре и братьях Немецкого ордена пресвятой Девы Марии: преданы они нам с самого начала нашего служения Господу и успешно нам в том помогают». Верно служа своему венценосному господину, Герман умудрился при этом возобновить никогда, впрочем, до конца не порывавшиеся связи с курией, а спустя год усердных трудов и вовсе восстановить их: к этому времени он уже рассчитывал на возможную долговечность союза между императором и папой.

В эти же годы были заложены основы будущего прусского государства Немецкого ордена. Великий магистр был на Востоке, а тем временем в Польше в 1228 году комтур Галле продолжил переговоры и вскоре уже имел на руках подписанный князем Мазовецким документ, подтверждавший первоначальное дарение, при этом величина дара несколько увеличилась. Вернувшись из Сирии, великий магистр посвятил конец 1229 года подготовке переговоров между императором и папой; к тому же пришла пора решить и прусский вопрос. Осуществляя одно из своих многочисленных посольств, великий магистр имел возможность сообщить о положении вещей папе, Григорию IX. Ожидая, что папа подтвердит факт дарения, Герман готов был этим удовлетвориться и, наконец, возобновить борьбу: «Смело идите вперед, дабы оружием Божьим вырвать эту землю из рук пруссов, и пусть Святая церковь, коли натянуты канаты ее шатров и достаточно для них места, Божьей милостью и Вашим служением приумножается числом и заслугами своих верующих, и да воздастся Вам сто крат на пути Вашем и обретете Вы вечную жизнь в отечестве».

Но великий магистр рассчитывал на нечто большее; за высшим благом он не хотел забывать об орденском государстве. В начале 1230 года орденское посольство вернулось из Польши, так и не добившись продвижения. Тогда орден составил в Италии некий документ, адресованный князю Конраду, весьма доходчиво обрисовав его нелегкое положение и его возможные действия и сформулировав права, которые, по мнению ордена, гарантировали бы в соответствии с императорской золотой буллой независимость орденского государства. Вооруженное этой грамотой, орденское посольство вновь отправилось в Польшу, и еще прежде, чем император и папа за дружеской трапезой отпраздновали свое примирение, князь Мазовецкий в июне 1230 года принял поставленные орденом условия и составил требуемый от него документ.

Орден был у цели, которую он наметил себе в 1226 году, вступив в переговоры с князем. Теперь можно было начинать борьбу за Пруссию. Это взял на себя Герман Балк, первый ландмейстер ордена в Пруссии. Поскольку орденское посольство 1228 года прибыло из Галле, то и сопровождали Германа Балка главным образом выходцы из Саксонии и Тюрингии. Осенью 1230 года, впервые за много лет, папа призвал к крестовому походу на Пруссию. И с тех пор вооруженные и жаждущие битвы паломники ежегодно отправлялись в поход. С их помощью братья год от года углублялись во вражеские земли, вынуждая покоренных пруссов принимать христианство и расширяя территорию своего государства на север и на юг.

Ибо сначала путь им указывала Висла. Крепость Торн возникла в 1231 году, Кульм — в 1232, а потом последовало стремительное наступление на исконные прусские земли, завершившееся основанием Мариенвердера. В конце 1233 года орден впервые заявил о себе как суверен, закрепив права граждан Торна и Кульма в Кульмском городском праве. Подобно тому, как в 1226 году Герман фон Зальца, не удовлетворившись одним лишь императорским подтверждением предложения князя Мазовецкого, добился документального закрепления основ будущего орденского государства, так и Кульмское городское право не сводилось лишь к перечислению прав двух городов. Императорский документ 1226 года касался внешнеполитических прав ордена, а Кульмское городское право столь же подробно определяло внутренний строй государства и жизнь немецкого населения, от которого в будущем зависела и сама природа этого государства: на Торн и Кульм распространялось теперь Магдебургское и Фламандское право, а также Фрейбергское и Силезское горное право, устанавливался на будущее порядок чеканки монет, определялись единицы меры и веса.

Хотя в преамбуле Кульмского городского права и упоминается имя Германа фон Зальца, на самом деле он никогда не ступал на прусскую землю. В 1237 году братья Немецкого ордена, продвигаясь к востоку от Вислы и достигнув побережья, основали там Эльбинг и намеревались и далее идти на восток вдоль залива Фришес-Хафф, а Герман тем временем мог лишь на расстоянии заботиться о будущем государстве. Но он по-прежнему принимал все серьезные решения, что свидетельствует о его немаловажной роли в строительстве государства. Летом 1234 года император и папа одновременно оказались в Риети, в центральной Италии, и тогда Григорий IX взял орденское государство под власть и опеку курии. С политической точки зрения эта мера призвана была защитить государство ордена от прочих церковных властей, в особенности от епископа, а также от князя Конрада; этим образование государства и завершилось. По понятиям того времени, связь с курией ни в коей мере не противоречила императорскому документу 1226 года и, в частности, тому, что орденское государство входило в состав империи. В силу своей церковно-светской сущности государство духовного ордена подчинялось двум государям — императору и папе. Поскольку в момент составления документа они оба были в Риети, орден (а вместе с ним и его великий магистр) оказался втянутым в соперничество между церковью и государством, между императором и папой, и для утверждения своей власти нуждался в них обоих, хотя намерение папы создать в Пруссии епископство не могло способствовать независимости орденского государства. Важно то, что, в отличие от случая с орденским государством в Семиградье, присоединение прусского государства к собственности курии не было началом государственного самоопределения. В Бурценланде самостоятельность орденского государства ограничивалась венгерским королем и венгерским духовенством. В Пруссии же государственная самостоятельность помогала ордену противостоять возможным внешним угрозам, однако она никогда не довлела над его политикой, затрудняя тем самым внутреннее развитие его государства, поскольку у него были обязательства перед империей и местные политические задачи.