Власть Ордена тевтонских рыцарей распространялось прежде всего на территории, где он крепко закрепился на берегах Балтийского моря, от Нижней Вислы до Финского залива и Чудского озера. Здесь находились владения ордена, названные «боевыми провинциями» из-за постоянной угрозы, исходящей от литовских и польских соседей, что вынуждало орден держать крепостные гарнизоны в постоянной боеготовности.

Эти две боевые провинции первоначально были Пруссией, усмиренной и покоренной после семидесяти пяти лет непрерывной борьбы, где орден построил многочисленные города и населенные пункты. Тысячи немцев обосновались там, сначала в городах, затем, в основном после 1280 г., в сельских местностях, что способствовало широкой германизации страны, которая закончилась в конце XIV столетия.

Вторая из этих провинций была Ливония, соединенная с Пруссией узкой прибрежной полосой, которая постоянно находилась под угрозой вторжения литовских племен жемайтов. Эта территория в конечном счете будет подчинена ордену в 1397 г. В отличие от того, что происходило в Пруссии, власть ордена распространялась только на ту часть Ливонии, которая прежде принадлежала рыцарям-меченосцам до их слияния с Тевтонским орденом в 1237 г. Эта часть Ливонии состояла из Курляндии, Земгалии и северной части Ливонии с городами Феллин и Вольмар. К этому надобно добавить герцогство Эстония, купленное Тевтонским орденом у короля Дании в 1346-1347 гг. Остальная часть Ливонии подчинялась архиепископу Риги, который постоянно конфликтовал с Тевтонским орденом и епископом Дерпта (Тарту).

Помимо двух боевых провинций орден владел отдельными командорствами, объединенными с провинциями так называемыми «мирными» договорами. В конце XIV столетия, помимо Пруссии и Ливонии, во владении ордена было семь провинций, командорства в Германии, Австрии, Богемии, Венгрии, Эльзас-Лотарингии, Бургундии, Италии и Померании. С XIII столетия орден владел многочисленными землями и движимым имуществом, полученными в дар от западных рыцарей по возвращении их из крестовых походов, которые этим засвидетельствовали свое признание за те услуги, которые получали в тевтонских госпиталях в Святой земле во время крестового похода под предводительством Людовика Святого. Эти земли находились в основном в Шартре, Невере и Труа. Они были проданы в 1501 г. аббатству Клерво командором провинции Лотарингия Жаном Ланжелланом с согласия магистра ордена в Германии и Италии Хартмана фон Солтенома. Причиной, оправдывающей эту продажу — по цене, впрочем, весьма низкой, — называют то, что эти земли были значительно удалены друг от друга, что затрудняло управление ими; кроме того, эти епархии были практически в развалинах вследствие разрушений, причиненных во время Столетней войны, а приводить их в порядок было для ордена чересчур накладно.

Дабы управлять столь разбросанной и обширной империей, орден тевтонских рыцарей создал эффективную организацию с централизованными и четко регламентированными учреждениями, деятельность которых подчинялась уставу. Устав ордена состоял из правил, законов и ритуалов, которые постоянно дополнялись с учетом обстоятельств и требований текущего момента. Первоначально Орден Святой Марии Немецкой в Иерусалиме подчинялся правилам, заимствованным в большой степени у госпитальеров, что касается религиозной миссии, и у тамплиеров, что касается воинских обязанностей. Но вскоре, особенно с приходом Германа фон Зальца, Тевтонский орден постепенно отошел от духовной подчиненности двум другим орденам и стал жить по Уставу, утвержденному папской буллой от 9 января 1221 г. и тридцатью четырьмя другими от 15—21 января того же года, направленными папой Гонорием III Герману фон Зальца. Разрешение папы Иннокентия IV от 9 февраля 1244 г. и новые уставы, принятые в 1297 г. во время съезда ордена в Венеции, составили основные положения Устава тевтонских рыцарей.

Во главе ордена стоял магистр (magister), который в начале XIII столетия стал называться «великим магистром» (magister generalis — Hochmetster), чья власть постоянно расширялась. Великий магистр на основании устава 1297 г. становился властелином, пользующимся абсолютной властью как над орденом, так над людьми, живущими на территориях ордена, и их имуществом. Единственно, что ограничивало всемогущество магистра, так это положения устава ордена.

Магистр избирался пожизненно капитулом (Wahlkapitet), что было как бы синтезом выборной системы и системы кооптации. Вначале все братья ордена выбирали единодушно «командора голосования» (Wahlkomtur). Последний выбирал брата, и оба приходили к соглашению по поводу выбора третьего, и так далее, до тех пор пока достигалось требуемое количество братьев — тринадцать. Тринадцать кооптированных избранников составляли избирательный капитул, ответственный за избрание магистра. Символическая цифра «тринадцать» символизировала Христа и его двенадцать апостолов. Число «тринадцать» характерно для многочисленных командорств, которые состояли из тринадцати рыцарей, деление провинции в Германии на тринадцать судебных округов. Традиция требовала, чтобы среди тринадцати было восемь рыцарей, пять представителей от братьев и один представитель от братьев-священников. Когда наступал момент выборов нового магистра, комтур голосования объявлял во всеуслышание имя брата, которого он считал наиболее достойным исполнять эту высочайшую обязанность. Если остальные избиратели одобряли этот выбор, считалось, что выборы состоялись без дополнительных формальностей; но могло случиться и так, что выбор отклонялся, и в этом случае все избиратели договаривались о другой приемлемой кандидатуре. Такая система действовала до 1500 г., что, за редким исключением, позволяло избирать в великие магистры ордена достойных людей.

Когда в конце XII столетия создавался орден, резиденция магистра находилась в Акре, затем в 1230 г. была перенесена в замок Монфор, после падения Монфора в 1271 г. снова вернулась в Акру. С прекращением христианского присутствия в Палестине тевтонские магистры обосновались сначала в Венеции, затем в 1309 г. в Пруссии, в крепости Мариенбург, которую оставили в 1457 г., чтобы сделать своей резиденцией замок в Кенигсберге.

Магистр, как глава исполнительной власти внутри ордена, имел в своем распоряжении пять великих командоров, которые, помимо своих прямых обязанностей, исполняли обязанности членов Совета. Первый из великих командоров — великий командор (Grosskomur), был правой рукой магистра, при котором он состоял постоянно и осуществлял функции старейшины общины. Рангом ниже стоял маршал (Marschalt) — глава орденской армии под высочайшей властью магистра. Во время военных походов маршал отвечал за дисциплину и стратегию боевых действий; во время сражений маршал исполнял при магистре роль начальника штаба, ему помогал в этом один или несколько заместителей маршала. Был там и эконом (Trapier), который отвечал за все, что связано с одеждой, экипировкой, снабжением братьев, на котором также лежали бухгалтерские обязанности. У эконома в подчинении находился брат-госпитальер (Spittlel), который распределял милостыню и отвечал за деятельность странноприимных домов и больничных учреждений ордена; он находится в Эльбинге при самом крупном госпитале ордена в Пруссии. Наконец, казначей (Tressler) распределял доходы ордена и контролировал расходы.

Указания магистра исполнялись целой командой назначенных офицеров, при необходимости освобождаемых им от должности. В провинциях во главе командорств стоял великий командор (Grosskomtur), он и был хозяином провинции (Landmeisler) в Германии, что подтверждается его званием «немецкий хозяин» (Deutschmeister или Magister Germaniae). У Пруссии был особый статус: она зависела непосредственно от магистра, который там находился с 1309 г. В каждой провинции была своя администрация, осуществляющая управление. Заместителем великого командора был маршал, который командовал армией провинции во время крупных операций, требующих объединения военных сил ордена. Маршалы провинции подчинялись маршалу ордена. В каждую провинцию входили «региональные провинции» или округа (Ballei), разделенные, в свою очередь, на мелкие командорства — основу орденской организации.

Все командоры провинций и высокопоставленные лица ордена собирались для обсуждения вопросов на генеральном капитуле. Генеральный капитул был высшей властью внутри ордена, он играл роль законодательной власти наряду с великим магистром, который осуществлял исполнительную власть. Именно генеральный капитул отвечал за все нормативные вопросы внутри ордена, он рассматривал и утверждал все назначения. Наконец, капитул в некоторых случаях осуществлял судопроизводство. Магистр подавал предложения капитулу, который в большинстве случаев их утверждал. В противном случае обе стороны старались найти приемлемый для всех компромисс. Генеральный капитул пользовался широкой властью и далеко не малыми полномочиями: он мог, в рамках строго определенной процедуры, снимать с поста самого великого магистра, ежели последний не справлялся со своими обязанностями. Так произошло в 1293 г. со смещением магистра Герхарда фон Мальберга, а также в 1413 г., когда с согласием императора и папы магистр Генрих фон Плауен, избранный в 1410 г., был отстранен от должности. Условия смещения магистра были уточнены во время общего капитула 1297 г.: общий капитул имел право потребовать, чтобы магистр предстал перед ним в случае невыполнения своих прямых обязанностей или нарушения Устава, а в случае неявки после трех вызовов, магистр ipso facto отстранялся от должности.