Этот орден, который своей важностью и значением впоследствии превзошел многие другие ордена, своим началом был обязан нескольким богомольцам, основавшим в 1128 и 1129 годах в Иерусалиме приют для бедных и больных лиц немецкого происхождения.Это общество под названием «Госпитальеров Пресвятой Девы Марии немецкого дома Божия Матери Иерусалимской» и «Ордена немецких или крестовых рыцарей», или просто «марианитов», особой исторической роли не играло. Однако именно оно легло в основу событий, которые произошли в 1190 году, во время осады Акры.Общество было учреждено в лагере известными купцами из Любека и Бремена. К ним присоединились помимо членов первого общества еще и вновь поступающие богомольцы, в том числе рыцари крестовых походов.
Когда число членов этого общества значительно увеличилось, герцог Фридрих Швабский, раручившись поддержкой у Генриха VI и Папы Целестина III, изменил его в рыцарский орден. Вслед за этим, членам общества был дарован устав, похожий на иоаннитский и храмовых рыцарей, а также орденская одежда, символизировавшая их двойственное происхождение. У ордена осталась длинная белая мантия, избранная членами первоначального общества, а для отличия от храмовых рыцарей на белом плаще был утвержден крест черного цвета.
Последние этим не удовлетворились и, находя, что плащ у госпитальеров похож на их плащ, подали жалобу Папе Гонорию III. Из-за этого госпитальерам было запрещено использовать черный цвет. Однако вскоре по настоянию Фридриха II запрещение было отменено, а храмовым рыцарям указали на «всенеприличие их притязаний, тем более, что, исключая плащ, одежда того и другого ордена имела довольно много различий». К одежде крестоносцев еще в самом начале основания ордена было добавлено несколько почетных отличий для степени гох- и дейч-мейстера и для временно исполнявшего его должность.
