Dès son installation dans Jérusalem, Godefroy de Bouillon s'attache à structurer autour du Tombeau du Christ appelé "Saint-Sépulcre", une communauté mixte, composée de chanoines séculiers et de chevaliers, des croisés restés en Terre sainte. Ces derniers constituaient un groupe appelé "Milites Sancti Sepulcri" (Chevaliers du Saint Sépulcre). Cette milice avait pour mission de protéger la sépulture sacrée et ses biens. Par la suite, et profitant des différentes conquêtes des croisés sur les musulmans, l'Ordre put se développer en étendant sa mission de protection des lieux saints, sur l'ensemble du Royaume de Jérusalem.