Enero 13, 1128 nang iprinoklama ni Pope Honorius II ang Knights Templar, na pinamunuan ni Hughes de Payens, bilang sandatahan ng Diyos. Ang grupo ay may orihinal na siyam na miyembro. Ang pangalan ng grupo ay hinalaw sa Temple Mount ng Jerusalem, na roon matatagpuan ang kanilang headquarters.
Itinatag noong 1118, layunin ng grupo na protektahan ang mga Kristiyanong pilgrim na nagtutungo sa Jerusalem tuwing Crusades. Kinailangang manumpa ang Knights sa pangako ng pagtalima, kahirapan at kalinisan. Noong 1127, mas maraming lalaki ang nahimok na maging Knights, na higit na nagpatindi sa impluwensiya ng grupo.
Sa pag-usad ng panahon, mas maraming mayayamang Katoliko ang nag-donate ng lupa at iba pang ari-arian sa grupo, at pagsapit ng unang bahagi ng 1300s ay kinainggitan na ang grupo dahil sa pagiging sobrang yaman. Noong 1307, dinakip ang grand master na si Jacques de Molay sa utos nina King Philip IV at Pope Clement V matapos siyang maakusahan sa pagiging erehe, Satanista at lapastangan. Kalaunan, sinunog nang buhay si Molay at ang iba pang pinuno ng grupo.
