在西罗马帝国灭亡后的几百年中，整个欧洲一直处在相对稳定的状态。然而这种情况在公元6世纪诞生的伊斯兰教持续扩散影响力，以及随之建立的阿拉伯帝国向西征服的大背景下发生了改变。基督教在跟新兴的伊斯兰教在普及性的对抗上处于下风，再加上伊斯兰教所笼络的阿拉伯骑士具有相当程度的战斗力，大致到公元11世纪，穆斯林们在地中海沿岸直至西亚地区建立了多个伊斯兰国家，严重威胁到了中世纪欧洲国家的生存安全。

在这种大背景下，由教廷出面，以基督教和天主教的名义组织起军队进行所谓“圣战”的十字军东征就开始了。因其旨在打击异教徒，收复原属于欧洲的失地这一名义，笼络了许多欧洲军事的中坚力量——骑士阶层，这些骑士的个体往往没有固定的效忠对象，也非近代式的国家军人有明确的民族意识，那么在作战时，他们所能够依赖和信任的，就只有与自己处境相似的其他伙伴。渐渐地，从个人到小队，再从小队到集团，于是后来在历史上充满传奇的三大骑士团，就这样诞生了。

三大骑士团中出现最早的是医院骑士团，成立于耶路撒冷 的施洗者圣约翰教堂 附近的医院里，建立者是法国贵族Gerard和几名同伴，故此得名。同时它也被称为“圣约翰骑士团”，主体成员为法国，意大利，西班牙的骑士。

早期的医院骑士团的宗旨是以照顾战争所带来的伤病者，以及前来耶路撒冷朝圣的信徒为主。但是当14世纪奥斯曼土耳其崛起之后，医院骑士团为了回避对方进攻的兵锋，开始转移到罗得岛，之后被神圣罗马帝国的皇帝查理五世将地中海的马耳他岛分封其手中，正式建立了自己的国家，名为“马耳他骑士国”。

之后随着多次挫败奥斯曼的进攻，医院骑士团进入了巅峰期，直到拿破仑在1798年逼迫其投降，医院骑士团的大部分成员转移到了俄罗斯，受到沙皇保罗一世庇护，并在1834年重返罗马，医院骑士团至今都作为联合国的观察成员国之一，总部设在罗马，拥有外交权力。

三大骑士团中第二个出现的，也是存在时间最短的是圣殿骑士团，它出现于1118年前后，主体为法国骑士，名称来源于创始者最初住在耶路撒冷的救世主教堂，而救世主教堂传说曾是所罗门王的圣殿而得名。

圣殿骑士团在早期得到了法国国王的大力支持，并且在十字军东征中战功赫赫，积累了无数财富。然而财富多了，自然有人眼红，当东征接近尾声时，穆斯林在东方的根据地被拔出殆尽，而其他国家已经没有能够继续扩充领土和掠夺财富的途径，自然而然就把目光盯上了满载而归的圣殿骑士团。在1307年，法国国王腓力四世联合教皇指控圣殿骑士团为异端，大规模搜捕和拷问圣殿骑士团的骑士，圣殿骑士团自此损失殆尽，在1312年被解散。

三大骑士团最晚出现的是条顿骑士团，“条顿”是德意志的古称，所以听名字也知道，主体是德意志的骑士。它于1198年在以色列境内成立，几乎参与了所有的十字军东征，而在十字军东征中，条顿骑士团也立下了汗马功劳，多次击败穆斯林。即使在十字军东征结束后，条顿骑士团依然保持了非常强大的战斗力，甚至于后来欧洲大陆首屈一指的强国普鲁士，其前身也是条顿骑士团的一部分骑士。

直到1809年，纯军事性质的条顿骑士团被拿破仑解散，而剩下的骑士后代组成了公益组织一直持续到今天。条顿骑士团应当是三大骑士团中影响力最大，且知名度最高的一个，当然这得益于后来的普鲁士和德意志国力强盛的作用。

无论曾经建立过多大的业绩，随着时间的推移，这些曾经的辉煌都会消失在历史的长河中，三大骑士团所建立的传奇故事，和他们的兴衰存亡，终究会变成后世许多人嘴里的谈资，从这个角度来说，大概也会很让人感慨吧。