198年3月5日，条顿骑士团成立于阿卡(Acre)，今以色列境内，其后一直以阿卡作为总部至1291年。
条顿骑士团，早期成员全来自德意志民族，骑士团屈服波兰后被迫接受波兰人。条顿骑士团是三大骑士团中最后成立的一个。1187年哈丁战役之后，圣城耶路撒冷很快被萨拉丁的军队攻克。教廷号召发动新的东征，夺回圣城，这便是第三次十字军东征。当时神圣罗马帝国皇帝巴巴罗萨率领德意志军队率先开赴小亚细亚，可惜红胡子出征未半便中道崩殂，他的儿子施瓦本公爵继承遗志继续东征。条顿骑士团就是在这样的背景下成立的。
1190年，十字军经过苦战，终于攻下了重镇阿克，一些德意志骑士在阿克建立了一个行善的医护组织，这就是后来的条顿骑士团，不过建立之初它并没有军事任务，只是照顾伤患。
1198年，条顿骑士团以圣殿骑士团为样板，改造为军事修会，执行和医院骑士团一样的教规。因此有些资料上把条顿骑士团成立的时间记为1198年，这也不无道理。在小亚细亚期间，条顿骑士团发展缓慢，跟圣殿骑士团和医院骑士团相比，实在不能同日而语。从某种程度上讲，条顿骑士团成立的不是时候，圣城时代已经过去，前往小亚细亚的不是络绎不绝的朝圣者，而是欧洲君主率领的大军。在这些位高权重的君主手下，骑士团作为独立的组织要想发展实在是太难了，更何况在他们前面还有声名远扬的圣殿骑士团和医院骑士团。在小亚细亚的经历对于条顿骑士团来说实在是乏善可陈。
第一次十字军远征(1096年-1099年)，是唯一一次胜利的东征，共有约10万人参加。
骑士十字军兵分四路，1097年会合于君士坦丁堡，随即渡海进入小亚细亚，攻城夺地，占领了土耳其人都城尼凯亚等城，大肆掳掠，于1099年7月15日占领耶路撒冷，进城后杀了7000人，接着按欧洲国家模式，在地中海沿岸所占地区建立若干封建国家。十字军横征暴敛，促使人民不断起义，政权动荡不定。
第二次十字军远征(1147年-1149年)，是在法国国王路易七世和"神圣罗马帝国"皇帝、德意志国王康拉德三世率领下进行的。土耳其人于1144年占领爱德沙，是这次远征的起因。出动较早的德意志十字军在安纳托利亚被土耳其人击溃。法国十字军攻占大马士革的企图也落了空，故这次远征未达到任何目的。
第三次十字军东征(1189年-1192年)期间，来自德意志地区的骑士多次获赠土地和城堡。(1195年4月，香槟区的亨利伯爵赠提尔(Tyre，今黎巴嫩境内)作为据点，1196年3月再赠其在雅法(今特拉维夫附近)的封邑;另有德皇亨利六世在1197年年赠送意大利和西西里的教堂，修道院和医院，逐渐在耶路撒冷地区形成势力。
1198年3月5日，条顿骑士团成立于阿卡(Acre)，今巴勒斯坦境内，其后一直以阿卡作为总部至1291年。
1199年9月19日，教皇英诺森三世颁布训令，规定条顿骑士披圣殿骑士一样披风(白色披风，上绣红色十字和宝剑)，戴黑色十字章，执行医院骑士团一样的团规。
第四次十字军东征(1202年-1204年)，由教皇英诺森三世发动。目的本是要攻占穆斯林所控制的埃及，作日后行动的基地。十字军主要由法国和意大利贵族组成，在没有足够的金钱付给威尼斯人以便渡海到埃及的情况下，十字军按威尼斯贵族将领的建议转去攻打扎拉城(现克罗地亚的扎达尔)。并利用拜占庭国内的纠纷转而攻打君士坦丁堡，在抢劫和破坏后血腥屠城三天。
大战过后，威尼斯占去拜占庭帝国八分之三的领土(包括爱琴海，亚得里亚海沿岸许多港口和克里特岛)。而十字军则以君士坦丁堡为中心建立了拉丁帝国和两个附庸于君士坦丁堡的拉丁帝国的国家，分别是雅典公国和亚该亚公国。
13世纪初，随着医院骑士团和圣殿骑士团对立加剧，医院骑士团拉拢条顿骑士团以对抗控制着耶路撒冷地区主要军事据点的圣殿骑士团，其间条顿骑士团从医院骑士团手中获得马加特堡。
1210年，埃尔曼·冯·萨尔扎(Hermann von Salza, 1179-1239)担任条顿骑士团团长，条顿骑士团在其指挥下在耶路撒冷地区获得一定的胜利，并参与第五次十字军东征，进入埃及，但最后在曼苏拉战役(Battle of al-Mansura, 1221年8月30日)中惨败，埃尔曼·冯·萨尔扎与圣殿骑士团团长一同被俘。在埃尔曼·冯·萨尔扎担任团长期间，条顿骑士团获得教廷颁发的赎罪证(1216年2月18日)，以及教皇霍诺留斯三世授予的113项特权(1221年1月9日)。
1226年，条顿骑士团与神圣罗马帝国皇帝腓特烈二世达成协议，获得普鲁士境内的所有贵族特权。
1234年，条顿骑士团赢得瑟格纳战役的胜利，教廷控制普鲁士全境，将之租借给条顿骑士团，但直到1285年，条顿骑士团才最终征服普鲁士地区，迫使普鲁士人改宗天主教。其间，1237年4月合并利沃尼亚的宝剑骑士团，并于1241年初开始进军诺夫哥罗德公国。
1410年7月15日，著名的格林瓦尔德会战爆发。波兰-立陶宛联军3.9万人在波兰国王弗拉迪斯拉夫·雅盖洛指挥下，在坦伦堡和格林瓦尔德附近与条顿骑士团约2.7万人的军队展开决战。条顿骑士团在此战中精锐尽失，8千名骑士被杀，2千人被俘，骑士团大团长冯·容金根等多数首领阵亡。条顿骑士团从此一蹶不振，波兰由此逐渐收复失地，并获得格但斯克等城镇和波罗的海出海口。
坦伦堡一战使骑士团遭受了毁灭性的打击，其意义类似于哈丁战役对于耶路撒冷王国的意义。骑士团国就此走上了衰亡的道路。外战遭受惨败后，骑士团国从上到下又陷入了内乱。农民不满骑士团的横征暴敛，起来反抗;骑士团内部的权力斗争愈演愈烈;各城市和地方贵族因为缴纳高额赋税，要求参与决策。
1440年，53位贵族和19个城市在马林堡建立了旨在反抗骑士团专横统治的普鲁士联盟。
1453年，普鲁士联盟与波兰结成同盟，由此引发了连续13年的战争，直到1466年签订第二次托恩和约方才结束。这次和约使得骑士团国又损失了大量的领土，其中包括马林堡。在政治上，骑士团国要承认臣服于波兰，这一条在骑士团内部引起了极大的争议。
德意志分团希望从神圣罗马帝国和教廷那儿获得支持，1494年，德意志分团长承认臣服于神圣罗马帝国皇帝马克西米连一世(Maximilians I.)。
外患内忧之下，此时的骑士团国已经走到山穷水尽之处。路德的宗教改革使骑士团再一次走上历史的分水岭。
1511年，来自霍亨佐伦家族的年仅21岁的阿尔布雷希特(Albrecht)被选为条顿骑士团第37任大团长，他也是作为一个军事修会的条顿骑士团最后一任大团长。
1520年，由于Albrecht拒绝臣服于波兰，骑士团国与波兰之间爆发战争，骑士团国被击败。郁闷之下，Albrecht回到德意志。当时的德意志境内正在进行着轰轰烈烈的宗教改革，阿尔布雷希特(Albrecht)很快被路德新教所吸引，并结识了宗教改革的发起者马丁·路德。
在路德的建议下，阿尔布雷希特(Albrecht)辞去条顿骑士团大团长一职，将骑士团国世俗化，改为公国，在公国内进行宗教改革，对外则拒绝对波兰的臣属关系。骑士团内部的保守势力以及德意志的天主教贵族对于阿尔布雷希特(Albrecht)的改宗十分不满，不过阿尔布雷希特(Albrecht)在1527年娶了北方强国丹麦国王腓特烈一世的女儿，反对派对他无可奈何。
阿尔布雷希特(Albrecht)的改宗使条顿骑士团作为一个军事修会的历史走到了终点。原来属于骑士团国的普鲁士已经被阿尔布雷希特(Albrecht)新教化，立窝尼亚被波兰占据，爱沙尼亚被瑞典吞并，骑士团国已经没有一块属于自己的领地。
在这种形势下，条顿骑士团基本放弃了军事任务，把注意力集中到管理自己的产业上，此后它仅作为一个宗教组织而存在。
1809年，拿破仑侵入德意志后，宣布解散作为军事组织的条顿骑士团，骑士团仅在奥地利有容身之处。
直到1834年，奥地利皇帝重建骑士团，并使之成为宗教慈善机构。
1929年，条顿骑士团改组为一个纯宗教的骑士团，其名称也由OT(条顿骑士团，Ordo Teutonicus)变为DO(德意志骑士团，Deutscher Orden)。
如今德意志骑士团一共有大约1000名成员，他们主要从事慈善事业，包括照料病人和老人。目前骑士团分为意大利、德国、奥地利、捷克、斯洛文尼亚五区进行管理，其总部设在奥地利的维也纳。
骑士团成立之初，教皇批准他们穿和圣殿骑士团一样的白色长袍，不过上面绣着的是黑十字，作为两者的区别。此后，白底黑十字就成为条顿骑士团的标志。条顿骑士团旗帜上的十字跟一般的十字不一样，它偏向左边，而不是左右对称。
大家如果注意一下北欧国家的旗帜的话会发现，瑞典、丹麦、芬兰、挪威、冰岛等国的国旗上都有这种偏向左边的十字，这种十字被称为斯堪的纳维亚十字。
条顿骑士团国虽灭亡，但骑士团的黑十字标志仍被继承并延续下来，在第二帝国、魏玛共和国以及第三帝国的军旗上，黑十字都是重要的标记，它代表了从条顿骑士团开始的一脉相承的军事传统。
