Karel Veliký zahájil stavbu tzv. Palatinské kaple kolem roku 796. Jednalo se původně o osmibokou palácovou kapli postavenou podle vzoru starších byzantských staveb (např. bazilika San Vitale v Ravenně). Rozpětí a výška Palatinské kaple Karla Velikého byla na sever od Alp nepřekonaná po více než dvě stě let. Kaple byla dokončena roku 800 zaklenutím ve výšce 32 metrů. Centrální prostor je v patře obklopen ambitem s bronzovým zábradlím, románské klenby jsou podepírány antickými korintskými sloupy. Na ambitu je též umístěn mramorový trůn. Roku 814 byl v kostele pohřben jeho zakladatel, Karel Veliký.
V letech 1355 – 1414 byl vystavěn na východní straně gotický chór, kde jsou v současnosti ve zlaté schráně uloženy ostatky Karla Velikého. V 18. století byla přistavěna Maďarská kaple (dokončena 1767).
Během 2. světové války byly zničeny v gotickém chóru vitráže o celkové ploše přes 1000 m2; byly nahrazeny moderními v letech 1949 – 1951.
