L’abbatiale Saint-Pierre-et-Saint-Paul était l’église principale de l’abbaye royale fondée par Clovis au Ve siècle. L’édifice conserve quelques traces de l’époque carolingienne, notamment au niveau du soubassement du clocher et de la rotonde octogonale du transept. Le soubassement désigne la partie inférieure qui sert d’assise à une construction, tandis que le transept correspond à la partie transversale qui croise la nef. La présence d’une rotonde octogonale constitue ainsi un élément singulier de l’organisation de cet espace.
La nef, espace longitudinal destiné à accueillir les fidèles, est couverte d’un berceau de bois. L’abbatiale a été consacrée par le pape Alexandre III en 1163. Le clocher et le chœur datent, quant à eux, du XIIIe siècle. Les vitraux de l’abside appartiennent à une période plus tardive : ils ont été réalisés entre la fin du XVe siècle et le début du XVIe siècle. Leur commande est attribuée à Louis de Blanchefort ou à son successeur Pierre de Martigny.