Selon la légende attachée au pont de Quézac, un agriculteur aurait découvert, au début du XIe siècle, une statue miraculeuse de la Vierge alors qu’il labourait son champ. Une première église aurait été édifiée à cette époque. La dévotion suscitée par cette statue attire ensuite de nombreux pèlerins, rendant nécessaire l’aménagement d’un passage permettant de franchir la rivière.
Au XIVe siècle, des indulgences sont accordées afin de contribuer à la construction d’un pont destiné à faciliter l’accès des pèlerins. L’ouvrage connaît toutefois plusieurs accidents au cours des siècles suivants. En 1626, la deuxième arcade du côté nord s’effondre dans la rivière ; elle n’est rétablie qu’en 1633. En 1657, la grande arcade tombe à son tour et est reconstruite deux ans plus tard.
Au XVIIIe siècle, l’état de dégradation du pont conduit à envisager sa reconstruction. Les travaux sont retardés par plusieurs chutes de l’ouvrage, emporté par la rivière. Le pont est finalement achevé en 1738.
Il se compose de six arches : une grande, deux moyennes, deux petites et une dernière, de dimension plus réduite. Les piles intermédiaires sont protégées par des avant-bras bâtis en appareil, destinés à renforcer et à préserver ces supports exposés au courant.