L’histoire de l’édifice s’inscrit dans celle des lieux de culte successifs de Jumeaux. Dès 1630, et peut-être avant cette date, le village possédait une chapelle dédiée à saint Abdon. Cet édifice accueillait les célébrations d’un vicaire, qui y disait douze messes par an. La mention de cette chapelle témoigne ainsi d’une présence religieuse déjà organisée à Jumeaux au XVIIe siècle, sans que la source permette de préciser son aspect ou ses dimensions.
Au XVIIIe siècle, un bâtiment plus important fut construit sur l’emplacement de cette chapelle. Il était dédié à Notre-Dame du Bon Secours. Cette nouvelle construction marqua donc une évolution du lieu de culte, tant par son importance que par son vocable. L’édifice fut ensuite agrandi en 1869. La succession entre la chapelle Saint-Abdon, le bâtiment du XVIIIe siècle et l’agrandissement réalisé au XIXe siècle constitue le principal élément connu de son histoire.
