L’histoire de cette église est liée à celle de l’abbaye Saint-Pierre toute proche, détruite par les troupes révolutionnaires en 1794. Eglise funéraire, église paroissiale, collégiale, elle fut un lieu de pèlerinage à saint Ursmer, un des fondateurs de l’abbaye au VIIe s.
Le bâtiment est un témoignage concret de ce qu'étaient les églises-porches carolingiennes (ou pré-romanes) surmontées d'une vaste tribune occidentale. Les parties romanes de l’église ne manquent pas non plus d’intérêt. Elle présente un plan en forme de croix latine avec un faux transept à l’ouest. La nef est la partie la plus ancienne de l’église, le chœur et la tour-porche datent du XIe s.
La crypte romane, de type «halle», est voûtée sur ses 15 arêtes. Elle contient les sarcophages mérovingiens des saints Ursmer et Ermin et plusieurs dalles funéraires d’abbés du XVe au XVIIIe s.
Cette église est classée patrimoine immobilier exceptionnel de Wallonie.