L’ermitage est constitué d’une chapelle datant du XIIIe siècle qui fut reconstruite au XVIIIe, d’un bâtiment attenant à la chapelle servant d’habitation pour l’ermite et de vastes bâtiments construits plus récemment pour accueillir la foule des pèlerins. Il ressemble un peu, dans sa structure, à l’ermitage Notre Dame du Coral. La chapelle est assez grande, elle a une belle façade crépie, un large portail d’entrée dont les contours sont en briques (et pas en pierres taillées, comme c’est plutôt l’usage), un œil-de-bœuf pour apporter de la lumière et un clocheton doté d’une seule cloche. Les autres bâtiments sont plus ordinaires, il s’agit de simples maisons accolées ayant servi de lieu d’habitation.
La chapelle a été érigée à la fin du XIIIe siècle par les moines Bénédictins de l’abbaye d’Arles sur Tech (canoniquement dépendant de la grande abbaye de Moissac). Suite aux guerres meurtrières des Albigeois quelques fragments des reliques de Saint Ferréol ont été mis à l’abri et conservés ici dans des reliquaires en forme de buste qui datent du XVIIIe siècle. La chapelle devient un sanctuaire. Quelques ex-voto attestent des grâces reçues et des protections obtenues par l’intercession de Saint Ferréol.
De style roman très simple, une tribune aménagée sur la porte d’entrée et trois autels forment avec la nef, une croix latine.
Ce sanctuaire, dans un lieu privilégié, reste encore aujourd’hui une halte de paix et de sérénité. Chaque année, le matin du 18 septembre, jour de « Festa Major » les Cérétans perpétuent la tradition du pèlerinage vers l’ermitage de Saint-Ferréol. Dès l’aurore, lampes et lanternes ondulent le long du sentier sur la colline.