Dans la montagne, au dessus de l'église, se trouve l'ermitage
que le Père Palau fit construire en 1847 pour y loger les gardiennes du sanctuaire. Au dessus s'ouvre
une grotte où vécut le Père Palau entre 1846 et 1851.
A 20 km de Septfonds,
St Pierre-Livron, qui en 1302, fût rattaché à l'église St Jean Baptiste de
Caylus. Son église qui était rectangulaire, fût alors agrandi et en partie restauré.
Caylus et Livron, qui dépendirent quelque temps de Raymond VI de Toulouse, favorable à l'hérésie
Albigeoise, subirent en 1311 et 1312 la répression de Simon de Monfort. L'église de Livron
ne fût pas rasée mais souffrit de ces sévices ...