Place de la République, la chapelle avec sa cloture