Chiesa della Natività o dell'Ulivo
La chiesa, parte integrante dell'attiguo palazzo S. Giacomo, è dedicata alla Natività della Vergine. Il titolo del luogo sacro viene ripreso anche dalla pala d’altare, un olio su tela attribuibile a Giovanni Bernardino Azzolino (oggi presso il museo diocesano per motivi di sicurezza). La fondazione della piccola chiesa risalirebbe all'XI secolo per un voto fatto dai Pisani che in quegli anni erano occupati a scacciare i Saraceni dai nostri mari.
La chiesa è ricordata anche con il nome di “S. Giacomo degli Italiani”. Il luogo di culto è a una sola navata suddivisa in due campate con volte a crociera, oltre al presbiterio coperto da una cupola ogivale con lanternino. Il nucleo originario è quasi sicuramente trecentesco, mentre l'attuale assetto risale al 1854. Sul fianco sinistro dell'edificio vi sono la sacrestia e i vani di disimpegno che conducono all'esterno in un piccolo giardino. La chiesa è dotata di un campanile a vela posto sul bordo della facciata laterale.
La facciata, estremamente lineare e piatta, culmina in un timpano sormontato da una croce metallica fusa. Arricchisce il prospetto un portale tardo-cinquecentesco in pietra. Sul lato destro vi è l’ingresso laterale databile al trecento. Il portale, scolpito in pietra locale, presenta sull’architrave l’immagine del Pantocrator, il Cristo Giudice. L’altare in marmo è stato donato da Ferdinando II nel 1857. Sul presbiterio è presente un tronetto con un gruppo ligneo del Sacro Cuore di Gesù che appare a S. Margerita Alacoque. Sulla parete sinistra della chiesa è murata la lapide sepolcrale di Alfonso De Monroy governatore di Gaeta dal 1659 al 1668, fondatore della cappella dedicata alla Madonna all’interno di Porta Carlo V, quale ex voto.
La chiesa era sede dell’Arciconfraternita della Borghesia, detta anche dei Bianchi. Lo stemma del pio sodalizio si rintraccia sul pavimento della navata e sopra l’altare. Nello stemma sono presenti ramoscelli di ulivo: da qui l’appellativo relativo alla pianta sempreverde.