San Pietro ad Montes sorge presso il casale di Piedimonte di Casolla, sviluppatosi lungo la strada che va a Casertavecchia.
L'abbazia benedettina viene fondata in età medievale sulle rovine del tempio romano di Giove Tifatino - al quale l'altura del Tifata era consacrata - ma la sua origine non è nota, a causa della scomparsa dell'archivio storico del convento adiacente. Certamente il complesso già esisteva nel XII secolo, quando alcuni documenti che ne danno notizia.
La pianta basilicale è suddivisa in tre navate da dodici colonne in granito e porfido - aventi capitelli ionici, corinzi e compositi - elementi di "spoglio" di un edificio di età romana; questa caratteristica accomuna la chiesa alla più nota basilica di S. Angelo in Formis, fondata ai piedi del Tifata nell'XI secolo, distante alcuni chilometri da S. Pietro ad Montes.
Il prospetto principale della chiesa, che in origine dominava il fondovalle, è parzialmente occultato dall'atrio che lo ha chiuso in una corte, eretto probabilmente, al principio del Settecento. La facciata si conclude con un timpano, mentre più in basso si aprono tre monofore arcuate a tutto sesto. Il portico di ingresso si articola in tre archi a tutto sesto impostati su pilastri di tufo e cotto, coperti da cinque volte a crociera. È noto che, fino all'inizio del XIX secolo, in luogo dei pilastri il porticato era concluso da due alte colonne in granito, con capitello corinzio.
La tessitura muraria del prospetto, insieme alla marcata cornice che scandisce la separazione tra i due ordini, lo accomuna alla cattedrale di Casertavecchia.
La chiesa è affiancata da un campanile a pianta quadrata, più tardo rispetto alla chiesa, caratterizzato da bifore al piano più alto.
Date le condizioni orografiche del sito, l'interno della chiesa presenta un pavimento in netta salita, che dall'ingresso alla zona absidale ha un dislivello di circa 2 metri. La pianta, inoltre, presenta alcune asimmetrie: in particolare, il mancato allienarsi delle colonne lungo l'asse longitudinale. La parete destra della navata centrale risulta parzialmente ricostruita, mentre il lato occidentale dell'edificio è originale.
L'interno dell'abbazia conserva - seppure in cattive condizioni - alcuni affreschi originari sulle pareti e sulla controfacciata. Qui, sono state realizzate da maestranze campano-bizantine figure di Santi, una Crocifissione, tre scene della Madonna in Trono con bambino e Santi.