Lo storico palazzo De Vio, appartenuto al Cardinale Tommaso De Vio, ospita oggi il Museo Diocesano, nato negli anni Cinquanta come museo-archivio per custodire reperti dell'età classica e del periodo medievale, testimonianze della storia di Gaeta. Il museo, sin dalla sua nascita, accolse anche opere pittoriche di edifici religiosi danneggiati nell'ultima guerra, di chiese distrutte o sconsacrate.
Dal 1998 sono iniziati i lavori di recupero e di ristrutturazione del palazzo De Vio per adibirlo a Museo Diocesano e della religiosità del Parco dei Monti Aurunci. Il nuovo museo raccoglie i dipinti presenti nel precedente nonché molteplici altre opere provenienti da chiese di Gaeta e della Diocesi.
Nelle sale del museo è possibile ammirare dipinti di Riccardo Quartararo, Teodoro d'Errico Fiammingo, Girolamo Imparato, Quentin Metsis, Luis de Morales, Fabrizio Santafede, Andrea Vaccaro, Giacinto Brandi, Luca Giordano, Francesco Solimena e Pompeo Batoni.
E' esposto, anche, lo Stendardo di Lepanto quadro (olio su tela) del pittore Girolamo Siciolante, che raffigura su i due lati, il Crocifisso tra i Santi Pietro e Paolo. Sventolò sulla nave ammiraglia della flotta pontificia, comandata da Don Giovanni d'Austria. La battaglia nelle acque di Lepanto portò alla sconfitta delle navi ottomane il 7 ottobre 1571. Il 4 novembre dello stesso anno fu lasciato dal figlio naturale di Carlo V, Don Giovanni d'Austria, nel Duomo di Gaeta.
In una sala particolare sono esposti due croci bizantine; l'ostensorio ed il calice di Pio IX a Gaeta negli anni 1848-49 e tre Exultet medievali su pergamena.