Benedetto Caetani, dai più conosciuto come Bonifacio VIII, fu papa dal 1294 al 1303. Il suo pontificato fu contraddistinto dall'estremo ultimo tentativo di riaffermare la supremazia del potere temporale della Chiesa a discapito delle nascenti monarchie nazionali europee. Il suo modo di agire e la sua moralità, tuttavia, furono abbastanza discutibili al punto che alcuni suoi successori al soglio pontificio si chiesero se fosse giusto conservarne la sepoltura nelle Grotte vaticane accanto a quella di papi ben più venerabili.

Il castello di Fumone è noto per essere stato il carcere in cui Celestino V trascorse gli ultimi dieci mesi della sua misera esistenza. Qui venne infatti rinchiuso, per ordine di Bonifacio VIII, Pietro di Morrone «l'ombra di colui che fece il gran rifiuto» di dantesca memoria. Questo episodio ci dimostra come non sia sufficiente essere miti, pacifici e non bellicosi per essere considerati inoffensivi da chi è prepotente e aspira a ottenere il potere con qualsiasi mezzo, lecito o illecito, ma che perfino il più mansueto degli individui deve adottare adeguate contromisure se non vuole soccombere.

Il visitatore dell'Arx Fumonis non percepisce immediatamente l'inespugnabilità del castello sebbene la sua collocazione strategica, a 800 m s.l.m., gli abbia fatto guadagnare il soprannome di «vedetta della Ciociaria» nonché l'utilizzo come osservatorio da parte della Wehrmacht durante la II Guerra Mondiale.

Ciò è in parte dovuto al giardino pensile fatto costruire dagli antenati degli attuali proprietari, i marchesi Longhi de Paolis, e risalente al XVII sec. Gli alti pini e i cipressi, che si ergono da quelli che un tempo erano gli spalti del castello, ne ingentiliscono l'aspetto cancellando l'evidenza dell'importanza strategica del luogo. Il giardino è comunque uno splendido esempio del classico giardino all'italiana e mostra come l'utilizzo continuo nel tempo dei castelli consenta a questi edifici di dar prova della loro flessibilità abitativa.

L'aspetto arcigno del castello emerge tuttavia alla vista di quanto visitabile dell'interno; la cappella, la cella di Celestino V, le scale, i camminamenti risultano angusti e cupi comunicando al turista il ricordo delle sofferenze di cui sono stati testimoni. La parte più amena dell'edificio non è visitabile in quanto utilizzata per banchetti, cene di gala e cerimonie.