Капліцу з чырвонай цэглы была пабудаваная для манахаў-салезіянцаў у 1937 годзе, пра гэта паведамляе дата на задняй сцяне. Капліца стаяла ў некалькіх сотнях метраў ад замка, над дахам мела купал. Пахавальныя нішы ў падвалах капліцы размяшчалі на чатырох паверхах. У капліцу з касцёла ў Скірснямуне перанеслі парэшткі святара і астранома Антанаса Пятрайтіса. Надпіс над дзвярыма абвяшчаў: “Дай, Божа, таму, хто сэрцам добры і верны”.