Na życzenie księdza z Chicago Antanasa Petraitisa do Paniemunie przenieśli się salezjanie i otrzymali również w prezencie kaplicę pw. Maryi Wspomożycielki Wiernych, znajdującą się niedaleko zamku. W niej codziennie modliło się około stu osób. Podczas II wojny światowej w kaplicy znajdowała się wojskowa stołówka, codziennie zamiast modłów było słychać łyżki i widelce. Później w kaplicy znajdowało się kino, założono salę sportową. Ołtarz ze świątyni został przeniesiony do kościoła w Rumszyszkach. Dzwon powieszono w szkole podstawowej w Vytėnai. Po zamknięciu szkoły od 2013 roku dzwon wisi przy poczcie w Mariampolu.