W mieście Birstonas obok kościoła pod wezwaniem Świętego Antoniego z padwy znajduje się święte muzeum, wybudowany w 2000r. Muzeum zostało założone w dawnym budynku proboszcza i ma charakterystyczny etnograficzne styl.

Szczególne zainteresowanie muzeum stanowi dla wielbicieli sztuki sakralnej. W muzeum znajduje się duży zbiór sztuki sakralnej – tekstylia, obrazy, naczynia liturgiczne, rzeźby i sztuki ludowej. Goście muzeum zobaczą dwie pamiątkowe ekspozycji, które są dedykowane do kardynała Świętego kościoła Rzymskiego Винцентасу Сладкявичюсу i męczennika arcybiskupowi Теофилиюсу Матуленису. O nich zwiedzający będą mogli oglądać filmy, a także o wizycie na Litwie Papieża.

Co miesiąc w muzeum odbywają się różne wystawy i imprezy: "adwent-czas oczekiwania", "Spotkanie z Ikoną", "Bądźmy razem malować pisanki". Tak samo w muzeum często odbywają się imprezy kulturalne pm – spotkania, prezentacje książek, wykłady, itp.

W jednym z pokoi budynku sakralnego muzeum po powrocie z wygnania w 1956 roku mieszkał Теофилиюс Матуленис i w 1957 roku w nocy na 25 grudnia poświęcił potajemnie do biskupów kan. Винцентаса Сладкявичюса.

Szczególną wartością w artystycznej ekspozycji jest Złoty skarb. Jest w niej przedstawiona jest najbardziej wyjątkowe i cenne naczynia liturgiczne z kościołów Кайшядорского biskupstwa. Odwiedzając ekspozycję poświęconą historii kościoła można zobaczyć jedyną na Litwie książkę o rusyfikacji XIX w. i pierwsza w języku litewskim katolickie wydanie Nowego Testamentu. Wycięte z drewna rzeźby i figurki na tematy religijne znajdują się w hali ludowej.