Kościół Wszystkich Świętych - jeden z cennych próbek szalonych barokowych świątyń, należący do kościoła rzymsko-katolickiego koncesji. Wchodzi w zespół nowicjatu (przeznaczona dla nowicjuszy) i karmelitańskiego klasztoru w starym mieście.

Budowano kościół wraz z klasztorem w ciągu 11 lat od 1620 w 1631 roku w pobliżu Рудницких bramy. Podczas wojny z Moskwą świątynia spaliła i po przebudowie w 1655 r. został znacznie przebudowany. Później, w 1743 roku około północno-wschodniego narożnika, na miejscu wieżyczki, został zbudowany skomplikowane kształty dzwonnica w tila późnego baroku. W 1812 roku świątyni poniósł znaczne szkody наполеоновскими żołnierzami, сжегшими konfesjonału i ławki. Francuzi zorganizował w kościele szpital. Wyremontowany i odnowiony kościół został w 1823 roku.

Rosyjskie władze упразднили klasztor, i z 1885 roku, w pomieszczeniach klasztornych urządzono piękne mieszkania, a od 1948 zamknięty i kościół, urządzając w nim magazyn spożywczego towarów.

Od 1967 do 1975 latach w świątyni przeprowadzono prace konserwatorskie pod kierunkiem architekta Алдоны Швабаускене. Po renowacji świątyni działał jako Litewskiego Muzeum sztuki ludowej. Zwrot świątyni odbyła się zaraz po zmianie ustroju państwowego, w 1990 roku kościół został zwrócony wiernym i działa po dziś dzień.

Plan budynku kościoła ma kształt krzyża łacińskiego, w kształcie świątyni – budowane базиликального typu. Oryginalność przestrzeni wewnątrz świątyni w tym, że boczne nawy wykształceni bocznymi kaplicami kościoła. Boczne nawy 3 razy i już 2 razy poniżej głównego, oddzielone od niego dwoma parami pylonów z każdej strony. Sklepienia naw – cylindryczne z люнетами.

Główna fasada ma architekturę formy wczesnego baroku, fasada jest podzielona na dwa poziomy gzyms, pilastry podkreślają jego oś pionową. Fasadę wieńczy szczyt trójkątny kształt, z высящимися po bokach обелисками. Portal w stylu renesansowym podkreśla centralną oś budynku. W niszach wcześniej były statuetki nurtem karmelitańskiego klasztoru – Świętego Eliasza, i ducha Elizeusza, wykonane z drewna.

Monumentalna cztery warstwowych dzwonnica, rozszerzana do dołu, kończy się hełmem i ażurowym krzyżem. Pilastry dolnej kondygnacji, wykończone рустом, wnoszą jaskrawy kontrast z wbudowanymi kąty kolumnami. Коринфские pilastry drugiego piętra urządzone ośrodek motywem. W trzeciej kondygnacji umieszczone skośnie boczne pilastry flankują kolumny. W ostatniej, czwartej kondygnacji pilastrami jak wyrastają z волют.

Okna nisze dzwonnicy mają inny kształt łuku i ozdobiono sztukaterią, a w czwartej kondygnacji nisza jeszcze ogrodzony ozdobnym rusztem balkonu. Zakłada się, że wieżę zbudował ten sam architekt, co budował wieże karmelitańskiego kościoła na Białorusi.

Ściany i sklepienia naw świątyni, kopuły boczne kaplice ozdobione freskami i ozdoby, na freski przedstawiają sceny z życia świętych i historii Litwy. Dekoracyjne sztukaterie, zdobiący wnętrze świątyni jest w końcu 18 wieku. W kościele 18 ołtarze, ozdobione rzeźbami świętych, freskami przedstawiającymi sceny z ich życia. Ołtarz główny zbudowali prawdopodobnie w końcu 1780-tych, według projektu Martina Канфуса.

Podczas prac konserwatorskich prowadzonych w 1902 roku z inicjatywy księdza Чудовского, freski zostały zamalowane, na dzień dzisiejszy jest otwarta tylko niewielka część z nich.