Oryginalny Jewish museum w Wiedniu został założony w 1896 roku i był pierwszym muzeum tego typu na świecie. Muzeum istniał przy wsparciu "Społeczeństwa do gromadzenia i ochrony dzieł sztuki i zabytków żydów". Był skupiony na historii i kulturze żydów w monarchii Austro-Węgierskiej. Jego zbiór elementów i wyrobów z Palestyny także odzwierciedla polityczną debatę o сионизме. Muzeum zostało zamknięte natychmiast po zajęciu Austrii przez nazistów. W ostatnim roku swojego istnienia miał 6474 różnych eksponatów. W 1939 roku zostały one przekazane do muzeum etnologii i inne instytucje.

Większość rzeczy zostały zwrócone społeczności żydowskiej na początku 1950 roku, ale kilka udało się odzyskać dopiero w 1990 roku. Wiele z eksponatów zostały utracone. Kiedy w Nowym żydowskim muzeum została przeprowadzona inwentaryzacja, okazało się, że połowa oryginalnych przedmiotów zniknęło. Ale pozostałe rzeczy są bardzo rzadkie eksponaty reprezentujące jak przedmioty codziennego użytku domowego, jak i unikatowe materiały.

31 grudnia 1964 r. mały żydowski muzeum otwarto w nowo wybudowanym budynku na Темпелгассе, ale nie mam prawie żadnego zainteresowania. Po 3 roku muzeum jest już zamknięty.

Pierwsza wystawa nowego muzeum Żydowskiego w Wiedniu otwarto 7 marca 1990 roku w tymczasowych pomieszczeniach, w biurach społeczności żydowskiej. Znaczna część wystawy została przygotowana z kolekcji Maxa Bergera. W 1992 roku muzeum przeniósł się w swój obecny dom w pałacu Эскелес na Доротеегассе. Otwarcie muzeum odbyło się dopiero rok później, w 1993 roku. Biblioteka została otwarta dla publiczności od 1994 roku.

Od jesieni 2011 roku muzeum otworzył swoje drzwi po renowacji, zarówno samego budynku, jak i aktualizacji stałej ekspozycji. Po remoncie muzeum Żydowskie wita odwiedzających nowej instalacji oświetleniowej, która została wykonana zgodnie z oryginałem. Wystawy stałe w muzeum mieszczą się w trzech strefach.