Birçok koleksiyoncudan aynı yanıtı alan Teddy Kollek, Kudüste uluslararası düzeyde bir müze kurmayı hedefler.
Aslında Kudüste 8.000 sanat eserine sahip bir Betzalel Müzesi vardı.Zalman Schatzın çabaları ile kurulan ve Mordechai Narkiss tarafından yönetilen bu müzeyi Marc Chagall 1932de ilk kez ziyaret ettiğinde, "fazla Yahudi" olarak nitelemişti.
1957de Teddy Kollek yeni bir müzenin kurulması için Neve Shanan (Dinginlik Tepesi) bölgesinde sekiz hektarlık bir arazi bulmayı başardı. Kudüs bu dönemde mucizeler kenti olduğunu bir kez daha kanıtladı. İlk olarak ABDden önemli miktarda bir maddi fon ulaştı. Ardından New Yorktan Gottesman Ailesi, Ölü Deniz Parşömenlerinin barındırılacağı özel bir yapının gerçekleşmesini finanse etti.
Yine aynı yıllarda, Kanadadan Samuel Bronfmanın oğulları, babalarının 70.doğum günü vesilesi ile Samuel Bronfmanın adını taşıyacak Tevrat ve Arkeoloji Müzesi binasının inşasını sağladılar.
Müzenin kurucuları, modern heykelcilik koleksiyonuna sahip olan Billy Roseu, bu koleksiyonu bağışlamaya ikna ettiler. Roseun tek koşulu bağışlayacağı sanat eserlerinin, ünlü heykeltraş Isamu Noguchinin tasarlayacağı bir bahçede sergilenmeleriydi.
İsrail Müzesinin açılışı Devlet Başkanı Zalman Shazar, Başbakan Levi Eshkol ve Teddy Kollekin katıldığı bir törenle 11 Mayıs 1965te gerçekleşti. Zamanında kaçmayı başaran Alman Yahudilerinin getirdiği sanat eserleri, Holokostta ölen Yahudilerin sahip oldukları sanat eserlerinin bazılarının iadesi ve 1947 yılında Avrupadan Picasso, Matisse, Chagall ve Rouaultnin bağışladığı tabloların geri dönmesi sayesinde 1932den beri giderek zenginleşen Betzalel Müzesi, İsrail Müzesine bağlanmış oldu.
1965ten günümüze İsrail Müzesi giderek gelişti. Müzeye eklenen ilginç bölümlerden biri de Rothschild Ailesi tarafından bağışlanan XVIII. Yüzyıl Salonu. Dünyanın her tarafından gelen bağışlarla, Uzakdoğudan Afrikaya geniş bir yelpazede yaşayan Yahudilerin tarih, kültür ve geleneklerinin yansıtıldığı pavyonlar açıldı. Bugün geniş bir kampusa yayılan İsrail Müzesi dünyanın en ilginç müzeleri arasında yer almakta.