Spitz ailesinin en büyük çocuğu olarak 10 Şubat 1950 tarihinde dünyaya geldi. Annesi Lenore, babası Arnold, onu konuşmaya başlar başlamaz yüzme ile tanıştırdı. Küçük Mark henüz iki yaşındayken, çelik fabrikasında çalışan babası Honoluluya transfer olmak zorunda kaldı. Mark ailesi ile birlikte Hawaiiye taşındı. Her gün aksatmadan Waikiki sahilinde yüzüyordu. Annesi onun hakkında bir gazeteciye aynen şu ifadelerde bulunmuştu: O küçük çocuğun, okyanusta nasıl yüzdüğünü görmeniz lazımdı. Sanki onu öldürmeye çalışan bir katilden kaçar gibi hızlı yüzüyordu. Bu sözleri anne Lenore 12 Nisan 1968 yılındaki TİME dergisinde kendisi ile yapılan röportajda söylemişti.
Birkaç sene sonra aile yeniden Californiaya taşındı. Baba Arnold ,oğluna yaptığı meslekte her zaman bir numara olması gerektiğini öğretiyordu. Ağustos 1965te 15 yaşındayken İsrailde yapılan Maccabiat Oyunlarına Amerika Birleşik Devletleri adına katıldı. Spitz orada dört altın madalya kazanıp, geleceği en parlak sporcu olarak Yahudi cemaatine tanıtıldı. Bu macera, onun madalyalarla dolup taşacak hayatının sadece ilk adımıydı.
Mark Spitz ilk rekorunu, Haziran 1967de küçük çaplı bir yüzme yarışında kırdı.1968 Olimpiyatlarında çok ağır bir grip geçirmesine rağmen yarışlara katıldı ve iki altın, bir gümüş ve bir de bronz madalya kazandı.
1972 yılı baharına gelindiğinde Spitz, 23 dünya rekoru ve 35 Amerika rekoru kırmıştı.1972 Münih Olimpiyatları onun için çok önemliydi. Oldukça iyi hazırlanmıştı. Tek amacı 1968 Olimpiyatlarında yapamadığını, burada fazlasıyla yapmaktı.
Ancak 1972 Olimpiyatları dünya spor tarihine Kara Eylül olarak geçti. 11 İsrailli sporcu Filistinli teröristler tarafından kaçırılmış ve teker teker katledilmişti. Dünya bu vahşeti eli kolu bağlı izliyordu. Spitz, Yahudi kimliği dolayısıyla, olaydan çok etkilenmişti. Amerikan hükümeti Spitze koruma sağladı. Korktukları Mark Spitze karşı da benzer bir saldırının gerçekleşme ihtimaliydi. Amerikan takımı, rekortmen sporcuya dilerse çekilebileceğini, bunun anlayışla karşılanacağını söyledi. Spitzin buna hiç niyeti yoktu, bilakis daha çok hırslanmıştı. Kazanacağı madalyalar ve kıracağı rekorlarla terörizme en büyük cevabı vereceğini söyledi.
Arkasına hayatını kaybetmiş 11 İsrailli sporcuyu, tüm Yahudi dünyasını ve Amerika Birleşik Devletlerini almıştı. 1972 Olimpiyatları terörün yanı sıra Spitz, ile anılan oyunlar oldu. Spitz, turnuvadaki ilk altın madalyasını 28 Ağustos 1972 de kelebek dalında kazandı. Aynı akşam, ikinci altın madalyasını 400 metre serbestte, ertesi gün 200 metre serbestte 3.altın madalyasını kazandı. Bu madalyayı kazanırken bir de dünya rekoru kırmıştı. 1 Eylülde 100 metre kelebekte 54.27 derece ile altın madalya kazanıp dünya rekorunu aynı anda kırmıştı. Bayrak yarışında 800 metre serbestte tekrar altın madalyaya ulaştı.100 metre serbestte 51.22 ile, 400 metre karışık bayrak yarışında ise 7. altın madalyasını kazandığında tarihler 3 Eylülü gösteriyordu. Bir olimpiyat oyununda alınan en fazla madalya rekorunu 1920 Olimpiyatlarının altın eskrimcisi Nedo Nadinin rekorunu kırarak eline geçiriyordu. Hayatı boyunca 1972 Olimpiyatlarından bahsetmeden evvel, İsrailli sporcuları saygıyla anar ve daha sonra kazandığı madalyaları anlatırdı. 1997 Maccabiat Oyunlarında bizzat tanışıp, elini sıktığım bu efsane adam için söylenecek aslında o kadar çok şey var ki
Mark Spitz, 1972 Olimpiyatlarından sonra, sinema işine girip film çekti, bunun yanında reklam sektöründe çalışıp ticarete atıldı. Şu anda eşi Suzy ve oğlu ile Californiada yaşıyor.