Olasz bevándorlók gyerekeként született 1915. december 12-én New Jersey-ben. Tanulmányait hamar feladta, hogy énekes lehessen, szóló karrierje a '40-es években indult. Karrierjének igazi lökést az adott, amikor az éneklés mellett a színészi pályába is belekóstolt, az 1953-as Most és mindörökké című film nyolc Oscar-díja közül ő hozta el az egyiket, a legjobb mellékszereplőnek járó szobrocskát.
Négyszer nősült: 1939-ben vette el Nancy Barbatót, akitől három gyereke született; 1951-ben az ismert színésznőt Ava Gardnert, 1966-ban a nála harminc évvel fiatalabb Mia Farrowt, 1976-ban pedig Barbara Marxot.
A '60-as években saját zenei kiadót alapított, ebben az évtizedben hat Grammy-díjat zsebelt be. Később, 1994-ben Grammy életmű díjat is átvehetett. 1998-ban szívroham miatt halt meg, 82 évesen.