A művész halálát agyvérzés okozta.
Foldi 13 éves korában, 1939-ben menekült el Magyarországról, és telepedett le Chicagóban. Kezdetben zenekritikusként dolgozott egy helyi lapnál. Az 1950-es években kezdte pályafutását basszus és bassz-bariton szerepekben.
Leghíresebb alakításait Mozart és Rossini vígoperáiban aratta. Ugyancsak nevezetes szerepe volt Schigolch figurája Alban Berg Lulujában, amellyel meghódította a New York-i Metropolitant, de Wagner operáiban, köztük A Rajna kincsében is fellépett. Számos európai vendégszereplése volt, köztük a milánói Scalában és a bécsi Staatsoperben.
Foldi 1979-től a clevelandi egyetem zenetudományi intézetének igazgatójaként tanított is. 1999-ben jelentek meg humoros történetekkel fűszerezett emlékiratai az Opera: várható baleset (Opera: An Accident Waiting To Happen) címmel.