1901. június 10-én született Bécsben. Operetténekes apja nem sokat törődött vele, gyakori turnéi miatt fiát ötéves korában kadétiskolába dugta. Az érzékeny gyermeket megviselte a poroszos fegyelem, vigaszt a zenében keresett és talált. Tizenhárom évesen már a Berlini Filharmonikusokkal lépett fel, egy tizenöt évesen komponált dalából egymillió kottát adtak el, 1916-tól a berlini konzervatóriumban tanult.
1924-ben elkísérte apját egy amerikai turnéra és végleg a korlátlan lehetőségek hazájában maradt. Eleinte korlátozott lehetőségekkel: New York német negyedének bárjaiban zongorázott és némafilmekhez szolgáltatott zenekíséretet. Nem sokáig: azt még elnézték neki, hogy rögtönöz, azt viszont már nem, hogy nem ismerve az amerikai himnuszt, vetítés előtt "saját változattal" állt elő. Loewe nyomorgott, éhezett, télvíz idején egy padon aludt a Central Parkban. A gazdasági világválság idején sovány kenyerét elveszítve nyugaton próbált szerencsét: volt cowboy, lovaspostás, sőt díjbirkózó is. 1934-ben visszatért New Yorkba, s újfent komponálni kezdett, alkalmazkodva a testközelből megismert közízléshez.
1942-ben társult Jay Lerner szövegíróval, s az ötvenes években kasszasikerek hosszú sorát produkálták. A Paint Your Vagon arról is nevezetes, hogy egy dala (They Call The Wind Mariah) ihlette a népszerű énekesnő, Mariah Carey keresztnevét. 1956-ban mutatták be a G. B. Shaw Pygmalion című vígjátékából készült My Fair Ladyt, a főszerepben Julie Andrews és Rex Harrison csillogott - utóbbi neve ezután összeforrt Higgins professzoréval. Az egyvégtében 2717 előadást megélt darab áradó zenéjéből számos dal önmagában is sláger lett. A musicalre lecsapott Hollywood is, a filmváltozat (amelyben Eliza szerepét Audrey Hepburn alakította, természetesen Rex Harrison oldalán) nyolc Oscar-díjat söpört be.
Loewe és Lerner az MGM stúdió megbízásából írta Maurice Chevalier és Leslie Caron számára a Gigi című musicalt, amely 1958-ban minden fontosabb kategóriában elvitte az Oscar-díjat. Utolsó közös művük, a Camelot az első előadáson iszonyatosan megbukott. A főszereplők másnap este a legnézettebb amerikai tévéműsorban tűntek fel, és persze dalra is fakadtak - a hangulat megfordult, a jegyeket pillanatok alatt szétkapdosták.
Loewe sikerei csúcsán visszavonult, hátralévő éveit a francia Riviérán töltötte. A komponáláshoz csak egyetlen alkalommal tért vissza, amikor régi alkotótársával Saint-Exupéry A kis herceg című meséjét dolgozták fel. A bensőséges hangulatú darabot azonban a szerzők ellenkezése dacára látványos külsőségek közepette állították színpadra, s meg is bukott.
A Zeneszerzők Dicsőségcsarnokába is bekerült Frederick Loewe 1988. február 14-én halt meg a kaliforniai Palm Springsben.