Rosco Gordon Memphisben született 1928. április 10-én. Alig múlt húsz esztendős, amikor már listákon szerepeltek dalai. Ike Turnerrel és másokkal együtt a rhythm and blues és a rock and roll egyik korai hőse volt.
Kevesen tudják, hogy a ma oly divatos jamaicai ska és reggae az ő zenei világa nyomán terjedt el. A Beale Street-I zenészek csoportjához tartozott Johny Ace-szel, B. B. Kinggel, Ike Turnerrel és Bobby Blue Balddel együtt. Ők tették a legtöbbet a memphisi blues fejlődéséért.
A negyvenes évek végén tűnt fel, első felvételeit Sam Phillips nevezetes Sun Records nevű cégénél készítette az ötvenes évek legelején. Megjelentek felvételei ezen kívül a szintén legendás chicagói Chess, a Los Angeles-i RPM és a Duke kiadóknál is. Elsősorban az akkor producerként is dolgozó Ike Turner figyelt fel rendkívül erőteljes hangjára. Pályája kezdetén zongorázott a WDIA rádióban is
Korai sikerei közül említést érdemel a Booted, a Boogie in My Bones és a No More Doggin című dala.
Ezek volt a ska és a reggae stílus egészen korai kezdeményei, ezekért nevezik őt ma is a ska nagyapjának. Az első "igazi" reggae- és ska-dalok egyébként az ötvenes-hatvanas évek fordulóján születtek meg.
A hatvanas éveket a Vee Jay lemezcéggel kezdte. Akkoriban született Just a Little Bit című dala, amely a rhythm and blues meghatározó száma lett, sok brit együttes feldolgozta.
Az ötvenes évek elmúltával Rosco Gordon hosszú évekre eltűnt, zenészként nem hallatott magáról. Feleségével mosodát nyitott, és egészen annak haláláig, a nyolcvanas évek közepéig ebből tartotta fenn magát.
Amikor visszatért a zenéhez, New York államban ténykedett. A kilencvenes években keveset szerepelt nagyobb közönség előtt. Az ezredfordulón a minap Budapesten koncertező Duke Robillard fehér gitárvirtuózzal felvette a Memphis, Tennessee című dalt, amelyet jelölték a W. C Handy-díjra - ez a műfaj legrangosabb elismerése.
Szerepelt a Martin Scorsese-féle bluestörténeti dokumentumfilm-sorozat Road To Memphis című epizódjában, amelyet Richard Pearce rendezett 2002-ben. A sorozatot teljes egészében bemutatta a Duna Televízió. Nem sokkal a film forgatása után, 2002-ben Rosco Gordon meghalt.