A vékonydongájú fiú a Markó utcai főreálgimnáziumban első tornaóráján felsült: nem tudott fölmászni a rúdon. A kudarc azonban nem vette el a kedvét: néhány hét után a titkos edzések eredményeként fölmászott a plafonig. Amikor a Műegyetemre járt, tanulmányai mellett tornázott, futott és úszott - a kor ideálja a sokoldalú sportember volt.
1896-ban Athénban, az első újkori olimpián a 18 éves egyetemista két gyorsúszó számban, a 100 és 1200 méteren is elsőként ért célba, megszerezve a magyar sport első olimpiai győzelmeit. A versenyeket április 11-én rendezték a pireuszi tengeröböl 12 fokos vizében. 100 méteren 13 versenyző indult, s 1:22,2 perces idővel Hajós ért elsőként célba. Bár nagyon fázott, újból bezsírozta magát, s a sűrű program miatt az 500 méteres távot kihagyva 1200 méteren indult újra. Úgy nyert vagy hatvanméteres előnnyel, hogy körülötte sorra adták fel a riválisok a versenyt: egyszerűen kifagytak a vízből.
A görögök hatalmas ünneplésben részesítették, a király a fogadáson megkérdezte tőle: "Hol tanult meg ilyen jól úszni?" Mire Hajós nagy derültséget keltve csak ennyit válaszolt: "A vízben".
Győzelmeinek értékéből nem von le semmit, hogy angolok, németek, ausztrálok nem vettek részt az akkoriban még kis vonzerőt jelentő olimpián - és az áprilisi hideg tengervíz sem volt mindenki számára csábító...
Hajós Alfréd 1895-ben és 1896-ban megnyerte Bécsben a nem hivatalos úszó Európa-bajnokságot, majd 1897-ben, 19 éves korában befejezte úszópályafutását. Áttért a tornára, majd a labdarúgásra, a Millenáris-pályán 1897. május 9-én lejátszott első labdarúgó mérkőzésen a BTC csapatában szerepelt. 1901-ben és 1902-ben tagja volt a bajnokcsapatnak, s 1902-ben az első magyar labdarúgó válogatottnak is.
1904-től építésztervezőként dolgozott Alpár Ignác, majd Lechner Ödön irodájában, 1904-től Villányi Jánossal közösen önálló irodát tartott fenn. 1924-ben Lauber Dezsővel készített stadionterve ezüstérmet nyert az olimpiai művészeti versenyeken Párizsban, úgy, hogy az aranyérmet nem ítélték oda. Alkotásai az eklektikától, illetve a szecessziótól a modern formák alkalmazásáig terjednek. Az általa tervezett, és ma nevét viselő margitszigeti fedett Sportuszodát a vasbeton-szerkezet lehetőségének merész kihasználása, korszerű tér- és homlokzatformák jellemzik. Ő építette többek között az újpesti Megyeri úti sporttelepet, a debreceni Arany Bika Szállodát, a győri versenyuszodát. 1945 után a Vajdahunyadvár, a Tőzsdepalota és több más középület helyreállítási munkálatait vezette.
1955. november 12-én halt meg Budapesten. Életútja tökéletesen példázza hitvallását, mely a test és szellem közti harmóniát állította középpontba.
