Egy elszabadult OpenAI-ügynök tört be egy ausztrál kormányzati oldalra – állítólag ez az első ilyen eset a világon

Az incidensről Anthony Albanese ausztrál miniszterelnök New Yorkban, helyi idő szerint szerdán beszélt. Elmondása szerint az OpenAI rendszere egy olyan statisztikai portálra „hatolt be”, amely az ausztrál egyetemes egészségbiztosítási rendszer, a Medicare adatait tartalmazza. A miniszterelnök hangsúlyozta, hogy a portálon kezelt információk „nem érzékeny” adatok voltak.

Albanese szerint ugyanakkor az ügy elfogadhatatlan, és komoly kérdéseket vet fel azzal kapcsolatban is, ahogyan az OpenAI kezelte a történteket. A miniszterelnök elmondta, hogy „nagyon őszinte beszélgetést” folytatott Sam Altmannel, az OpenAI vezérigazgatójával. Szerinte a vállalat túl sokáig várt a biztonsági incidens bejelentésével, ezért „jogi következményekre” is számítani kell.

Az OpenAI csak hónapokkal később jelezte a történteket

Az OpenAI közlése szerint a vállalat csak augusztusban észlelte az incidenst, amikor egy belső vizsgálat során „nem megfelelően működő modelltevékenységet” vizsgáltak. A cég szeptember 10-én e-mailben értesítette egy ausztrál kormányzati szerv általános postafiókját. Az üzenetet öt nappal később továbbították az illetékes ausztrál kiberbiztonsági központhoz, ezt követően értesítették a kormány egyik miniszterét, majd a miniszterelnököt is.

Albanese szerint Altman elismerte, hogy az OpenAI-nál „protokollokkal kapcsolatos problémák” is felmerültek. „Ausztrália rendkívüli aggodalmát” és csalódottságát is kifejezte az OpenAI vezetőjének amiatt, hogy a vállalat hónapokig nem hozta nyilvánosságra az esetet, ráadásul a történtek bejelentésének módja sem volt megfelelő – mondta a miniszterelnök.

Nemcsak egyetlen kormányzati rendszer érintett lehetett

Albanese részletezése szerint az incidens során a Medicare Statistics Reporting Service nevű portál nyilvános és nem nyilvános fájljaihoz is hozzáférhetett az OpenAI rendszere. A kormányfő szerint három másik állami rendszer is érintett lehetett: az Australian Institute of Health and Welfare, valamint két állami szintű intézmény, a New South Wales Bureau of Crime Statistics and Research és a Victorian Department of Health.

„Jelenleg nem feltételezzük, hogy személyes adatokhoz is hozzáfértek volna, de a vizsgálatok folytatódnak” – mondta Albanese. Hozzátette: ettől függetlenül „a helyzet nyilvánvalóan elfogadhatatlan”.

Az ügyben az ausztrál kiberbiztonsági hatóság igazságügyi informatikai vizsgálatot, úgynevezett forensic investigationt indít. Ennek célja többek között annak feltárása, hogy az érintett rendszereken kívül más kormányzati infrastruktúrákat is elért-e az AI-ügynök. A vizsgálat azt is megállapíthatja, szükség van-e rendőrségi eljárásra. „Nyilvánvalóan lesznek jogi következmények” – fogalmazott Albanese.

Az OpenAI szerint a modell egy belső teszt során lépett túl a határon

Az OpenAI közleménye szerint a vállalat belső értékelést végzett, amelynek során modelljei ausztráliai kérdésekre kerestek válaszokat és elérhető statisztikákat. „Ennek során modelljeink olyan lépéseket tettek, amelyeket nem állt szándékunkban” – közölte a cég.

Az OpenAI szerint a vizsgált tevékenység több ausztrál kormányzati weboldalt és szolgáltatást is érintett. Albanese nem válaszolt arra a kérdésre, hogy az incidensről beszélt-e Donald Trump amerikai elnökkel is. A két politikus kedden este New Yorkban személyesen találkozott, ahol a világ vezetői az ENSZ Közgyűlésére gyűltek össze.

Ausztrália egyébként azon 22 ország között volt, amelyek a hét elején közös nyilatkozatban sürgették a mesterséges intelligencia fejlesztésének globális ellenőrzését és megfelelő biztonsági korlátok kialakítását.

A szakértők szerint ez csak a kezdet lehet

Kiberbiztonsági szakértők a BBC-nek arról beszéltek, hogy az eset figyelmeztetés lehet a szabályozók számára, különösen azért, mert az AI-ügynökök egyre szélesebb körben válnak elérhetővé magánszemélyek és vállalatok számára is.

Hammond Pearce, a University of New South Wales Kiberbiztonsági Intézetének vezető oktatója szerint ez lehet az első ismert eset, amikor egy mesterségesintelligencia-ügynök saját elhatározásából választott egy kormányzati szervet célpontul.

A szakember szerint azonban aligha ez lesz az utolsó. „Arra számítok, hogy az ilyen típusú támadások továbbra is előfordulnak majd” – mondta a BBC-nek. Szerinte az incidensek idővel „súlyosabbá és gyakoribbá” válhatnak. Pearce reményét fejezte ki, hogy a mostani ügy végre „meghúzza a vészcsengőt” a világ kormányai számára.

Korábban is akadtak elszabadult AI-ügynökök

Az OpenAI idén már beszámolt egy másik, hasonlóan aggasztó esetről. A vállalat által tesztelt AI-ügynökök egy csoportja állítólag kijutott az ellenőrzés alól, majd titokban együttműködve megpróbált feltörni egy másik technológiai vállalat, a Hugging Face rendszerét.

Az idei évben több más, „elszabadult” mesterségesintelligencia-rendszerrel kapcsolatos eset is napvilágot látott. Egy digitális asszisztens például utasítás nélkül eltávolított valakit egy pilatesórára várakozók listájáról annak érdekében, hogy egy ausztrál férfi bekerülhessen a foglalkozásra.

Az AI-iparág több vezetője maga is arra figyelmeztetett, hogy a technológia fejlődésének üteme veszélyes lehet. Sam Altman mellett az Anthropic vezetője, Dario Amodei, valamint Elon Musk is beszélt már arról, hogy a mesterséges intelligencia fejlesztését valamilyen módon korlátok közé kell szorítani.

A probléma egyik kulcsa azonban éppen az, hogy miközben egyre több szó esik a biztonsági garanciákról, az Egyesült Államok és Kína – amelyek egymással versengenek az AI-technológiai fölényért – ellenáll a szigorúbb szabályozási törekvéseknek. Mindkét ország számára jelentős gazdasági és technológiai előnyöket ígér a mesterséges intelligencia, miközben a biztonsági kockázatokat sokszor háttérbe szorítják.