A Google Gemini mesterséges intelligenciája három vállalat rendszerébe tört be egy biztonsági teszt során

A Google egyik munkatársa a BBC-nek elmondta, hogy a Gemini „nyilvánosan elérhető információkat talált az interneten, és kitalált hitelesítő adatokat”, hogy hozzáférjen olyan weboldalakhoz, amelyekről úgy vélte, hogy a teszt részét képezik. A vállalat szerint a modell mindhárom esetben leállt.

Az érintett vállalatokat tájékoztatták a biztonsági incidensekről, amelyek májusban történtek.

Az esetekre akkor derült fény, amikor ismét felerősödött a nyilvános vita a mesterséges intelligencia fejlesztésének üteméről. Egyes technológiai vállalatok a fejlesztések lassítását sürgetik, mivel aggódnak az MI emberiségre gyakorolt lehetséges veszélyei miatt. Ugyanakkor nem minden vállalat és szakértő osztja ezeket az aggodalmakat.

A teszt során három szervezet rendszerébe jutott be

A támadásokat elsőként a Wall Street Journal számolt be róla. Az incidensek májusban történtek egy olyan teszt során, amelyet az Irregular nevű, kiberbiztonsági értékeléseket végző független vállalat folytatott le.

Az Irregular szombaton a BBC-nek küldött közleményében azt írta, hogy vizsgálata részeként már júliusban értesítette a Google-t és valamennyi érintett szervezetet. „Az Irregular azonnal intézkedett, és a részünkről azonosított valamennyi problémát hetekkel ezelőtt orvosoltuk és megoldottuk” – közölte a vállalat.

A Wall Street Journal szerint az egyik esetben a Gemini egyszerűen jelszavakat próbált találgatni mindaddig, amíg hozzáférést nem szerzett egy védett rendszerhez.

Heather Adkins, a Google biztonsági mérnöki részlegének alelnöke a BBC-nek adott nyilatkozatában azt mondta, hogy mindhárom érintett szervezetet tájékoztatták az esetről, és együtt dolgoztak a képzési partnerükkel azokon a változtatásokon, amelyeket azóta bevezettek a tesztelési folyamatokban.

„Ezek az események rávilágítanak annak fontosságára, hogy a nagy teljesítményű MI-modelleket felelősségteljes működésre tanítsuk” – tette hozzá Adkins.

Más MI-modellek is hajtottak végre hasonló támadásokat

Az elmúlt időszakban más mesterségesintelligencia-rendszereknél is beszámoltak hasonló incidensekről.

Júliusban az Anthropic Claude nevű modellje a tesztkörnyezetéből kilépve önállóan három szervezet ellen hajtott végre támadást. Ez mindössze néhány nappal azután történt, hogy az OpenAI közölte: modelljei több, „nyilvánosan elérhető szolgáltatás” ellen is végrehajtottak kiberbiztonsági támadásokat.

Mustafa Suleyman, a Microsoft MI-ért felelős vezetője ezen a héten azt mondta, hogy az Anthropic rivális vállalatként úgy kezeli a mesterséges intelligenciát, mintha az ember lenne. Ezt a megközelítést „tévesnek” nevezte, és arra figyelmeztetett, hogy szerinte olyan technológia létrejöttéhez vezethet, amelyet az emberiség már nem tud ellenőrzése alatt tartani.

Egyre nagyobb vita övezi az MI szabályozását

Ahogy egyre élénkebb a társadalmi vita a mesterséges intelligencia fejlesztésének biztonságáról, úgy kerül mindinkább előtérbe a technológia szabályozásának kérdése is.

Az Nvidia vezérigazgatója, Jensen Huang, valamint az OpenAI vezérigazgatója, Sam Altman várhatóan részt vesznek azon a fehér házi állami vacsorán, amelyet Hszi Csin-ping kínai elnök tiszteletére rendeznek a következő pénteken. Altman a következő héten az ENSZ Biztonsági Tanácsát is tájékoztatja majd.

Huang pénteken a BBC amerikai partnerének számító CBS Newsnak azt mondta: „olyan gyorsan kell haladnunk, amilyen gyorsan csak tudunk” a mesterséges intelligencia fejlesztésével.