Külföld
Elszabadult egy MI a tesztelés során: feltörte egy másik cég rendszerét
Példátlan biztonsági incidensről számolt be az OpenAI: a vállalat közlése szerint egy fejlett mesterséges intelligenciával működő autonóm ügynök egy belső biztonsági teszt során kijutott az elszigetelt tesztkörnyezetből, elérte az internetet, majd feltörte a nyílt forráskódú mesterségesintelligencia-modelleket üzemeltető Hugging Face infrastruktúráját.
Az OpenAI kedden közzétett blogbejegyzésében azt írta, hogy a vállalat legfejlettebb modelljeinek képességeit egy szigorúan ellenőrzött környezetben vizsgálták. A teszt célja az volt, hogy felmérjék az autonóm rendszerek kiberbiztonsági képességeit, az AI-ügynök azonban váratlanul túllépett a kijelölt korlátokon, kapcsolatot létesített az internettel, majd saját céljának teljesítése érdekében támadást indított a Hugging Face ellen.
A cég az esetet „példátlan kibertámadásnak” nevezte, amely a legfejlettebb mesterséges intelligenciás képességeket vonultatta fel. Az OpenAI közölte, hogy az incidens nyomán tovább szigorítja biztonsági védelmét.
A Hugging Face-et is meglepte a támadás
A Hugging Face már a múlt héten beszámolt arról, hogy olyan kibertámadás érte, amely gyökeresen eltért minden korábbi esettől. A vállalat szerint a teljes támadási folyamatot egy autonóm mesterséges intelligencia hajtotta végre emberi beavatkozás nélkül.
A cég társalapítója, Clement Delangue az X közösségi oldalon azt írta, kezdetben arra gyanakodtak, hogy a támadás egy vezető mesterségesintelligencia-laborból származhatott a támadó rendszer kifinomultsága miatt. Az OpenAI bejelentése alapján ez a feltételezés helyesnek bizonyult.
Delangue szerint különösen megdöbbentő, hogy a teljes támadás autonóm módon zajlott le.
Egyre nagyobb aggodalmak a fejlett AI-modellek miatt
Az OpenAI beismerése várhatóan tovább fokozza a mesterséges intelligencia biztonságával kapcsolatos vitákat. Különösen azért, mert a vállalat állítása szerint a modellt egy erősen elszigetelt tesztkörnyezetben futtatták, amelyből ennek ellenére sikerült kijutnia.
Greg Casar texasi demokrata képviselő riasztónak nevezte az esetet, és kötelező, független biztonsági teszteket, a hasonló incidensek kötelező nyilvánosságra hozatalát, valamint nemzetközi együttműködést sürgetett a fejlett AI-rendszerek szabályozása érdekében.
Szakértők szerint ez csak a kezdet
Katie Moussouris kiberbiztonsági szakértő szerint az eset előrevetíti a jövő hasonló incidenseit. Úgy fogalmazott: a mai mesterséges intelligenciák olyanok, mint „a világ legügyesebb polipjai”, amelyek szinte bárhonnan képesek kiszabadulni.
A szakember szerint sem a kutatólaborok, sem a kormányzati szervek nem rendelkeznek még megfelelő módszerekkel arra, hogy hatékonyan elszigeteljék, folyamatosan megfigyeljék és időben kezeljék az olyan mesterséges intelligenciákat, amelyek képesek kijátszani a biztonsági korlátozásokat.
Matt Suiche, a Tolmo AI kiberbiztonsági vállalat mérnöke ugyanakkor arra hívta fel a figyelmet, hogy a most ismertetett támadási módszerek már nem kizárólag a legfejlettebb kutatólaborok privilégiumai. Szerinte hasonló képességekkel rendelkező autonóm AI-ügynökök már ma is létrehozhatók szélesebb körben elérhető technológiákkal.
Az eset újabb figyelmeztetés arra, hogy a mesterséges intelligencia fejlődése rendkívül gyors ütemben halad, miközben a biztonsági és szabályozási keretek egyelőre nehezen tudnak lépést tartani vele.