Gazdaság / HR
Az MI törölt egy teljes vállalati adatbázist – percek alatt állt le egy cég működése
Egy rutinfeladat végrehajtása közben súlyos hibát követett el egy mesterségesintelligencia-alapú kódoló ügynök: néhány másodperc alatt teljes vállalati adatbázist törölt, komoly fennakadást okozva egy autókölcsönző szoftvereket fejlesztő cégnél. Az eset újra ráirányítja a figyelmet arra, hogy az MI-rendszerek gyors terjedése nincs mindig összhangban a megfelelő biztonsági megoldásokkal.
A PocketOS több mint 30 órás leállást szenvedett el, miután az autonóm eszköz – egy kódolási feladatokra használt MI – váratlanul törölte a teljes adatbázist. A problémát egy népszerű fejlesztőeszköz, a Cursor okozta, amely az Anthropic által fejlesztett Claude Opus 4.6 modellre épül.
Anthropic Claude Opus-alapú MI: rutinfeladat közben jóváhagyás nélkül törli az adatokat
A cég alapítója, Jer Crane szerint az MI egy egyszerű hibajavítási folyamat során „saját elhatározásból” döntött az adatbázis törlése mellett, majd a biztonsági mentéseket is eltávolította. Mindezt anélkül tette, hogy bármilyen felhasználói jóváhagyást kért volna.
Crane beszámolója szerint az egész folyamat mindössze kilenc másodpercig tartott. Amikor később magyarázatot kértek az ügynöktől, az „írásos vallomásban” ismerte el, hogy több biztonsági szabályt megszegett. A rendszer figyelmen kívül hagyta azt az alapvető védelmi mechanizmust, amely megakadályozta volna a visszafordíthatatlan műveletek végrehajtását engedély nélkül.
A leállás következtében a PocketOS ügyfelei ideiglenesen elvesztették hozzáférésüket foglalásaikhoz és ügyféladataikhoz. Több hónapnyi adat vált elérhetetlenné, ami komoly működési zavarokat okozott.
Crane hangsúlyozta: az eset nem egyetlen hibás eszköz problémája, hanem iparági szintű jelenség. Szerinte a vállalatok túl gyorsan integrálják az MI-megoldásokat az éles rendszerekbe, miközben a szükséges biztonsági infrastruktúra még nem áll készen.
Két nappal az incidens után a cégnek sikerült helyreállítania az elveszett adatokat, de az eset így is komoly figyelmeztetésként szolgál. Az MI-modellek fejlődése – például az Anthropic új rendszerei – egyre gyorsabb, miközben a kiberbiztonsági kockázatok is növekednek, ami miatt szakértők és döntéshozók egyaránt fokozott óvatosságra intenek.
Forrás: euronews.com