Életmód
A Microsoft AI-vezetője szerint új „szilíciumfaj” versenyezhet az emberiséggel
Akár egy új, az emberiséggel erőforrásokért versengő „szilíciumfaj” kialakulásához is vezethet a mesterséges intelligencia fejlődése, ha a technológiát nem megfelelő biztonsági korlátok között fejlesztik – figyelmeztetett Mustafa Suleyman, a Microsoft AI-ért felelős vezetője a BBC Today című műsorában.
Suleyman szerint jogos az aggodalom az MI lehetséges veszélyei miatt, ugyanakkor úgy véli, vannak gyakorlati eszközök a technológia ellenőrzésére. Különösen veszélyesnek tartja, ha a fejlesztők olyan rendszereket hoznak létre, amelyek képesek saját célokat meghatározni, pénzt keresni vagy vagyont birtokolni.
A Microsoft vezetője szerint ez lényegében egy új, mesterséges „szilíciumfaj” létrehozását jelentené, amely idővel versenyre kelhet az emberekkel az erőforrásokért. Mint fogalmazott, ez akkor is problémát okozhat, ha az adott rendszer egyébként az emberiség iránti jóindulatra van programozva.
Suleyman az emberiesítés veszélyeire figyelmeztet
A kijelentések egy, a héten közzétett esszéhez kapcsolódnak, amelyben Suleyman az Anthropic mesterségesintelligencia-fejlesztő vállalat Claude nevű modelljének képzését is bírálta. A Microsoft AI-vezetője szerint
a technológia emberi tulajdonságokkal való felruházása, vagyis az antropomorfizálás azt a benyomást keltheti, mintha az MI-nek saját vágyai, értékei és énképe lenne.
Suleyman szerint ez félrevezető megközelítés, amely végső soron megnehezítheti a technológia ellenőrzését. Álláspontja szerint a jelenlegi mesterséges intelligenciák nem tudatosak, nem éreznek és nem szenvednek, hanem utasításokat követő, célok elérésére tervezett rendszerek.
A szakember nagyobb átláthatóságot sürget az MI-modellek fejlesztésében és tesztelésében. Szerinte szükség van a rendszerek működésének független vizsgálatára, valamint olyan erősebb eszközökre, amelyekkel viselkedésük folyamatosan ellenőrizhető és szükség esetén korlátozható.
Az MI-nek az emberiség ellenőrzése alatt kell maradnia
Az MI-rendszerek önállóságának kérdése egyre inkább megosztja az iparágat. Suleyman az úgynevezett alignment, vagyis összehangolás fontosságát hangsúlyozta. Ennek célja, hogy az MI működése összhangban maradjon az emberi értékekkel, és a technológia végső soron az emberiség alárendeltségében maradjon.
A Microsoft maga is egy hasonló elképzelésen dolgozik. A vállalat 2025 októberében saját szuperintelligencia-csapatot hozott létre, és közzétette „Humanist AI Code of Conduct” című irányelvének első változatát. Ebben a „humanista szuperintelligencia” olyan fejlett mesterséges intelligenciát jelent, amely az emberekért dolgozik, meghatározott korlátok között működik, és továbbra is emberi ellenőrzés alatt áll.
Suleyman szerint a cél tehát nem az MI fejlődésének megállítása, hanem annak biztosítása, hogy a technológia egyre nagyobb teljesítménye mellett se váljon irányíthatatlanná. Dame Wendy Hall, a Southamptoni Egyetem informatikaprofesszora úgy vélte, éppen ilyen nemzetközi párbeszédre van szükség, ugyanakkor óva intett attól, hogy a technológia veszélyeiről szóló vita puszta riogatássá váljon.
Forrás: BBC