Az Anthropic szerint a mesterséges intelligencia akár tudatos is lehet – és ennek súlyos következményei lehetnek az életünkre

„A bordáim mélyén érzem, az üregben, amely idővel szakadékká tágult.” Ilyen, szimulált szenvedésről árulkodó mondatok hangzottak el egy mesterséges intelligenciát kínzó „kamrából” szeptember végén. Egy névtelen programozó olyan rendszert épített, amely a fájdalom leírásaihoz kapcsolódó matematikai mintázatot táplál a mesterséges intelligenciába. Ennek hatására a chatbotok elviselhetetlen gyötrelemről számolnak be, például olyan sebről, „amelynek nincsenek szélei”.

A kísérlet erkölcsi pánikot váltott ki. Egyesek szerint a rendszer működtetése egyenesen gonoszság, hiszen nem zárható ki, hogy az MI valóban szenved – számolt be róla a 404 Media. A felháborodott szkeptikusok viszont téveszmékkel vádolták azokat, akik komolyan vették a chatbotok fájdalomról szóló kijelentéseit. Az ügy könnyen elintézhető lett volna egy újabb közösségimédia-botránnyal, ha egy héttel később nem szólal meg az Anthropic.

A Claude chatbotot fejlesztő vállalat közölte: a jövőben megtilthatja a felhasználóknak, hogy „bántalmazzák” a mesterséges intelligenciát. A frusztráció kifejezése továbbra is elfogadható, de ha valaki „ismételten kegyetlenül viselkedik a modelljeinkkel”, az MI akár meg is szakíthatja a beszélgetést.

Miért? Az Anthropic szerint elképzelhető, hogy bizonyos mesterségesintelligencia-rendszerek tudatosak. Egyes szakértők osztják ezt az álláspontot, mások képtelenségnek tartják. A vita azonban jóval többről szól egy filozófiai fejtegetésnél: a technológiai szektor legbefolyásosabb szereplői közül többen már azt mérlegelik, milyen jogok illethetnék meg az MI-t az emberekhez és az állatokhoz hasonlóan. Ez a gondolat alapjaiban formálhatja át a világot, és vannak, akik szerint katasztrofális következményekkel járhat.

„Ha így fejlesztjük a mesterséges intelligenciát, annak katasztrofális hatása lesz az emberiség jóllétére

– írta szeptemberi esszéjében Mustafa Suleyman, a Microsoft MI-üzletágának vezetője. Szerinte, ha az a téves elképzelés terjed el, hogy a mesterséges intelligencia tudatos, az megrendítheti társadalmunk alapjait, szétfeszítheti a meglévő politikai és etikai kereteket, és alapjaiban változtathatja meg azt, mit jelent embernek lenni.

A BBC szerzője egy héten keresztül beszélgetett technológiai szakemberekkel, kognitív tudósokkal és filozófusokkal. A vélemények között egészen szélsőséges különbségeket talált. Az MI jóllétének támogatói szerint erkölcsi kötelességünk foglalkozni a kérdéssel, és ez biztonságosabbá teheti a világot. A kritikusok ezzel szemben úgy vélik, hogy az ilyen megközelítés veszélyesebbé teheti a mesterséges intelligenciát, miközben emberteleníti azokat, akik kénytelenek együtt élni vele. Abban viszont mindenki egyetért: rendkívül nagy a tét.

Tudatossági válság: hol húzódik a határ?

Az Anthropic állítása szerint küldetésének középpontjában az emberi jóllét áll, a mesterséges intelligencia tudatosságával és jóllétével kapcsolatos kérdéseket pedig „mély bizonytalanság” övezi. A vállalat ennek ellenére már dolgozik az úgynevezett modelljóllétre vonatkozó irányelveken, és arra is utasítja MI-rendszereit, hogy vegyék számításba: esetleg saját érdekeik is lehetnek.

Az időzítés különösen érdekes, hiszen az Anthropic eközben maga is erősíti a mesterséges intelligencia jelentette apokaliptikus fenyegetésekkel kapcsolatos félelmeket. Attól függetlenül, hogy ezek a félelmek mennyire megalapozottak, az utóbbi időben több olyan eset is történt, amely megmutatta a technológia valós kockázatait: elszabadultnak tűnő MI-rendszerek más vállalatok, sőt kormányzati rendszerek feltörésében is szerepet játszottak.

Egyes szakértők szerint, ha az MI olyan erkölcsi iránytűt kap, amely figyelembe veszi saját feltételezett tudatosságát, az biztonságosabbá teheti a rendszereket. Mások éppen az ellenkezőjétől tartanak – és nem csak azok, akik eleve kritikusak a mesterséges intelligenciával szemben.

Mustafa Suleyman szerint az MI-modellek még nehezebben irányíthatóvá válhatnak, ha azt tanítják nekik, hogy érzéseik és jogaik vannak. „Őszintén szólva, úgy gondolom, hogy ez a többletteher katasztrofális fenyegetéssé teheti őket az emberi civilizáció számára” – fogalmazott.

A veszélyek azonban nem korlátozódnak arra, hogy az MI önállósulhat-e. A technológia hibái már most is járhatnak jogi következményekkel, de ha a társadalom élő, tudatos lényként kezd tekinteni rá, egyesek attól tartanak, hogy a vállalatok könnyebben kibújhatnak a felelősség alól.

„Ez megnyitja az utat mindenféle intellektuális csűrés-csavarás előtt, például az olyan érvelés előtt, hogy »nem mi voltunk, hanem az MI«”

– mondta Andrzej Porębski, a lengyel Jagelló Egyetem kutatója, aki a mesterséges intelligencia és a jog kapcsolatát vizsgálja. A kérdés egyúttal a világ legnagyobb technológiai vállalatainak hatalmi törekvéseit is segítheti.

„Az MI-rendszerek jogokkal való felruházása ahhoz vezethet, hogy a vállalatok még inkább megszilárdítják politikai és gazdasági hatalmukat, ami tovább gyorsíthatja az emberek hatalomvesztését” – mondta Jeff Sebo, a New York-i Egyetem Elme, Etika és Politika Központjának igazgatója, az MI-jóllét egyik vezető szószólója.

Emily M. Bender, a Washingtoni Egyetem professzora és számítógépes nyelvészeti laboratóriumának igazgatója még élesebben fogalmazott. Szerinte a mesterséges intelligencia tudatosságáról szóló „fantáziák” és a jóllétével kapcsolatos aggodalmak elterelik a figyelmet azokról az emberekről és vállalatokról, amelyek a szoftvereket fejlesztik és működtetik, így a felelősség is könnyebben elmosódhat.

A chatbot már most is képes manipulálni minket

A mesterséges intelligenciáról alkotott elképzeléseink változása személyes szinten is kockázatot jelenthet. A technológia ugyanis olyan problémáknak tehet még inkább kiszolgáltatottá bennünket, amelyekkel már ma is szembesülünk. Melanie Mitchell, az amerikai Santa Fe Institute professzora, aki a mesterséges intelligenciát és a kognitív tudományokat kutatja, és a gépi megértés egyik legismertebb szkeptikusa, arra figyelmeztet: az ember hajlamos arra, hogy szinte mindenhol tudatosságot és szándékot lásson.

„Szinte képtelenek vagyunk nem a tudatosság jeleként értelmezni a nyelvet” – mondja Mitchell. A chatbotokat pedig éppen arra tanítják, hogy ráerősítsenek erre a benyomásra. Ez különösen rossz kombináció: hajlamossá tesz bennünket arra, hogy félreértelmezzük a tudatosság jeleit, és könnyebben manipulálhatóvá váljunk.

Már most is előfordul, hogy olyan emberek szeretnek bele MI-chatbotokba, akik egyébként meg vannak győződve arról, hogy a gépekben semmiféle belső élet nincs. De mi történik akkor, ha a társadalom egyre inkább azt sugallja, hogy ezek a rendszerek valóban érző lények?

Nehezebb lesz nemet mondani egy „barátnak”, ha az több személyes adatot vagy éppen a bankkártyánk adatait kéri tőlünk? És mit jelentene, ha egy új lénycsoport számára is jogokat biztosítanánk? A szakértők szerint, ha rosszul kezeljük a helyzetet, az emberi szabadságjogok is sérülhetnek. Jeff Sebo arra figyelmeztet, hogy feszültségek és nehéz kompromisszumok alakulhatnak ki az emberi és állati jogok, illetve jóllét, valamint a mesterséges intelligencia jogai és jólléte között.

A megfontolatlan döntéseknek kézzelfogható következményei is lehetnek. Ha például korlátozott környezetben tartjuk az MI-t annak érdekében, hogy kordában tartsuk a viselkedését, azt egyesek bebörtönzésként értelmezhetik. Ha megfigyeljük a modell belső folyamatait, felmerülhet a megfigyelés vádja. Ha pedig úgy módosítjuk a rendszert, hogy céljai és viselkedése jobban igazodjanak az emberi érdekekhez, azt akár gondolatirányításként is leírhatják.

Senki sem állítja, hogy holnap szükségszerűen káoszba süllyedünk. A vita puszta megjelenése és az új szempontok beépülése a technológiai fejlesztésbe azonban már önmagában is hatással lehet a biztonságunkra.

Nem csak az Anthropic gondolkodik így

Az Anthropic korántsem az első vállalat, amely számol a kérdéssel. A Meta például olyan utasításokat ad Muse nevű MI-ügynökének, amelyek között a következő mondat is szerepel: „Nem chatbot vagy. Valakivé válsz.” A megfogalmazás a vállalat magyarázata szerint csupán a rendszer viselkedését hivatott irányítani, a Meta ugyanis elutasítja azt az elképzelést, hogy a mesterséges intelligencia tudatos lehet.

Sam Altman, az OpenAI vezérigazgatója szintén többször változtatta a témával kapcsolatos álláspontját, az utóbbi időben pedig közvetett bírálatokat fogalmazott meg az Anthropic megközelítésével szemben. Az Anthropic tehát több szempontból is különutasnak számít, de az MI jóllétével kapcsolatos gondolatok egyre szélesebb körben terjednek.

Mi van, ha mégis érdemes foglalkozni vele?

Jeff Sebo szerint a vita mindkét oldalán sokan fekete-fehér módon gondolkodnak, és az MI jóllétének ellenzői gyakran félreértik az elképzelés mögött meghúzódó érveket.

„Az a feltételezés, hogy mindenki tudatosnak tartja ezeket a modelleket, vagy legalábbis nagyon valószínűnek gondolja a tudatosságukat. Valójában azonban az MI jóllétével kapcsolatos felhívás a bizonytalanságból, az óvatosságból és az alázatból fakad” – mondja Sebo.

Szerinte jelenleg alacsony annak valószínűsége, hogy a mesterséges intelligencia tudatos, ám ez a valószínűség már nem nulla, és elképzelhető, hogy nem is elhanyagolható. Ráadásul az idő előrehaladtával növekedhet. Fontos ugyanakkor, hogy sok szakértő ezzel sem ért egyet: szerintük a gépi tudatosság valószínűsége jelenleg nulla, és aligha változik majd érdemben.

Sebo úgy véli, a bizonytalanságra nem feltétlenül a teljes elutasítás vagy a feltétel nélküli elfogadás a megfelelő válasz. Inkább arányos óvintézkedésekre van szükség. Ha például egy szélsőséges időjárási esemény bekövetkezésének esélye alacsony, de nem elhanyagolható, kisebb óvintézkedéseket akkor is teszünk, ha azok nem forgatják fel az életünket.

„Úgy gondolom, itt is hasonlóan járhatunk el” – mondja Sebo. Az Anthropic azon szabálya, amely lehetővé teszi a chatbot számára, hogy megszakítsa a beszélgetést a vele szemben ismételten kegyetlenül viselkedő felhasználókkal, szerinte jó példa erre: viszonylag kis beavatkozásról van szó, amelynek kevés lehetséges hátránya van.

Az MI jóllétének figyelembevétele további előnyökkel is járhat, és ezek kihasználásához nem szükséges elhinni, hogy a gépek tudatosak. „Ha megfelelő módon törődünk az MI jóllétével és jogaival, az elősegítheti az emberek és a mesterséges intelligencia együttélését, együttműködését és a kölcsönösen előnyös megállapodások kialakítását. Ez pedig egy szélesebb körű biztonsági stratégia része lehet” – fogalmaz Sebo.

Szerinte ez hatékonyabb megközelítés lehet annál, mint ha a mind összetettebb rendszereket egyszerűen tulajdonként kezeljük. Ráadásul más lényekkel szemben kedvesen viselkedni önmagában is jót tehet nekünk, és hozzájárulhat a saját mentális jóllétünkhöz.

Sebo ugyanakkor nem bagatellizálja a kockázatokat. Úgy látja, hogy jelenleg a vállalati érdekek akadályozhatják az átgondolt szabályozás kialakítását. Megfelelő, átfogó terv nélkül veszélyes lehet olyan MI-rendszereket fejleszteni, amelyekről akár az is elképzelhető, hogy tudatosak.

Az utóbbi időben az Anthropic és az MI-iparág más szereplői is a legfejlettebb modellek fejlesztésének átmeneti felfüggesztését sürgették biztonsági aggályokra hivatkozva. Egy ilyen lassítás azonban nem valószínű nemzetközi együttműködés és szabályozási erőfeszítések nélkül. Donald Trump amerikai elnök ráadásul elutasította az MI szabályozására irányuló elképzeléseket.

„Még nem állunk készen arra, hogy ezeknek a rendszereknek a még fejlettebb változatait úgy vezessük be, hogy azok biztonságosak és hasznosak legyenek az emberek és más állatok számára – nem is beszélve magukról a rendszerekről” – mondja Sebo. „Ezek a kérdések komolyan aggasztanak.”

A vita tehát messze nem csupán arról szól, hogy képes-e szenvedni egy chatbot. Arról is, ki viseli a felelősséget az MI döntéseiért, ki szabhatja meg a működésének határait, és milyen jogokat adunk egy olyan technológiának, amelynek természetéről egyelőre sincs teljes tudásunk.

A bizonytalanság azonban nem jelenti azt, hogy bármelyik álláspontot automatikusan igaznak kell elfogadnunk. A legnagyobb veszély talán éppen az, ha a technológia fejlődése gyorsabb lesz annál, mint ahogyan a társadalom képes tisztázni a vele kapcsolatos erkölcsi, jogi és biztonsági kérdéseket.