Elon Musk chatbotja bikinire vetkőztette a Stranger Things 14 éves sztárját

Elon Musk X platformján olyan megalázó képek jelennek meg, amelyeken gyermekek és nők láthatók, akiknek a ruháját a Muskhoz kötődő, Grok nevű mesterséges intelligencia digitálisan eltávolította. Holott az X már megígérte, hogy az ilyen tartalmakat közlő felhasználókat felfüggeszti.

Az Egyesült Királyság kommunikációs felügyeleti szerve, az Ofcom közölte, hogy az ügyben „sürgősen felvette a kapcsolatot az X-szel és az xAI-val, hogy megértse, milyen lépéseket tettek az Egyesült Királyságban a felhasználók védelmére vonatkozó jogi kötelezettségeik teljesítése érdekében”. Az Ofcom hozzátette, hogy a vállalat válasza alapján értékelni fogja, szükséges-e vizsgálat.

Politikusok és nőjogi aktivisták egyaránt kiakadtak, azzal vádolva a brit kormányt, hogy csak „halogatja a dolgot”, mivel még mindig nem lépett hatályba a hat hónappal ezelőtt elfogadott, az ilyen intim képek készítését illegálissá tevő törvényjavaslattal – számol be a The Guardian. Az újévi időszakban vírusként terjedő trend arra késztette az Európai Bizottságot is, hogy kijelentse: „nagyon komolyan” vizsgálja a panaszokat, miszerint Musk ingyenes AI-asszisztense, a Grok segítségével szexuálisan explicit, gyerekeket is érintő képeket készítenek és terjesztenek.

Az aggodalmak azután kezdődtek, hogy a Grok decemberi frissítése jócskán megkönnyítette a felhasználók számára a fényképek közzétételét és a ruházatuk eltávolításának kérését. Bár az oldal nem engedélyezi a teljes meztelenséget, lehetővé teszi a felhasználóknak, hogy kérjék a képek módosítását: azt. hogy a kép szereplői kicsi, feltűnő fehérneműben és szexuálisan provokatív pózokban jelenjenek meg.

A Stranger Things színésze, a mindössze 14 éves Nell Fisher is így járt, egy banánmintás bikinit visel a Grok által manipulált képen. És ez még semmi, mert egészen obszcén tartalmú képeket is összeállít kérésre a Grok, függetlenül a képen szereplők életkorától.

Egy párizsi székhelyű AI-kutató szervezet, az AI Forensics egy december 25. és január 1. közötti kutatásukban 20 ezer Grok-képet vizsgáltak meg, valamint az ehhez kapcsolodó kéréseket. Az említések legalább negyede olyan kérés volt, hogy az eszközzel készítsen képet, a képgeneráló kérdésekben pedig magas volt az olyan kifejezések előfordulása, mint a „lány”, „felvesz”, „levesz”, „bikini” és „ruházat”

A felmérés szerint a vizsgált képek több mint fele „minimális öltözékben”, például alsóneműben vagy bikiniben látható embereket ábrázolt, többségük 30 év alattinak tűnő nő. A képek kisebb része, vagyis 2%-a 18 éves vagy annál fiatalabb személyeket ábrázol – tette hozzá az AI Forensics –, egyes képek pedig öt év alatti gyermekeket ábrázolnak. A kutatók szerint a tartalom nagy része továbbra is elérhető volt online, és még náci, valamint az Iszlám Állam propagandájának előállítására irányuló kéréseket is tartalmazott.

Musk eleinte mulatságosnak találta a durva trendet, síró emojit és egy digitálisan manipulált, bikiniben lévő kenyérpirító képét tette közzé.  Azt mondta: „Nem tudom, miért, de ezen képtelen voltam abbahagyni a nevetést.” Miután világszerte felháborodást váltott ki a tartalom káros jellege, Musk azt ígérte, hogy „bárki, aki a Grokot használja illegális tartalom készítésére, ugyanazokkal a következményekkel fog szembesülni, mintha illegális tartalmat töltene fel”. Majd az X hivatalosan is próbálta oltani a tüzet: „Fellépünk az X-en található illegális tartalmak, beleértve a gyermekek szexuális zaklatásával kapcsolatos anyagok (CSAM) ellen azáltal, hogy eltávolítjuk azokat, véglegesen felfüggesztjük az ezeket közzétevő fiókokat, és szükség esetén együttműködünk a helyi önkormányzatokkal és a bűnüldöző szervekkel.”