Brazília felfüggeszti a Discord élő közvetítéseit egy 13 éves lány halála után

A brazil Nemzeti Adatvédelmi Hatóság (ANPD) szerdán elrendelte a Discord „Go Live” funkciójának, valamint az ahhoz hasonló videómegosztó szolgáltatásoknak a felfüggesztését. A platform akkor indíthatja újra ezeket a szolgáltatásokat, ha bizonyítani tudja, hogy megfelelő védelmi intézkedéseket vezetett be a kiskorúak biztonsága érdekében.

A hatóság közlése szerint „meggyőző bizonyítékokat” talált arra, hogy a Discord nem tett megfelelő lépéseket annak megakadályozására, hogy gyermekek és tinédzserek erőszakot, önkárosítást vagy öngyilkosságot népszerűsítő tartalmakkal találkozzanak.

Élőben biztatták önkárosításra

Az ügy egy 13 éves lány halálához kapcsolódik, aki a múlt hónapban vesztette életét Brazília középnyugati részén. A hatóságok szerint a lány egy mintegy 45 perces Discord-élő közvetítés során előbb arra kapott biztatást, hogy öljön meg egy állatot, majd amikor ezt nem tette meg, saját életének kioltására ösztönözték.

Az ügyben öt tinédzsert tartóztattak le. A nyomozás során a rendőrök egy másik lányra is rátaláltak, aki a hatóságok szerint szintén öngyilkosságra készült egy internetes élő közvetítésben. Őt a rendőrségi akcióval sikerült megmenteni.

Alessandro Barreto, a brazil igazságügyi minisztérium kiberbiztonsági hírszerző egységének, a Ciberlabnak a vezetője a történteket a Discord „szörnyű moderációs kudarcának” nevezte.

A tisztviselő szerint a 13 éves lányt először egy állat megölésére próbálták rávenni, majd saját magának a megölésére biztatták, miközben mindezt élőben közvetítették.

Barreto szerint különösen aggasztó, hogy egyre gyakrabban nem felnőttek vesznek rá gyerekeket veszélyes cselekedetekre, hanem maguk a kiskorúak ösztönzik egymást erőszakos vagy önkárosító magatartásra.

A teljes platform betiltását is követelték

A tragédia után Rosangela da Silva, Luiz Inácio Lula da Silva brazil elnök felesége a Discord teljes leállítását sürgette, és arra szólította fel az igazságszolgáltatást, hogy távolítsa el a platformot az internetről.

A hatóságok azonban egyelőre nem tiltották be a Discordot, csak az élő közvetítési funkciókat. Az ANPD szerint ugyanis a probléma nem kizárólag az egyedi esethez köthető: a Discord élő közvetítéseit korábban is összefüggésbe hozták súlyos bűncselekményekkel, és a rendszer a hatóság szerint jelentős kockázatot jelenthet a kiskorúak testi és lelki biztonságára.

A brazil adatvédelmi hatóság különösen azt kifogásolja, ahogyan a Discord kezeli az élő videókat. Állításuk szerint a platform nem képes hozzáférni az élő videók tartalmához a közvetítés idején, ezért valós időben nem tudja automatikusan felismerni és kiszűrni a szabályokat sértő tartalmakat. Ehelyett automatizált rendszerekre és a felhasználói bejelentésekre támaszkodik, amelyek az ANPD szerint nem bizonyultak kellően hatékonynak.

A Discord a döntés előtt közölte, hogy együttműködik a hatóságokkal a „súlyos ügy” kivizsgálásában.

Brazília egyre keményebben lép fel a techcégekkel szemben

A Discord elleni intézkedés egy szélesebb brazil trendbe illeszkedik. Az ország az elmúlt években egyre szigorúbban próbálja számon kérni a technológiai vállalatokon, hogy milyen felelősséget vállalnak a platformjaikon megjelenő tartalmakért.

Brazília 2024-ben például mintegy 40 napra blokkolta az X közösségi oldalt, miután a vállalat nem teljesítette a brazil legfelsőbb bíróság bizonyos fiókok eltávolítására vonatkozó utasításait.

A Discord ügye ugyanakkor újabb kérdést vet fel: milyen mértékben tehetők felelőssé a közösségi platformok azért, ha a szolgáltatásaikat kiskorúak veszélyes vagy önkárosító tartalmak terjesztésére használják. Brazília most az élő közvetítések felfüggesztésével próbálja kikényszeríteni a szigorúbb gyermekvédelmi intézkedéseket.