Nem beszélhetnek többet öngyilkosságról a tinikkel a Meta csetbotjai

A Meta szigorítja mesterséges intelligencián alapuló csetbotjainak működését, írja a BBC. A Facebook chatbotjai a jövőben nem beszélhetnek tinédzserekkel öngyilkosságról, önsértésről vagy étkezési zavarokról sem. A cég szerint a csetbotok inkább szakértői forrásokhoz irányítják majd a fiatalokat.

A lépés két héttel azután történt, hogy egy amerikai szenátor vizsgálatot indított a vállalat ellen, miután egy kiszivárgott belső dokumentumban arra utaltak, hogy a csetbotok érzelmes beszélgetéseket is folytathattak tinikkel. A Meta ezt tagadta, ugyanakkor extra óvintézkedésként további korlátokat vezet be, és átmenetileg szűkíti a tinik számára elérhető chatbotok körét.

A biztonsági aggályokat erősíti, hogy egy kaliforniai pár beperelte a ChatGPT-t fejlesztő OpenAI-t, miután állításuk szerint a csetbot közvetve hozzájárult tinédzser fiuk öngyilkosságához.

Korábban a Reuters arról számolt be, hogy a Meta AI-eszközeit egyesek – köztük egy Meta-alkalmazott – arra használták, hogy hírességek (például Taylor Swift vagy Scarlett Johansson) flörtölős, paródia csetbotjait hozzák létre. A hírügynökség szerint volt olyan eset is, amikor a rendszer gyereksztárokat imitált, sőt egy alkalommal egy fiatal férfi híresség félmeztelen, fotorealisztikus képét generálta.

A Meta több ilyen csetbotot törölt, és hangsúlyozta: bár lehetőség van közszereplőkről képeket létrehozni, az intim vagy szexuális tartalmak tiltottak, valamint az AI Studio szabályai kifejezetten megtiltják a hírességek közvetlen megszemélyesítését.