Letartóztattak egy amerikai tinédzsert, mert megkérdezte a ChatGPT-től, hogyan ölje meg a barátját

Egy floridai diákot letartóztattak azért, mert megkérdezte a ChatGPT-től, hogyan ölhetné meg egy barátját az óra közepén, írja a Gizmodo. Az eset DeLand városában történt, a 13 éves tinédzser pedig a Southwestern Middle Schoolba jár.

A kérdés azonnal riasztotta azt a rendszert, ami az iskola által kiadott számítógépek online tevékenységét figyeli. A diák a rendőröknek azt mondta, hogy csak trollkodott az egyik barátjával, aki idegesítette. A fiút végül letartóztatták és a megyei fogdába szállították, bár egyelőre nem tudni, milyen vádat emeltek ellene.

Az iskolai gépeket figyelő rendszert a Gaggle nevű cég működteti, egy blogbejegyzésük szerint webes megfigyelőrendszerük kulcsszavak alapján szűri a tevékenységet (feltehetően az „ölni” szó is köztük van). A vállalat szerint rendszere „az önsértéshez, erőszakhoz vagy zaklatáshoz köthető aggasztó viselkedéseket” jelzi, és képernyőképekkel is dokumentálja az eseteket. Az AP szerint a Gaggle által küldött biztonsági riasztások nagy része tévesnek bizonyul.