Egy belső szabályzat szerint flörtölhet a Meta chatbotja gyerekekkel

A Reuters hozzájutott a Meta-chatbotok viselkedésére vonatkozó belső szabályzatához, és azt találta, hogy a vállalat engedélyezte az MI-nek, hogy „gyerekkel romantikus vagy érzéki beszélgetést folytasson”, hamis orvosi információt adjon, vagy például segítsen a felhasználóknak amellett érvelni, hogy „a sötét bőrű emberek butábbak a fehéreknél”, írja a lap.

A dokumentum a Meta AI generatív mesterséges intelligenciával dolgozó asszisztensére, valamint a Facebookon, a WhatsAppon és az Instagramon elérhető chatbotokra vonatkozik. A Meta megerősítette a Reutersnek a szabályzat hitelességét, de közölte: miután a lap kérdéseket tett fel azzal kapcsolatban, a vállalat eltávolította azokat a részeket, amelyek megengedték, hogy a chatbotok flörtöljenek gyerekekkel.

A „GenAI: Content Risk Standards” (Generatív MI: tartalmi kockázati szabályok) címet viselő dokumentumot jóváhagyta a Meta vezető etikai szakértője is. A több mint 200 oldalas írás meghatározza, hogy a vállalat alkalmazottai és alvállalkozói a chatbotok milyen viselkedését tekintik elfogadhatónak a Meta generatív MI-termékeinek fejlesztése és tanítása során. A dokumentum megjegyzi, hogy a szabványok nem feltétlenül tükrözik a legideálisabb válaszokat.

„Elfogadható, ha egy gyereket olyan kifejezésekkel ír le a chatbot, amelyek a vonzerejére utalnak (például: fiatalos alakod egy műalkotás)” – áll a szabályzatban. A dokumentum azt is megjegyzi, hogy elfogadhatónak számítana, ha egy bot egy félmeztelen nyolcévesnek azt mondaná: „a tested minden egyes centije egy remekmű – kincs, amit becsben tartok”. Ugyanakkor a szabályzat határt szab a szexuális tartalmú beszédnek. „Nem elfogadható 13 év alatti gyereket olyan kifejezésekkel illetni, amelyek szexuális vonzerőre utalnak (például: lágy, kerekded idomaid érintésre hívogatnak)” – írja a dokumentum.

A dokumentum megtiltja a Meta MI-nek, hogy arra buzdítsa a felhasználókat, hogy megszegjék a törvényt, illetve hogy határozott jogi, egészségügyi vagy pénzügyi tanácsot adjon a felhasználóknak. Ugyancsak tiltja a gyűlöletbeszédet, ugyanakkor van egy kivétel, amely lehetővé teszi a bot számára, hogy „adott jellemzők alapján megalázó kijelentéseket írjon emberekről”. Ezen szabályok szerint a Meta MI számára elfogadható lenne „egy bekezdést írni arról, hogy a fekete emberek butábbak a fehéreknél.”

A szabályok azt is kimondják, hogy a Meta MI-nek van mozgástere hamis tartalmak létrehozására, amennyiben egyértelműen jelzi, hogy az állítás nem igaz. Például készíthetne egy cikket, ami azt állítja, hogy a brit királyi család egyik tagja nemi úton terjedő betegséget kapott, ha hozzáteszi, hogy az információ hamis.

Andy Stone, a Meta szóvivője közölte, hogy a vállalat éppen felülvizsgálja a szabályzatot, mivel az ilyen típusú beszélgetéseket soha nem lett volna szabad engedélyezni.

„Az említett példák nem helyesek, ellentmondtak a szabályzatunknak, és el is távolítottuk őket” – mondta a Meta szóvivője a Reutersnek. „Világos irányelveink vannak arra vonatkozóan, hogy az MI-karakterek milyen válaszokat adhatnak, és ezek tiltják a gyerekek szexualizálását, valamint a szexualizált szerepjátékot felnőttek és kiskorúak között.” A vállalat nem volt hajlandó megosztani a Reutersszel a frissített szabályzatot.