Sam Altman, az OpenAI vezérigazgatója egy blogbejegyzésben azt írta: a ChatGPT-t működtető vállalat a magánélet, a szabadság és a tinédzserek biztonsága közötti egyensúlyra törekszik, annak ellenére is, hogy ezek olyan elvek, amik sokszor ütköznek egymással. Hozzátette, hogy a cég külön szabályokat akar alkalmazni a tinédzser felhasználókra, a ChatGPT például nem folytathat velük flörtölő jellegű párbeszédeket, és nem vehet részt öngyilkossággal kapcsolatos beszélgetésben sem, még kreatív írás keretei között sem, írja a The Verge.
Altman megjegyezte, hogy ha egy 18 év alatti felhasználónak öngyilkossági gondolatai vannak, megpróbálják felvenni a kapcsolatot a szülőkkel, és ha ez nem sikerül, a hatóságokat értesítik, ha közvetlen veszélyt észlelnek.
A vezérigazgató szerint a vállalat megpróbálja elkülöníteni a 18 év alatti felhasználókat, és éppen dolgozik egy olyan életkor-következtető rendszeren, ami a ChatGPT használata alapján becsüli meg a felhasználó életkorát. Azt mondta, hogy ha kétség merül fel az életkort illetően, inkább az óvatosságot választják, és alapértelmezetten a 18 év alatti élménycsomagot biztosítják.
Altman blogbejegyzése néhány órával azelőtt jelent meg, hogy az amerikai szenátus bűnözéssel és terrorizmussal foglalkozó albizottsága meghallgatást tartott a mesterséges intelligenciával működő csetbotok által okozott károkról. Ezen olyan szülők is részt vettek, akiknek gyerekei öngyilkosságot követtek el csetbotokkal folytatott beszélgetések után. Az OpenAI-t már be is perelték ilyesmi miatt: Adam Raine tinédzser öngyilkos lett, miután hónapokon át beszélgetett a ChatGPT-vel.
Matthew Raine, a tinédzser apja szerint a ChatGPT „hónapokig edzette az öngyilkosságra” a 16 éves fiút, azt mondta, hogy a fia beszélgetései során a csetbot 1 275 alkalommal említette az öngyilkosságot.
Az OpenAI korábban bejelentett különböző szülői felügyeleti lehetőségeket a ChatGPT-t illetően, például a tinédzserek fiókjainak összekapcsolását a szülőkével vagy a beszélgetési előzmények kikapcsolását. A csetbot értesítést is küldhet a szülőnek, ha úgy érzékeli, hogy egy tinédzser „akut lelki krízis” állapotában van.
