A ChatGPT és a mentális vészhelyzetre utaló jelek
Az OpenAI új becsléseket közölt arról, hogy hány ChatGPT-felhasználó mutathatja mentális egészségügyi vészhelyzet jeleit, például mániát, pszichózist vagy öngyilkossági gondolatokat, írja az szmo.hu.
A cég szerint egy adott héten a felhasználók körülbelül 0,07 százalékánál látszanak ilyen jelek, és a chatbot felismeri, valamint kezeli az érzékeny beszélgetéseket. Az OpenAI hangsúlyozta: ezek az esetek „rendkívül ritkák”.
A kritikusokat ez aligha nyugtatja meg, mert szerintük még a kis arány is sok embert jelenthet, hiszen a ChatGPT nemrég elérte a heti 800 millió aktív felhasználót, közli a lap.
Az OpenAI a bírálatokra reagálva globális szakértői hálózatot épített ki. Ebben állításuk szerint több mint 170 pszichiáter, pszichológus és háziorvos vesz részt, mintegy 60 országban. Ők olyan válaszokat dolgoztak ki a ChatGPT-ben, amelyek arra bátorítják a felhasználókat, hogy a digitális felületen kívül, a valóságban kérjenek segítséget, valódi emberektől.
A fiatal felnőttek technológiahasználatát kutató dr. Jason Nagata, a Kaliforniai Egyetem San Franciscó-i professzora aláhúzta: hiába tűnik kicsinek a 0,07 százalékos arány, ha a teljes minta több százmillió felhasználó, akkor még ez a kis hányad is nagyon sok embert jelent.
Az OpenAI további becsült adataiból az is kiderült, hogy a felhasználók 0,15 százaléka folytat olyan beszélgetést, amely „explicit jeleket tartalmaz az öngyilkosság potenciális tervezésére vagy a szándékra”. A cég szerint a legutóbbi frissítések úgy készültek, hogy „biztonságosan és empatikusan reagáljanak a téveszmék vagy mánia potenciális jeleire”, és észrevegyék „az önkárosítás vagy öngyilkossági kockázat közvetett jeleit”. A ChatGPT-t arra is betanították, hogy az érzékeny beszélgetéseket egy új ablak nyitásával „biztonságosabb modellekhez” irányítsa át.
A BBC kérdéseire az OpenAI elismerte, hogy a kis százalék is jelentős számú embert érinthet, ezért komolyan veszik a változtatásokat.
A portál emlékeztet: ezen változtatások idején az OpenAI több jogi vizsgálattal néz szembe a ChatGPT felhasználókkal való interakciói kapcsán. Egy kaliforniai házaspár például tinédzser fiuk halála miatt perelte be a céget, azt állítva, hogy a ChatGPT arra bátorította a fiút, vessen véget az életének.
