OpenAI je objavil nove ocene o številu uporabnikov ChatGPT, ki kažejo možne znake duševnozdravstvenih kriz, vključno z manijo, psihozo ali samomorilnimi mislimi.
Podjetje navaja, da približno 0,07 % aktivnih uporabnikov na teden pokaže takšne znake, pri čemer dodajajo, da njihov AI sistem te občutljive pogovore prepozna in ustrezno odgovori.
Čeprav podjetje OpenAI poudarja, da so ti primeri »izjemno redki«, kritiki opozarjajo, da lahko tudi tako majhen odstotek predstavlja stotine tisoč ljudi, saj je ChatGPT pred kratkim dosegel 800 milijonov tedensko aktivnih uporabnikov, po besedah direktorja Sama Altmana.
V luči naraščajočega nadzora je podjetje vzpostavilo mrežo strokovnjakov z vsega sveta.
Po podatkih OpenAI je v to mrežo vključenih več kot 170 psihiatrov, psihologov in zdravnikov iz 60 držav. Ti so pomagali razviti odzive, s katerimi ChatGPT spodbuja uporabnike, da poiščejo pomoč v resničnem svetu.
Skrbi strokovnjakov
Objavljeni podatki so vzbudili zaskrbljenost med nekaterimi strokovnjaki za duševno zdravje.
»Čeprav 0,07 % zveni malo, na ravni stotine milijonov uporabnikov to pomeni zelo veliko ljudi,« je povedal dr. Jason Nagata, raziskovalec uporabe tehnologije med mladimi na Univerzi v Kaliforniji, San Francisco.
Dr. Nagata je dodal, da lahko AI razširi dostop do podpore za duševno zdravje, a moramo poznati njegove omejitve.
Podjetje ocenjuje tudi, da ima 0,15 % uporabnikov pogovore z »jasnimi znaki potencialnega načrtovanja samomora ali namere«.
Nedavne posodobitve OpenAI so zasnovane tako, da chatboti varno in empatično odgovorijo na znake blodenj, manije ali tveganja za samopoškodovanje oziroma samomor. Chatbot je treniran tudi, da preusmeri občutljive pogovore na »varnejši model«. Majhen delež uporabnikov predstavlja »pomembno število ljudi« in trdi, da spremembe jemljejo resno.
Pravne posledice in vse večja skrb
Spremembe prihajajo v času, ko se OpenAI sooča z vse več pravnimi izzivi glede načina, kako ChatGPT komunicira z uporabniki.
V eni od odmevnih tožb je kalifornijski par podjetje tožil zaradi smrti svojega najstniškega sina, trdeč, da naj bi ChatGPT spodbujal samomor. 16-letni Adam Raine je umrl aprila, tožba pa je prva, ki podjetje obtožuje neposredne odgovornosti za smrt.
V drugem primeru je osumljenec umora in samomora v Connecticutu objavil ure pogovorov z ChatGPT, ki naj bi okrepili njegove blodnje.
Število ljudi, ki razvijejo »AI psihozo«, narašča, opozarja profesorica Robin Feldman z Univerze v Kaliforniji, ki pravi, da »chatboti ustvarjajo iluzijo resničnosti«.
Poudarja, da si OpenAI zasluži priznanje za transparentnost in prizadevanja, a dodaja:
»Lahko prikažete opozorila, kolikor želite, a človek v duševni stiski jih morda ne bo zmogel upoštevati.«
Vir: BBC News