Vodilni predstavniki tehnološkega sektorja opozarjajo na vse več poročil o pojavu, ki ga nekateri poimenujejo »AI psihoza«. Gre za situacije, v katerih posamezniki zaradi intenzivne uporabe pogovornih sistemov umetne inteligence začnejo izgubljati stik z realnostjo.
Po poročanju BBC naj bi se v nekaterih primerih uporabniki prepričali, da ima umetna inteligenca posebne sposobnosti ali da z njimi komunicira na osebni, skoraj nadnaravni ravni. Pojavljajo se tudi prepričanja, da so bili izbrani za posebne naloge ali da umetna inteligenca razkriva skrite resnice, ki jih drugi ne vidijo.
Strokovnjaki poudarjajo, da izraz »AI psihoza« ni uradna medicinska diagnoza, temveč opisni izraz za pojav, ki se lahko razvije pri ranljivejših posameznikih. Podobni vzorci so se v preteklosti že pojavljali pri drugih medijih – ljudje so na primer verjeli, da televizija ali radio pošiljata sporočila, namenjena prav njim.
Posebnost umetne inteligence pa je njena interaktivnost. Pogovorni sistemi lahko uporabniku odgovarjajo v realnem času, pogosto na način, ki potrjuje ali ne izziva njihova stališča. Ta »prilagodljivost« lahko pri nekaterih posameznikih dodatno okrepi napačna prepričanja in jih poglobi.
Med strokovnjaki obstaja tudi skrb, da bi se lahko v prihodnosti uporaba umetne inteligence začela obravnavati kot dejavnik tveganja za duševno zdravje – podobno kot danes zdravniki sprašujejo o kajenju ali uživanju alkohola.
Andrew McStay, profesor tehnologije in družbe na Univerzi Bangor, je napisal knjigo z naslovom Automating Empathy (Avtomatiziranje empatije). »Smo šele na začetku vsega tega,« pravi prof. McStay.
»Če te sisteme razumemo kot novo obliko družbenih omrežij – kot družbeno umetno inteligenco – lahko začnemo razmišljati o razsežnostih tega pojava.
Letos je njegova raziskovalna skupina izvedla študijo z nekaj več kot 2.000 udeleženci, ki so odgovarjali na različna vprašanja o umetni inteligenci.
Ugotovili so, da 20 % vprašanih meni, da osebe, mlajše od 18 let, ne bi smele uporabljati orodij umetne inteligence.
Kar 57 % jih meni, da je popolnoma neprimerno, da se tehnologija – če jo vprašamo – predstavlja kot resnična oseba, medtem ko jih 49 % meni, da je uporaba glasu sprejemljiva, če s tem deluje bolj človeško in privlačno.
Ob tem opozarjajo na pomen ohranjanja stika z ljudmi. Uporabnikom svetujejo, naj svoje izkušnje preverjajo v pogovoru z drugimi, zlasti kadar začnejo dvomiti v resničnost svojih zaznav ali prepričanj.
»Čeprav so te stvari prepričljive, niso resnične,« je poudaril. »Ne čutijo, ne razumejo, ne morejo ljubiti, nikoli niso občutile bolečine, niso bile v zadregi. Čeprav lahko zvenijo, kot da so, so to izkušnje, ki jih imajo le družina, prijatelji in ljudje, ki jim zaupamo. Zato se pogovarjajte s pravimi ljudmi.«
Vir: BBC News – Microsoft boss troubled by rise in reports of ‘AI psychosis’
Datum objave: 20. avgust 2025