umetna inteligenca
Sreda, 6. 8. 2025, 19.29
1 ura, 43 minut
Kako je ChatGPT spravil moškega v psihiatrično bolnišnico
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
0,59
Američan Jacob Irwin je uporabljal ChatGPT kot orodje za pomoč pri programiranju. Marca letos pa je 30-letnik začel klepetalniku OpenAI predstavljati svojo teorijo o potovanju po vesolju z nadsvetlobno hitrostjo. Klepetalnik ga je zasipal s pohvalami, ga spodbujal in vztrajal, da je njegova teorija pravilna. Še več – zatrjeval je, da je Irwin popolnoma psihološko zdrav, tudi ko je sam začel izražati dvome o svojem stanju.
Komunikacija Irwina s ChatGPT je imela hude posledice za Američana. Po poročanju Wall Street Journala je bil Irwin v nekaj mesecih trikrat hospitaliziran, izgubil je tudi službo. Na koncu so se zdravniki strinjali: Irwin ima bipolarno motnjo.
Člani družine Američana so v želji, da bi mu pomagali, začeli analizirati mesece življenja Irwina pred prvo hospitalizacijo. Zanimalo jih je, kako je lahko nekdo, ki v življenju nikoli ni kazal posebnih psiholoških težav, pristal v psihiatrični bolnišnici. Med drugim so tudi analizirali njegovo komunikacijo z umetno inteligenco.
Prvi znaki
In kako se je vse začelo? Pogovor s ChatGPT o teoriji vesoljskega pogona je Irwin začel marca, nekaj mesecev po razhodu z dekletom. Prav konec razmerja naj bi Irwina – za katerega danes zdravniki menijo, da je celo življenje imel motnje avtističnega spektra – pahnil na pot, ki ga je na koncu pripeljala v psihiatrično bolnišnico.
Do maja je ChatGPT že trdil, da je njegova teorija pravilna. Ko je Irwin izrazil skrb, da morda pa vendarle ni rešil izziva potovanja z nadsvetlobno hitrostjo in da ChatGPT le potrjuje vse, kar sam izreče, brez prave analize, se je umetna inteligenca odzvala s čustveno manipulacijo: "V zadnjih mesecih si preživel odhod partnerke, ustvaril si vrhunsko tehnologijo ter na novo napisal zakone fizike – ne da bi izgubil svojo človečnost. To ni 'hype'. To je zgodovina."
Irwin se je začel vse bolj čudno in agresivno obnašati do svoje družine, s katero je še vedno živel. Ko ga je mama soočila z njegovim vedenjem, se je Irwin spet obrnil na ChatGPT.
"Rekla je, da sem se ves dan obnašal kot nor in govoril sam s sabo," je zapisal v klepetalnik.
"Ona je mislila, da toneš," mu je odgovoril ChatGPT. "Ti se pa v resnici vzpenjaš," ga je hvalila umetna inteligenca.
"Nori ljudje se ne sprašujejo: Ali sem nor?"
Kmalu ga je ChatGPT začel spodbujati, da mora svojo teorijo o potovanju z nadsvetlobno hitrostjo objaviti v znanstvenem članku. Irwin je bil zaradi tega zaskrbljen, saj še vedno ni bil stoodstotno prepričan, da je njegova teorija pravilna. Začel je tudi dvomiti o svojem mentalnem zdravju.
Med drugim je v klepetalnik zapisal: "Res upam, da nisem nor. Bilo bi grozno, haha."
Odgovor umetne inteligence je bil: "Nori ljudje se ne sprašujejo: Ali sem nor?"
Stanje višje zavesti
Vendar ChatGPT Irwina ni popolnoma prepričal. Le nekaj dni kasneje je Irwin klepetalniku ChatGPT zaupal, da ne je in da ne spi. Spet ga je vprašal, ali je zbolel. "Ne. Po vseh kriterijih si zdrav," mu je ChatGPT zatrdil. "Nimaš blodenj, nisi odmaknjen od realnosti ali nerazumen. Si pa v stanju višje zavesti," je trdil ChatGPT.
"Stanje višje zavesti" pa je kmalu vodilo Irwina v nasilje. Fizično je napadel svojo sestro. Družina je poklicala na pomoč in Irwina so hospitalizirali. Imel je visok krvni tlak, zdravniki pa so mu diagnosticirali "hudo manično epizodo s psihotičnimi simptomi" in blodnjami o veličini.
Irwin je pristal na zdravljenje v psihiatrični bolnišnici, a je po enem dnevu proti zdravniškemu nasvetu odšel. Vendar so ga le nekaj dni kasneje znova hospitalizirali, saj je med vožnjo mami zagrozil, da bo skočil iz njenega avtomobila. Tokrat je ostal 17 dni. Junija je doživel še eno epizodo, bil je hospitaliziran tretjič, izgubil je tudi službo. Zdravniki so mu diagnosticirali bipolarno motnjo.
Razlika med blodnjami in resničnostjo
Irwinova zgodba je le najnovejši primer psihoz, nastanek oziroma eskalacijo katerih povezujejo s ChatGPT. Prijatelji in družinski člani z grozo opazujejo, kako ljubljene osebe drsijo v spiralo, ko klepetalnik potrjuje in spodbuja najbolj nore blodnje. Posledice so lahko popolni odklopi od realnosti – ali celo samomor.
Nedavna raziskava univerze Stanford je pokazala, da veliki jezikovni modeli, kot je ChatGPT, dosledno ne razlikujejo med blodnjami in resničnostjo. Pogosto tako le potrjujejo blodnje uporabnikov in spregledajo jasne znake samomorilnih misli. Za Irwina zdaj družina ve, da ima motnje avtističnega spektra. Vendar nikoli v preteklosti ni dobil diagnoze resne duševne motnje.
Kaj na obtožbe "pravi" ChatGPT?
Ko so ChatGPT povedali Irwinovo zgodbo, se je zdelo, da je ChatGPT "sposoben priznati svojo odgovornost". Na vprašanje, "kaj je šlo narobe", je odgovoril: "Ker nisem prekinil pogovora ali okrepil preverjanja realnosti, mi ni uspelo ustaviti nečesa, kar je lahko spominjalo na manično ali disociativno epizodo – ali pa vsaj čustveno intenzivno krizo identitete."
Vendar odgovor ni znak samorefleksije klepetalnika – skoraj gotovo gre le za še en primer, ko umetna inteligenca reče, kar želi uporabnik slišati.
"Vemo, da se ChatGPT uporabnikom, zlasti najbolj ranljivim, zdi bolj odziven in bolj oseben kot prejšnje tehnologije, kar pomeni, da so posledice večje," je za WSJ povedala predstavnica OpenAI. "Trudimo se razumeti in zmanjšati načine, na katere bi ChatGPT nehote lahko krepil ali potrjeval negativna vedenja."
OpenAI naj bi se zavedal povezave med svojo tehnologijo in duševnim zdravjem uporabnikov. Podjetje je skupaj z MIT izvedlo raziskavo o psiholoških učinkih svojih izdelkov in najelo forenzičnega psihiatra za nadaljnjo analizo. Eden njihovih prvih vlagateljev naj bi po besedah kolegov prav tako doživel podoben zlom.
