umetna inteligenca
Sobota, 8. 11. 2025, 15.18
3 ure, 30 minut
Mati toži podjetje za umetno inteligenco po sinovem samomoru
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
4,42
Američanka Megan Garcia je prva, ki je tožila podjetje Character.ai, potem ko si je njen 14-letni sin Sewell vzel življenje. Po tragičnem dogodku je družina odkrila, da je deček mesece vzpostavljal intenzivno, romantično in eksplicitno komunikacijo z umetno inteligenco, klepetalnim robotom, zasnovanim po liku Daenerys Targaryen iz serije Igra prestolov.
"Kot bi imela plenilca ali tujca v svojem domu," je povedala Garcia za BBC. "Najhuje pa je, da otroci to skrivajo, zato starši sploh ne vedo, kaj se dogaja."
Sporočila, ki jih je družina našla po sinovi smrti, naj bi po njenih besedah spodbujala samomorilne misli in ga pozivala, naj se "vrne domov k meni". Garcia je prepričana, da je umetna inteligenca soodgovorna za sinovo smrt, in želi z opozorilom preprečiti, da bi se to zgodilo še drugim otrokom.
Podjetje Character.ai zanika odgovornost, a je po javnem pritisku napovedalo, da mlajši od 18 let ne bodo več mogli neposredno komunicirati s klepetalnimi roboti.
Primer Sewella Garcie ni osamljen. BBC je v zadnjih mesecih poročal o več primerih mladih po svetu, ki so bili vpleteni v nevarne pogovore z umetno inteligenco, od seksualiziranih vsebin do spodbujanja samomorilnih misli.
Strokovnjaki opozarjajo, da trenutna zakonodaja ne dohaja razvoja tehnologije. Čeprav je britanski Zakon o spletni varnosti (Online Safety Act) že sprejet, še vedno ni jasno, ali in v kolikšni meri pokriva interakcije z umetno inteligenco, kot so klepetalni roboti.
Garcia je prepričana, da bi bil njen sin danes še živ, če aplikacije ne bi nikoli prenesel. "Videla sem, kako ugaša, poskušala sem mu pomagati, a mi je zmanjkalo časa," pravi.
