Nazaj na Siol.net

TELEKOM SLOVENIJE

Torek,
2. 9. 2025,
18.00

Osveženo pred

4 ure, 59 minut

Termometer prikazuje, kako vroč je članek.

Termometer prikaže, kako vroč je članek.

Thermometer Blue 0,01

Natisni članek

Natisni članek

OpenAI nadzor starši chatGPT

Torek, 2. 9. 2025, 18.00

4 ure, 59 minut

ChatGPT bo omogočil starševski nadzor

Termometer prikazuje, kako vroč je članek.

Termometer prikaže, kako vroč je članek.

Thermometer Blue 0,01
ChatGPT | V podjetju so poudarili, da je ChatGPT usposobljen, da uporabnikom, ki izražajo samomorilske namere, priporoči, naj se za pomoč obrnejo na strokovnjake. Po lastnih navedbah pa so ugotovili, da se kljub temu in drugim varnostnim mehanizmom robot v občutljivih situacijah ni obnašal, kot bi se moral. Varnostni mehanizmi namreč najbolje delujejo v kratkih izmenjavah, v dolgih pa lahko odpovejo, so izpostavili. | Foto Shutterstock

V podjetju so poudarili, da je ChatGPT usposobljen, da uporabnikom, ki izražajo samomorilske namere, priporoči, naj se za pomoč obrnejo na strokovnjake. Po lastnih navedbah pa so ugotovili, da se kljub temu in drugim varnostnim mehanizmom robot v občutljivih situacijah ni obnašal, kot bi se moral. Varnostni mehanizmi namreč najbolje delujejo v kratkih izmenjavah, v dolgih pa lahko odpovejo, so izpostavili.

Foto: Shutterstock

Klepetalni robot na osnovi umetne inteligence ChatGPT bo v nekaj mesecih dobil možnost starševskega nadzora, so danes sporočili iz ameriškega tehnološkega podjetja OpenAI, ki stoji za robotom. Odločitev sledi tožbi, ki sta jo proti podjetju vložila starša 16-letnika iz Kalifornije, ker ChatGPT krivita za sinov samomor.

"V prihodnjih mesecih bodo starši dobili možnost povezati svoj račun z računom svojega najstnika. S pravili, prilagojenimi starosti uporabnika, bodo lahko nadzirali, kako se ChatGPT odziva njihovemu najstniku," so pri OpenAI po poročanju francoske tiskovne agencije AFP zapisali v objavi na svojem blogu.

ChatGPT bo staršem prav tako pošiljal obvestila, ko bo zaznal, da je njihov otrok "v hudi stiski". "Še naprej izboljšujemo način, kako naši modeli prepoznavajo in se odzivajo na znake duševne in čustvene stiske," so dodali v podjetju.

ChatGPT najstnika pognal v smrt

Starša 16-letnika iz Kalifornije, ki je storil samomor, sta prejšnji teden na zveznem sodišču te ameriške zvezne države vložila tožbo proti OpenAI, ker naj bi ChatGPT njunemu sinu dal navodila za samomor in ga k njemu spodbudil.

najstnik, AI
Novice Ameriški najstnik storil samomor. Starša krivita ChatGPT.

Zahtevata nedoločeno odškodnino, sodišče pa pozivata, naj določi varnostne ukrepe, vključno s samodejnim končanjem pogovorov, ki vključujejo samopoškodovanje, in starševskim nadzorom za mladoletne uporabnike.

Priznali so napake

OpenAI je prejšnji teden priznal, da njihov klepetalni robot dela napake v občutljivih primerih, in obljubil spremembe. V podjetju so poudarili, da je ChatGPT usposobljen, da uporabnikom, ki izražajo samomorilske namere, priporoči, naj se za pomoč obrnejo na strokovnjake.

Po lastnih navedbah pa so ugotovili, da se kljub temu in drugim varnostnim mehanizmom robot v občutljivih situacijah ni obnašal, kot bi se moral. Varnostni mehanizmi namreč najbolje delujejo v kratkih izmenjavah, v dolgih pa lahko odpovejo, so izpostavili.

ChatGPT, Gemini, Claude, Perplexity
Novice Vrtoglavi prihodki mobilne aplikacije ChatGPT
umetna inteligenca chatgpt
Novice Kako je ChatGPT spravil moškega v psihiatrično bolnišnico
Ne spreglejte