Strokovnjak pri OpenAI: Izguba nadzora nad UI bi lahko bila katastrofalna. Umrla bi lahko večina ljudi.

V izjavi o svoji novi vlogi pri OpenAI je Paul Christiano spregovoril o grožnji, ki jo predstavlja umetna inteligenca, in opozoril, da so ljudje v neposredni nevarnosti, da izgubijo nadzor nad sistemi umetne inteligence.

NEW 🚨 Anthropic researcher Jacob Coxon: "There is a very real possibility that in the immediate future—these are years, like next year, the year after—recursive self-improvement will happen.. and we’ll enter the phase where there’s a chance we could all die. That is coming… pic.twitter.com/9C0zSZRqSI

— Insider Paper (@TheInsiderPaper) September 10, 2026

Christiano: Industrija umetne inteligence ni na dobri poti, vključno z OpenAI

"Glede na nedavni razvoj zmogljivosti zdaj verjamem, da obstaja smiselno tveganje, da bo hitro pospeševanje zmogljivosti umetne inteligence v bližnji prihodnosti privedlo do katastrofalne in nepopravljive izgube nadzora," je zapisal Christiano. "Mislim, da industrija umetne inteligence na splošno, vključno z OpenAI, trenutno ni na dobri poti, da bi to tveganje zmanjšala na sprejemljivo raven."

Preden se je Christiano pridružil upravnemu odboru in odboru za varnost in zaščito je vodil raziskave usklajevanja pri OpenAI in delal za zvezno vlado kot vodja varnosti v Centru za standarde in inovacije umetne inteligence v okviru Nacionalnega inštituta za standarde in tehnologijo.

Novice Kako bo umetna inteligenca prizadela trg dela v Evropi? V letu 2026 ob službo več kot 85 milijonov ljudi.

V sredo je dejal, da njegova pridružitev OpenAI "ni potrditev ali kritika varnostnih praks OpenAI", upa pa, da bodo vsi mejni laboratoriji izboljšali svoj varnostni nadzor. Dejal je tudi, da bi zmanjšanje tveganj, ki jih predstavlja umetna inteligenca, zahtevalo usklajevanje po vsem svetu.

Ko ljudje napredovanja UI ne morejo več nadzorovati 

Raziskovalci umetne inteligence so dosledno opozarjali na tveganja, ki jih predstavljata superinteligenca in singularnost, izraz, ki se uporablja za označevanje točke, ko sistemi umetne inteligence presegajo človeško inteligenco, se izboljšujejo in napredujejo s hitrostjo, ki je ljudje ne morejo več napovedati ali nadzorovati. Izvršni direktor OpenAI Sam Altman je julija dejal, da je singularnost že nastopila.

Izvršni direktor OpenAI Sam Altman je julija dejal, da je singularnost že nastopila. Foto: Guliverimage

Podjetja se še lahko rešijo 

Christiano je dejal, da meni, da je tveganje izgube nadzora nad umetno inteligenco trenutno tako veliko zaradi naraščajočih sposobnosti umetne inteligence pri raziskavah umetne inteligence, kar bi po njegovih besedah ​​lahko privedlo do "hitre eksplozije inteligence".

Dodal je, da imajo podjetja še vedno možnost, da rešijo situacijo, vključno z izboljšanjem koordinacije, upočasnitvijo razvoja po potrebi, sprejetjem standardov varnosti delitve in preglednim deljenjem informacij o tveganjih in prizadevanjih za njihovo ublažitev.

Coxon: Igrajo se z našimi življenji 

Njegova izjava je prišla manj kot dan po tem, ko je drug raziskovalec umetne inteligence Jacob Coxon delil grozljivo opozorilo o umetni inteligenci. Coxon, antropološki raziskovalec, ki je prej delal pri OpenAI, je v torek zvečer dejal, da je odstopil s svojega položaja in da nobeno od podjetij ne deluje odgovorno. "Hitijo naravnost k samoizboljševanju superinteligence in se igrajo z našimi življenji," je zapisal na X.

OpenAI je v preteklih letih izgubil tudi več raziskovalcev varnosti, saj nekateri dvomijo o zavezanosti podjetja varnemu razvoju umetne inteligence.

Novice Vaš dom bo vedel, kaj potrebujete, še preden mu boste to povedali

Novice Ameriški nakupi nemških podjetij, ki imajo ključna znanja. Kaj se dogaja?

Novice Rončević ustavil razpis za nacionalno platformo umetne inteligence

Novice "To je zadnja priložnost za Evropo, sicer bo prepozno"