umetna inteligenca
Nedelja, 13. 9. 2026, 15.20
3 tedne, 6 dni
Musk in Altman podprla pozive k upočasnitvi razvoja umetne inteligence
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
2,27
Direktor podjetja OpenAI Sam Altman in ustanovitelj xAI Elon Musk sta v soboto podprla poziv direktorja podjetja Anthropic Daria Amodeija k upočasnitvi razvoja umetne inteligence. V zadnjem času se vse bolj krepijo tovrstna svarila in pozivi k bolj nadzorovanemu in odgovornemu razvoju teh tehnologij, ki bi lahko ušle izpod človeškega nadzora.
"Upočasniti moramo tempo, s katerim izboljšujemo zmogljivosti modelov umetne inteligence," je Dario Amodei v soboto zapisal v objavi na svoji spletni strani.
Amodeijeva opozorila
Kot je opozoril, se je razvoj umetne inteligence v zadnjih mesecih drastično pospešil, modeli umetne inteligence pa so postali sposobni samostojnega izboljševanja. "Če tega ne bomo nadzorovali, bi lahko razvoj prehitel našo sposobnost razumevanja in nadzora teh sistemov," je dodal.
Elon Musk in Sam Altman, ki vodita dve izmed največjih podjetij na področju umetne inteligence, sta se strinjala z njegovo oceno. "Dario ima prav," je ob deljenju Amodeijevega zapisa na omrežju X sporočil Musk. Altman je prav tako sporočil, da se strinja z direktorjem podjetja Anthropic, in dodal, da bi lahko OpenAI prav tako dopustil zunanji nadzor nad varnostjo tehnologije, ki jo razvija.
Amodei je svoje sporočilo objavil le nekaj dni po tem, ko je raziskovalec pri podjetju Anthropic Jacob Coxon napovedal odhod iz kalifornijskega zagonskega podjetja in ga obtožil podcenjevanja eksistencialnega tveganja, ki ga umetna inteligenca predstavlja za človeštvo.
Igranje s človeškimi življenji?
Coxon je v sredo opozoril, da vodilni razvijalci umetne inteligence ravnajo neodgovorno in se igrajo s človeškimi življenji. "Če ne bomo upočasnili sedanjega tempa napredka, menim, da obstaja velika verjetnost, da bomo v bližnji prihodnosti vsi umrli," pa je dejal v današnjem pogovoru za britanski BBC.
"Upočasniti moramo tempo, s katerim izboljšujemo zmogljivosti modelov umetne inteligence," je Dario Amodei v soboto zapisal v objavi na svoji spletni strani.
Altman je ob tem v petkovem intervjuju za revijo Fortune razkril, da namerava OpenAI načrtovan vstop na borzo preložiti vsaj do leta 2027. "Glede na vse, kar se dogaja na področju varnosti, bi bil zdaj neprimeren trenutek za vstop na borzo, v zvezi s tem ne čutimo pritiska," je dejal.
Tako OpenAI kot Anthropic, ki sta vredna več sto milijard dolarjev, sta letos junija vložila vlogi za prvo javno ponudbo delnic.
Donald Trump je danes ostro nastopil proti kritikom umetne inteligence, ki opozarjajo, da morajo podjetja upočasniti razvoj te tehnologije. Dejal je, da številne "zelo negativne sile" širijo nevarne trditve o umetni inteligenci, ki se ne bodo uresničile, ter poudaril, da želi zagotoviti, da ZDA ohranijo vodilni položaj v tej panogi.
"Smo tehnološko najbolj napredna država na svetu in iskreno povedano želim, da tako tudi ostane," je Trump dejal novinarjem v odgovoru na vprašanje, ali bi bilo treba razvoj umetne inteligence upočasniti ali strožje regulirati.
Kibernetski incident
Ameriško in svetovno javnost je nato julija pretreslo razkritje kibernetskega incidenta, v katerem so agenti umetne inteligence OpenAI na lastno pest vdrli v platformo Hugging Face. Sledilo je več podobnih razkritij, kar je sprožilo pomisleke glede varnosti, svarila in pozive k upočasnitvi razvoja naprednih modelov umetne inteligence.
Več kot tisoč zaposlenih v tehnološki industriji, tudi iz podjetij OpenAI in Anthropic, je podpisalo peticijo, s katero so pozvali ameriško vlado, naj podpre usklajeno upočasnitev razvoja umetne inteligence.
"Nevarnost je resnična"
"Teoretične skrbi glede umetne inteligence, ki se iztrga izpod človeškega nadzora, krožijo že desetletja, vendar nedavni dogodki kažejo, da je ta nevarnost resnična," je v petkovi kolumni za New York Times zapisal raziskovalni novinar Stephen Witt.
Altman je prav tako sporočil, da se strinja z direktorjem podjetja Anthropic, in dodal, da bi lahko OpenAI prav tako dopustil zunanji nadzor nad varnostjo tehnologije, ki jo razvija.
"Obstoj (Amodeijevega) pisma je prav tako presenetljiv kot sami hekerski napadi. (...) OpenAI in Anthropic beležita izjemne poslovne rezultate in hkrati pravzaprav prosita ameriško vlado, naj njuno delovanje čim prej uredi z zakonskimi predpisi. Česa podobnega še nismo videli," je dodal.
