umetna inteligenca
Četrtek, 25. 9. 2025, 7.43
1 ura, 13 minut
Pirc Musar pozvala k preglednosti in zaupanju med državami glede umetne inteligence
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
0,01
Umetna inteligenca ni vstopila samo na bojišče. Njena zloraba – bodisi v obliki kibernetskih napadov, širjenja njene uporabe v terorizmu in organiziranem kriminalu – dodatno zaostruje grožnje mednarodnemu miru in varnosti," je dejala Nataša Pirc Musar.
Predsednica Nataša Pirc Musar je na sredinem zasedanju Varnostnega sveta ZN na temo umetne inteligence pozvala generalnega sekretarja ZN Antonia Guterresa, naj redno poroča o razvoju, Varnostni svet pa naj ima redne razprave o umetni inteligenci. Pri tem je poudarila pomen preglednosti in zaupanja med državami.
Predsednica je opozorila na naraščanje digitalizacije vojskovanja, saj so sodobne vojne postale testna polja za vojaško uporabo novih tehnologij. "Vojaki na terenu lahko zagrešijo strašne zločine proti drugim. Nekatere med njimi morda sčasoma začne preganjati slaba vest. Algoritmi, oboroženi droni in roboti pa nimajo vesti," je dejala.
Pretiravanje nikoli ne prinese nič dobrega
"Kot pri številnih drugih stvareh tudi glede umetne inteligence velja, da pretiravanje nikoli ne prinese nič dobrega. Pretirano zanašanje na umetno inteligenco poraja dvom o naši sposobnosti razmišljanja," je dejala.
Sodelovala sem na odprti razpravi Varnostnega sveta o umetni inteligenci ter mednarodnem miru in varnosti.
— Nataša Pirc Musar (@nmusar) September 24, 2025
Varnostni svet kot ključni organ za ohranjanje miru in varnosti mora prevzeti aktivno vlogo tudi pri vprašanju umetne inteligence. Zato se Slovenija pridružuje pozivom… pic.twitter.com/UeA7ZGviGD
Izrazila je podporo razpravam v ZN glede uporabe smrtonosnih avtonomnih oborožitvenih sistemov in opozorila na tri največja tveganja – olajšanje sodelovanja v vojnah, omejitev raziskav na razvoj orožja in zmanjšanje človekove odgovornosti pri odločanju.
"Umetna inteligenca ni vstopila samo na bojišče. Njena zloraba – bodisi v obliki kibernetskih napadov, širjenja njene uporabe v terorizmu in organiziranem kriminalu – dodatno zaostruje grožnje mednarodnemu miru in varnosti," je dejala.
Svet na pomembni prelomnici
Slovenija bi podprla konkretne ukrepe Varnostnega sveta na podlagi zaveze, da mora odločanje o umetni inteligenci temeljiti na mednarodnem pravu ter na etičnih načelih, je dejala. Dodala je, da morajo človekove dolžnosti in odgovornosti ostati v središču prizadevanj držav in mednarodne skupnosti. Pri tem pa sta potrebni preglednost in medsebojno zaupanje.
Posebno odprto zasedanje v času splošne razprave svetovnih voditeljev na 80. zasedanju Generalne skupščine ZN je pripravila predsedujoča v septembru Južna Koreja. Vodil ga je predsednik Lee Jae Myung, poročali pa so Guterres, profesor z univerze Montreal Yoshua Bengio in profesorica računalništva na univerzi Stanford Yejin Choi, ki je dejala, da je svet na pomembni prelomnici.
Opozorila je, da umetna inteligenca pospešuje znanstvena odkritja – od napredka v medicini do raziskovanja naravnega sveta – in širi obzorja človeškega znanja, vendar pa najnaprednejše modele gradi le peščica podjetij v le nekaj državah. "Ta koncentracija v rokah peščice oži tako našo znanost kot tudi krog tistih, ki jo oblikujejo," je dejala.
"Tehnologija umetne inteligence lahko preseže človeške kognitivne zmogljivosti v od petih do desetih letih"
Bengio je dejal, da lahko tehnologija umetne inteligence preseže človeške kognitivne zmogljivosti v od petih do desetih letih in znanstveniki še vedno ne vedo, kako oblikovati umetno inteligenco, da ne bo škodovala ljudem in bo sledila navodilom.
"Če ne zgradimo zaupanja vredne umetne inteligence, bo človeštvo izpostavljeno grožnji," je dejal in pozval k ukrepom za povečanje nadzora.
Gutters: Inovacije morajo služiti človeštvu, ne pa ga ogrožati
Guterres je pozval k odgovorni uporabi umetne inteligence, ki lahko pomaga pri boju proti lakoti, minam in pri preprečevanju vojn, vendar pa lahko brez zaščitnih ukrepov postane tudi orožje.
"Inovacije morajo služiti človeštvu, ne pa ga ogrožati," je dejal in spomnil, da je Generalna skupščina prejšnji mesec ustanovila neodvisno mednarodno znanstveno komisijo za umetno inteligenco in letni globalni dialog o upravljanju umetne inteligence.
Predstavnik Rusije je dejal, da če se sedanje stopnje rasti nadaljujejo, bi lahko industrija umetne inteligence do leta 2030 svetovnemu gospodarstvu prispevala do 15.700 milijard dolarjev. "Vendar pa ima umetna inteligenca po podatkih Mednarodnega denarnega sklada (IMF) potencial, da prevzame skoraj 40 odstotkov delovnih mest po vsem svetu," je dejal.
Predstavnik ZDA pa je odločno zavrnil vsa prizadevanja mednarodnih organov za uveljavitev centraliziranega nadzora v globalnem upravljanju umetne inteligence.
"Odgovorno širjenje umetne inteligence bo pomagalo utreti pot k večji produktivnosti in revolucijam v znanstvenem napredku in prekomerna regulacija bi inovacije zadušila in povečala nevarnost, da se bodo ta orodja uporabljala za tiranijo," je dejal.
