umetna inteligenca
Petek, 3. 7. 2026, 4.00
2 tedna, 5 dni
Znanstvenike skrbi, da se bo ponovil Černobil
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
6,01
Kaj je imel v mislih ameriški znanstvenik, ki je umetno inteligenco primerjal s Černobilom, je jasno – ne zgolj katastrofe, ki bi jo lahko povzročila tehnologija, temveč morda usoden vpliv na mnenje javnosti o umetni inteligenci, kar bi lahko zavrlo njen nadaljnji razvoj in širitev.
Ameriški in kitajski računalniški znanstveniki svarijo, da industrija umetne inteligence v primeru nadaljevanja tako rekoč nebrzdanega razvoja tehnologije brez ustreznih varnostnih mehanizmov, ki bi preprečevali zlorabe oziroma omogočanje uporabe umetne inteligence v škodo človeštva, tvega ogromno katastrofo, katere posledice bi bile primerljive s posledicami jedrske nesreče v Černobilu.
"Nočemo černobilskega trenutka"
"Stvar, o kateri se strinjajo tako rekoč vsi, ki delajo na področju umetne inteligence, je dejstvo, da umetna inteligenca ne potrebuje svojega tako imenovanega černobilskega trenutka," je prejšnji teden na tehnološki konferenci v Pekingu, ki jo je organizirala kitajska akademija za umetno inteligenco, dejal ameriški znanstvenik z univerze MIT Stephen Casper.
Eno od glavnih sporočil konference, na kateri so bili zbrani predvsem kitajski in ameriški znanstveniki in računalniški inženirji, ki delajo na področju umetne inteligence, je bilo predvsem poudarjanje kibernetskih in sistemskih tveganj, ki jih prinaša tako rekoč nebrzdan razvoj nove tehnologije, piše medij Wired.
Skoraj tradicionalen strah, da bodo znanstveniki kmalu razvili umetno inteligenco, ki bo pametnejša od ljudi in ki bo to dejstvo uporabila za zasužnjenje ali iztrebljenje človeške rase, morda celo nehote, je v zadnjem obdobju zamenjala bolj realistična skrb, da bi bila umetna inteligenca lahko zlorabljena za izvedbo katastrofalnih in množičnih kibernetskih napadov.
Tako Kitajci kot Američani so se po navedbah tehnološkega medija na konferenci strinjali, da bi vse bolj sposobni inteligenčni modeli lahko povzročili globalni kaos, če velesile, ki razvijajo umetno inteligenco, ne sedejo za mizo in začnejo sodelovati.
Jasno je, kaj je mislil s Černobilom
Ameriški znanstvenik Stephen Casper se sicer ni podrobneje poglabljal v analogijo, v kateri je umetno inteligenco primerjal s Černobilom, a je jasno, kaj je imel v mislih – ne zgolj katastrofe, ki bi jo lahko povzročila tehnologija, temveč morda usoden vpliv na mnenje javnosti o umetni inteligenci, kar bi lahko zavrlo njen nadaljnji razvoj in širitev.
Letos je minilo natanko 30 let od katastrofalne nesreče v jedrski elektrarni Černobil na območju Ukrajine. Radioaktivni oblak se je na zahod, sever in severovzhod Evrope širil kar dva dni, v takratni Sovjetski zvezi pa so zgodovinski incident prikrivali, dokler ni ponorel opozorilni sistem v jedrski elektrarni Forsmark na Švedskem, ki je od Černobila oddaljena skoraj 1.300 kilometrov. V Sloveniji smo za širjenje radioaktivnega oblaka izvedeli, šele ko se je ta že razlezel tudi čez naše nebo, vendar hujših posledic ni bilo.
Globalna naklonjenost jedrski energiji je po 26. aprilu 1986, ko se je zgodila jedrska nesreča v Černobilu, namreč močno padla, nasprotniki gradnje novih jedrskih elektrarn (ali celo obratovanja obstoječih) pa Černobil pogosto še vedno omenjajo kot enega glavnih argumentov proti.
Kakšni scenariji skrbijo znanstvenike?
Skoraj tradicionalen strah, da bodo znanstveniki kmalu razvili umetno inteligenco, ki bo pametnejša od ljudi in ki bo to dejstvo uporabila za zasužnjenje ali iztrebljenje človeške rase, morda celo nehote (primer), je v zadnjem obdobju zamenjala bolj realistična skrb, da bi bila umetna inteligenca lahko zlorabljena za izvedbo katastrofalnih in množičnih kibernetskih napadov.
Znanstveniki verjamejo, da bo umetna inteligenca sčasoma vendarle pomagala okrepiti globalno kibernetsko varnost, a nevarno bo predvsem prehodno obdobje, ko jo bodo hekerji poskusili zlorabiti in še ne bo povsem jasno, kakšen razpon tveganj lahko povzroči.
Umetnointeligenčni modeli so namreč vse boljši ne le v programiranju, temveč tudi v odkrivanju varnostnih lukenj in ranljivosti v informacijskih sistemih – podjetje Anthropic, denimo, je pred kratkim celo posvarilo, da bi bil njihov novi model Claude Mythos v napačnih rokah tako nevaren, da ga ne upajo objaviti javno, saj bi lahko vdrl v tako rekoč vsak operacijski sistem in vsak spletni brskalnik.
Znanstveniki še opozarjajo, da tveganje dodatno povečujejo tako imenovani odprtokodni umetnointeligenčni modeli, ki so brezplačni za uporabo in zelo priljubljeni predvsem med programerji, saj ti lahko vidijo v njihovo "drobovje" – kako so narejeni –, a so pogosto razviti brez varnostnih protokolov, ki so praviloma del razvojnega procesa pri velikih komercialnih umetnointeligenčnih modelih.
Kitajska tehnološka podjetja so prav zaradi skrbi, da bi kiberkriminalci predelali in zlorabili njihove umetnointeligenčne modele, te povečini prenehala izdajati v odprtokodnih različicah. Na fotografiji Peking.
Precejšnja dostopnost umetnointeligenčnih agentov tudi pomeni, da bi se kibernetskih napadov lahko lotevali tudi nadobudni hekerji, ki sicer nimajo dovolj znanja za takšne podvige.
