umetna inteligenca
Četrtek, 20. 11. 2025, 17.00
3 ure, 27 minut
Forum ISR: Kdo si upa na letalo, ki ga upravlja umetna inteligenca?
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
0,03
"Če razvoja ne bomo razumeli in spremljali, nas bo prehitel," je danes opozoril strokovnjak za umetno inteligenco Marko Grobelnik. In prav ta boj s časom – med tehnološkim napredkom in človeško sposobnostjo, da ga dohiti – je bil v središču dogodka Napaka 404: Resnica ne obstaja, ki je potekal v prostorih Triglav LAB. Umetna inteligenca namreč ni več tema prihodnosti: že danes preureja trge dela, spreminja varnostne sisteme in briše mejo med resničnostjo in potvorbo. Sogovorniki so razpravljali, kako v obdobju pospešenega tehnološkega razmaha še prepoznati razliko med dejstvi in manipulacijo ter kakšno vlogo imajo pri krepitvi zaupanja v podatke podjetja iz finančne, zdravstvene, logistične in telekomunikacijske panoge.
Strokovnjak za umetno inteligenco z Instituta Jožef Stefan Marko Grobelnik je opozoril, da razvoj umetne inteligence napreduje hitreje, kot je večina pričakovala. "Na vseh nivojih družbe je nujen premislek o posledicah, ki jih prinaša izjemno hiter razvoj tehnologije. Družbene spremembe se dogajajo hitreje, kot se zdi, zato je nujno nenehno izobraževanje in razumevanje tehnologije ter razmišljanje o prekvalifikacijah in dokvalifikacijah ljudi na trgu dela," je poudaril.
Marko Grobelnik z Instituta Jožef Stefan je opozoril, da umetna inteligenca napreduje hitreje, kot jo zmorejo spremljati družba in regulatorji.
Umetna inteligenca po njegovih besedah danes ne avtomatizira več samo posameznih opravil, temveč že celotne poklice – od analitikov do voznikov – ob tem pa odpira vprašanja zaupanja, resničnosti in digitalne varnosti. Ob tem se ruši tradicionalni pogled na delo kot temelj preživetja, skupna družbena realnost pa razpada zaradi mehurčkov, deepfake vsebin in sintetične propagande. Kot je poudaril, je zdaj treba razmisliti o pogojih za možno redefinicijo družbene pogodbe. Med drugim je potreben premislek na vseh nivojih družbe, nujno je tudi izobraževanje in razumevanje te tehnologije.
Človek: največja ranljivost in ključni varnostni steber
V razpravi o varnosti podatkov je Maja Javoršek, direktorica Skladnosti poslovanja v Zavarovalnici Triglav, poudarila, da so podatki temelj poslovanja, zakonitosti in zaupanja. Hkrati ostaja dejstvo, da večino incidentov povzroči človek. Napake nastajajo zaradi neprevidnosti, radovednosti ali prezrtih opozoril, človek pa je tako največje tveganje in obenem najpomembnejši varnostni steber. Po njenem mnenju varnostna kultura temelji na rednem izobraževanju, ozaveščanju, simulacijah napadov ter preprostih in razumljivih pravilih.
Kibernetski napadi ne čakajo jutra
Dalibor Vukovič, strateški vodja za kibernetsko varnostne rešitve na Telekomu Slovenije, je predstavil primer nočnega napada na slovensko proizvodno podjetje, pri katerem so napadalci z ukradenimi podatki prodrli v omrežje, a je hiter in ustrezen odziv preprečil milijonsko škodo. Opozoril je, da se kibernetske grožnje najpogosteje pojavijo ponoči ali med prazniki, podjetja pa napada pogosto sploh ne zaznajo pravočasno. Poudaril je, da napadalci napredujejo hitreje kot obrambne tehnologije, zato je kibernetska zaščita nujna, tudi na telefonih, ki so pogosto najbolj izpostavljeni.
Sogovorniki so opozorili, da bo brez znanja, odgovornosti in kritične presoje tehnologija namesto ljudi začela sprejemati ključne odločitve.
Pomočnik uprave NLB, pristojen za področje podatkov in umetne inteligence, Franc Bračun, je opozoril, da ljudje tehnologiji pogosto zaupamo bolj, kot bi smeli, kar povečuje tveganja. Kot je dejal, je prvi korak k varnosti sistemska in tehnična zaščita, drugi korak pa zagotavljanje, da ključne odločitve sprejema človek ne pa umetna inteligenca. “Kdo bi si danes upal na letalo, ki ga ne upravlja človek, ampak naprava?“ je ponazoril.Tretji element je izobraževanje, ki je temelj pri gradnji odpornosti.
Dogodek Napaka 404 je zbral strokovnjake, ki so razpravljali o tem, kako umetna inteligenca preoblikuje naše delo, varnost in razumevanje resničnosti.
Dogodek je sklenila okrogla miza Omrežje razpršenih idej, na kateri sta poleg Maje Javoršek in Daliborja Vukoviča sodelovali še pomočnik uprave NLB, pristojen za področje podatkov in umetne inteligence, Franc Bračun in direktor za IKT-rešitve pri Pošti Slovenije Slavko Ovčina.
Ko hitrost tehnologije preseže hitrost razumevanja
Dogodek je pokazal, da umetna inteligenca ni več vprašanje prihodnosti, temveč vsakdana – in da se bodo morali tako posamezniki kot podjetja njenim posledicam prilagajati hitreje, kot smo vajeni. Čeprav tehnologija prinaša številne priložnosti, so sogovorniki poudarili, da bo tudi v dobi algoritmov odločilno ostalo tisto, kar je najbolj človeško: znanje, kritična presoja in odgovorno ravnanje s podatki. Umetna inteligenca lahko pospeši procese, ne more pa nadomestiti zavedanja, da je varnost – tako digitalna kot družbena – vedno odvisna od ljudi.
