umetna inteligenca
Ponedeljek, 13. 7. 2026, 13.50
1 mesec
Umetna inteligenca v Evropski uniji
EU je sprejela pomemben kodeks, ki prinaša jasnejša pravila o uporabi umetne inteligence
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
0,21
Evropska komisija in Odbor za umetno inteligenco (AI Board) sta uradno potrdila Kodeks ravnanja glede preglednosti vsebin, ustvarjenih z umetno inteligenco.
Umetna inteligenca vse odločneje postaja del vsakdanjega življenja. Pomaga pri nastajanju besedil, fotografij, videoposnetkov in zvočnih posnetkov, pri čemer je že tako prepričljiva, da je neredko težko ugotoviti, ali jih je kakšno vsebino ustvaril človek ali računalnik. Prav zato Evropska unija uvaja pravila, ki naj bi povečala preglednost in okrepila zaupanje uporabnikov.
Evropska komisija in Odbor za umetno inteligenco (AI Board) sta uradno potrdila Kodeks ravnanja glede preglednosti vsebin, ustvarjenih z umetno inteligenco, so sporočili iz Agencije za komunikacijska omrežja in storitve Republike Slovenije (AKOS). Ta pomemben korak pri izvajanju evropskega Akta o umetni inteligenci (AI Act) podjetjem in drugim organizacijam ponuja praktičen način dokazovanja, da spoštujejo nova evropska pravila.
Zakaj so potrebna nova pravila za umetno inteligenco?
Umetna inteligenca postaja pomembno orodje ustvarjalcev vsebine, a jo žal uporabljajo tudi ustvarjalci globokih ponaredkov (deepfake), ki s tem lahko zavajajo javnost ali celo vplivajo na javno razpravo. Žal pa so takšni izdelki že tako kakovostni, da bralci in gledalci pogosto ne morejo več sami vedeti, ali je vsebina pristna in resnična ali ponarejena.
Prav zato Akt o umetni inteligenci določa obveznosti glede preglednosti. V določenih primerih morajo biti uporabniki jasno obveščeni, da je bila vsebina ustvarjena ali pomembno spremenjena z umetno inteligenco. Novi kodeks organizacijam pomaga te zahteve izpolniti na enoten in tehnično izvedljiv način.
Zakaj kodeks koristi ponudnikom vsebin ter bralcem in gledalcem?
Kodeks je prostovoljen, vendar ga je Evropska komisija po pozitivni oceni uradno priznala kot ustrezno orodje za dokazovanje skladnosti z določbami 50. člena Akta o umetni inteligenci. To pomeni, da se bodo ponudniki in uvajalci sistemov umetne inteligence nanj lahko sklicevali pri dokazovanju, da spoštujejo evropska pravila.
Ob tem je pomembno poudariti, da sam podpis kodeksa še ne pomeni samodejne skladnosti. Organizacije bodo morale nadzornim organom dokazati, da njegove določbe tudi dejansko izvajajo v praksi.
Komu je namenjen kodeks?
Kodeks je namenjen predvsem organizacijam, ki ustvarjajo ali spreminjajo besedila, slike, zvok ali videoposnetke z umetno inteligenco, razvijalcem oziroma ponudnikom sistemov za ustvarjanje globokih ponaredkov ter tistim, ki objavljajo z umetno inteligenco ustvarjena ali prirejena besedila o temah javnega interesa.
Osrednji namen kodeksa je omogočiti, da bo mogoče vsebine, ustvarjene z umetno inteligenco, prepoznati na zanesljiv in čim bolj standardiziran način. Predvideni so različni tehnični pristopi, med njimi digitalno podpisani metapodatki, zaščiteni podatki o izvoru vsebine, vodni znaki, standardizirane ikone ter različne tehnike za samodejno zaznavanje vsebin, ki jih je ustvarila ali spremenila umetna inteligenca. Posebna novost je tudi enoten nabor ikon z oznako AI, ki jih bodo lahko organizacije uporabljale za jasno označevanje vsebin, ustvarjenih ali prirejenih z umetno inteligenco.
Dva sklopa pravil za različne uporabnike
Kodeks je razdeljen na dva dela. Prvi je namenjen ponudnikom sistemov umetne inteligence, ki morajo zagotoviti, da je mogoče sintetične vsebine strojno prepoznati in jih zanesljivo odkriti.
Drugi del je namenjen organizacijam, ki takšne sisteme uporabljajo pri svojem delu. Zajema predvsem označevanje globokih ponaredkov ter besedil, ustvarjenih ali prirejenih z umetno inteligenco, kadar so namenjena obveščanju javnosti o zadevah javnega interesa. Organizacije se lahko odločijo za pristop k obema deloma kodeksa ali le k tistemu, ki ustreza njihovi dejavnosti.
Smernice Evropske komisije
Kodeks dopolnjujejo še smernice Evropske komisije, ki sicer še niso dokončne, vendar podrobneje pojasnjujejo, kako je treba razumeti obveznosti iz Akta o umetni inteligenci. Poleg pravil za ustvarjanje vsebin obravnavajo tudi druge vrste sistemov umetne inteligence, na primer virtualne pomočnike, avtomatizirane telefonske sisteme, sisteme za prepoznavanje čustev ter sisteme za biometrično kategorizacijo.
Smernice pojasnjujejo tudi razliko med globokimi ponaredki in običajnim urejanjem digitalnih vsebin ter odgovornost posameznih organizacij.
Kaj se zgodi, če organizacija kodeksa ne podpiše?
Podpis kodeksa ni obvezen. Organizacije lahko še vedno uporabljajo lastne tehnične in organizacijske rešitve za izpolnjevanje evropskih pravil, a bodo potem morale same dokazati, da njihove rešitve zagotavljajo primerljivo raven učinkovitosti, zanesljivosti, medsebojne združljivosti in robustnosti. To lahko pomeni zahtevnejše dokazovanje pred nadzornimi organi in podrobnejše preverjanje skladnosti.
Nasprotno pa bodo organizacije, ki bodo kodeks podpisale in ga tudi dejansko izvajale, lažje dokazovale izpolnjevanje svojih obveznosti. Upoštevanje kodeksa se lahko upošteva tudi kot olajševalna okoliščina pri morebitnem določanju višine globe ob morebitnih kršitvah.
Več preglednosti pomeni več zaupanja v umetno inteligenco
S potrditvijo kodeksa Evropska unija nadaljuje uresničevanje Akta o umetni inteligenci, katerega cilj je omogočiti varno in odgovorno uporabo umetne inteligence ob hkratni zaščiti uporabnikov.
Za večino ljudi spremembe ne bodo pomenile novih obveznosti, bodo pa v prihodnje lažje prepoznali, kdaj gledajo fotografijo, videoposnetek ali berejo besedilo, ki ga je ustvarila ali pomembno spremenila umetna inteligenca. Prav večja preglednost pa je eden ključnih pogojev, da bodo uporabniki digitalnim vsebinam tudi v prihodnje lahko zaupali.
