EU še korak bližje sprejetju zgodovinskega zakona

Osrednji cilj zakona o umetni inteligenci (EU AI Act) je spodbujati uporabo na človeka osredotočene in zaupanja vredne umetne inteligence ter hkrati ščititi temeljne pravice državljanov in vrednote Evropske unije. Z drugimi besedami - preprečiti, da bi bila umetna inteligenca zlorabljena v škodo državljanov EU oziroma jim celo predstavljala nevarnost.

Zakon med drugim določa prepoved uporabe umetne inteligence na področjih, kot so biometrija oziroma, natančneje, biometrični nadzor ljudi, naj gre za identifikacijo ljudi v javnih prostorih ali za kategorizacijo ljudi glede na spol, raso, etnično pripadnost in tako naprej, prepoznavanje čustev in napovedni policijski sistemi (na podlagi profiliranja, lokacije ali preteklega kaznivega ravnanja).

Novice Urednica, ki je objavila izmišljen intervju s Schumacherjem, ostala brez službe

Zakon o umetni inteligenci prav tako prepoveduje neciljno prenašanje podob obraza z interneta ali posnetkov nadzornih kamer za vzpostavitev podatkovnih zbirk za prepoznavanje obrazov, obenem pa med visoko tvegane uvršča tudi sisteme umetne inteligence, ki lahko vplivajo na volivce.

Po drugi strani zakon umetne inteligence ne vidi zgolj kot grožnje, temveč tudi priložnost za napredek, saj spodbuja inovacije na področju umetne inteligence v dobro državljanov EU.

Končna oblika nove evropske zakonodaje o umetni inteligenci bo določena po pogovorih s posamičnimi državami članicami EU. Predvidena je sicer tudi ustanovitev urada EU za umetno inteligenco, ki bo nadziral izvajanje določil zakona in zagotavljal spoštovanje pravic državljanov Evropske unije.

Novice Umetna inteligenca bo napovedovala poplave za Slovenijo

Evropska poslanka Irena Joveva po današnjem glasovanju v Evropskem parlamentu:

Foto: STA ,
"Razvoj umetne inteligence, ki je v zadnjem obdobju s ponudbo ChatGPT in drugimi storitvami umetne inteligence na trgu postal ena od glavnih tem v javni razpravi, eksponentno raste na različnih področjih, Evropska unija pa je kot prva na svetu pravočasno pripravila uredbo, ki postavlja jasne meje dovoljenih praks za preprečitev morebitnih zlorab človekovih pravic in svoboščin prebivalstva, bodisi s popolno prepovedjo najbolj občutljive možnosti uporabe bodisi z jasnimi zahtevami za t. i. visoko tvegane aplikacije te tehnologije.

Umetna inteligenca že zdaj korenito spreminja različna področja in brez dvoma ima potencial za dvig produktivnosti in odpiranje novih možnosti, vendar je treba zagotoviti, da bodo te tehnologije uporabljene etično in na način, da jim lahko zaupamo. Biometrični nadzor in kategorizacija prebivalstva, t. i. predikativno določanje obnašanja, manipulacije demokratičnega diskurza, nebrzdana uporaba za represijo nad ljudmi z umetno inteligenco … vse to je žal že pogosta praksa v nekaterih državah, kar pa se v EU preprosto ne sme dogajati.

Prav tako pomembna poudarka sta varstvo zasebnosti in podatkov prebivalstva ter preprečitev t. i. pristranskosti teh sistemov za ranljive skupine ali prepoznavanja čustev in socialnega položaja. Podprla sem tudi dopolnilo za prepoved umetnointeligenčnih sistemov za namene odkrivanja, spremljanja ali analize vedenja fizičnih oseb ali njihovih skupin v javno dostopnih prostorih na daljavo. Želim si, da zakonodaja kar najhitreje stopi v veljavo za zaščito pravic prebivalstva, hkrati pa priskrbi potrebno pravno jasnost za podjetja, ki te tehnologije razvijajo."