"Vztrajati moramo pri tem, da umetna inteligenca ne odloča namesto nas!"

Kognitivna umetna inteligenca posnema človeške možganske funkcije in dejanja, kot so razmišljanje, reševanje nalog in učenje. V ta namen uporablja različne tehnologije, ki so skupne tradicionalni umetni inteligenci, a v primerjavi z njo lahko obravnava zahtevnejše ter manj napovedljive izzive in situacije. Lahko (tudi množično) vsebino prilagaja osebnim preferencam, vedenju in celo čustvenim stanjem, ki jih sproti zaznava.

Toda kaj pa, ko napovedovanje misli preraste v oblikovanje? Kaj dobrega nam lahko prinese kognitivna umetna inteligenca? Na kaj moramo biti pozorni? To so le nekatera vprašanja, ki smo jih ob robu konference o kibernetski varnosti Kaspersky Horizons v Rimu zastavili avstralski strokovnjakinji iranskega rodu, ki ima glede te tematike za vsakogar od nas, zlasti pa za voditelje, pomembno svarilo za ohranjanje in varovanje kognitivne svobode.

Z Noushin Shabab smo se pogovarjali ob robu konference o računalniški varnosti Kaspersky Horizons v Rimu, kjer je bila ena izmed predavateljic. Foto: Darko Natalić

Kako bi v najbolj preprostih besedah razložili, kaj kognitivna umetna inteligenca sploh je?

Kognitivna umetna inteligenca je nova tehnologija, ki lahko pomaga napovedovati vedenje ljudi. Za človeštvo ima lahko številne koristi. Pomaga lahko v izobraževanju, pri delu z učenci, ki potrebujejo posebno podporo in prilagojene načine učenja.

Ko govorimo o kognitivni umetni inteligenci, kaj je po vaši oceni najpomembnejše, kar moramo zdaj vedeti o njej?

Predvsem to, da imamo opravka z novo tehnologijo, ki še ni bila dovolj raziskana, ki še ni zelo razširjena in ki ustvarja nekatere pomisleke.

Pravzaprav večina ljudi zanjo sploh ne ve.

Iskreno, točno tako. O njej se še ne govori veliko v javnosti in je pravzaprav še niso uporabljali v večjem obsegu. Toda kot pri vsaki drugi tehnologiji tudi tukaj obstajajo tveganja. To je zelo pomembna in občutljiva tehnologija, ker obdeluje občutljive informacije in se ukvarja s tem, kar nas dela ljudi. Gre za vzorce našega vedenja, psihološka stanja in vedenjske vzorce. To je zelo občutljivo področje, zato je pomembno, da razumemo tveganja, smo pripravljeni nanje ter pravočasno razmišljamo o regulaciji in politikah, ki jih moramo vzpostaviti – predvsem za trenutek, ko bo ta tehnologija postala široko dostopna in bo seveda lahko prišla tudi v roke slabonamernih ljudi.

Kaj so največje pričakovane koristi kognitivne umetne inteligence?

Lahko deluje kot poseben pomočnik. Veliko lahko pomaga tudi zdravstvenemu sektorju pri razumevanju simptomov ljudi z določenimi stanji ter jim pomaga hitreje in učinkoviteje kot tradicionalni pristopi. Pomaga lahko tudi podjetjem pri zagotavljanju storitev in posameznikom, ki uporabljajo družbena omrežja ali spletne storitve. Danes je lahko kognitivna umetna inteligenca zelo koristna pri iskanju informacij ali storitev na spletu, saj ljudem pomaga hitreje najti tisto, kar iščejo.

Toda zagotovo prinaša tudi tveganja ...

Kar zadeva tveganja, obstajajo štiri glavne kategorije tveganj, povezanih z razvojem kognitivne umetne inteligence. Prva je na področju socialnega inženiringa, ki lahko postane veliko učinkovitejši in naprednejši, kot smo ga poznali doslej.

"Kognitivna umetna inteligenca je zelo občutljivo področje, zato je pomembno, da razumemo tveganja, smo pripravljeni nanje ter pravočasno razmišljamo o regulaciji in politikah, ki jih moramo vzpostaviti – predvsem za trenutek, ko bo ta tehnologija postala široko dostopna in bo seveda lahko prišla tudi v roke slabonamernih ljudi." Foto: Srdjan Cvjetović

Kako bi najpreprosteje pojasnili, kaj je socialni inženiring?

Socialni inženiring je vrsta napada, pri katerem vas nekdo poskuša zavesti in pripraviti do dejanja, ki vam lahko škoduje. Na primer telefonska prevara, ko vas nekdo pokliče in reče, da je vaš otrok v nevarnosti in da morate poslati denar. Nekaj, kar vam je blizu in vas čustveno zadeva, se dotakne vaših občutljivih točk. Posledično lahko naredite nekaj, kar vam škodi – na primer razkrijete bančne podatke ali nakažete denar prevarantu. To je socialni inženiring.

Kako lahko to kognitivna umetna inteligenca še poslabša?

Napadalcem omogoča boljše razumevanje vašega duševnega stanja in življenjskega konteksta. Ne gre več za naključen klic z zgodbo, da je vaš otrok v bolnišnici. Zaradi podatkov, ki jih imajo hekerji o vaši družini, je napad lahko bolje usmerjen. Scenarij je lahko veliko bolj realističen in prepričljiv. To je prvo tveganje.

Kaj pa drugo?

Vplivanje na javno mnenje in ogrožanje demokracije. To je drugačne narave, saj ne gre nujno za neposreden vpliv na posameznika, temveč za način, kako lahko ti sistemi oblikujejo javno mnenje s priporočanjem določene vsebine namesto druge. Ker vedo, kaj vas zanima, lahko krepijo vaše obstoječe predsodke in pristranskosti. Če vas zanima določena plat zgodbe, vam bodo prikazovali predvsem to plat. Prikazovali vam bodo vsebine, ki potrjujejo vaše prepričanje, medtem ko bodo ljudem z drugačnim pogledom prikazovali povsem nasprotne vsebine.

Kam to lahko pripelje?

Tako se dogaja razslojevanje družbe. Če bi takšne metode uporabljali zlonamerni akterji v informacijskem bojevanju, bi lahko videli veliko hujše posledice in širjenje propagande.

"Socialni inženiring je vrsta napada, pri katerem vas nekdo poskuša zavesti in pripraviti do dejanja, ki vam lahko škoduje. Na primer telefonska prevara, ko vas nekdo pokliče in reče, da je vaš otrok v nevarnosti in da morate poslati denar. Nekaj, kar vam je blizu in vas čustveno zadeva, se dotakne vaših občutljivih točk." Foto: Srdjan Cvjetović

Torej učinkovitejša propaganda.

Da, lahko bistveno poveča učinkovitost propagande.

In tretja kategorija tveganj?

Tretje tveganje so ciljno usmerjene spletne zlorabe in nadlegovanje. Žal smo že videli številne primere ljudi, ki so bili tarča spletnega nadlegovanja. S pomočjo kognitivne umetne inteligence je veliko lažje povezovati podatke iz različnih virov ter posameznika prizadeti na bolj oseben in boleč način. Sistemi lahko razumejo tudi vaše čustveno stanje – ali ste pod stresom, nervozni ali negotovi glede nečesa. To ranljivost lahko izkoristijo proti vam.

Na primer za izsiljevanje.

Tako je, tudi za izsiljevanje.

"Žal smo že videli številne primere ljudi, ki so bili tarča spletnega nadlegovanja. S pomočjo kognitivne umetne inteligence je veliko lažje povezovati podatke iz različnih virov ter posameznika prizadeti na bolj oseben in boleč način" Foto: Srdjan Cvjetović

Kaj pa četrta kategorija tveganj?

Ta je bolj tehnološke narave. Govorimo o napredku tehnologij, ki spremljajo dejavnost naših možganov, o možgansko-računalniških vmesnikih (Brain-Computer Interface). To ni povsem nova tehnologija, je pa še vedno v zgodnji fazi razvoja.

V medicini pa lahko dela čudeže.

Točno tako. Že danes obstajajo primeri in poskusi podjetij, ki razvijajo takšne naprave in pomagajo pacientom, ki ne morejo govoriti, da lahko izrazijo svoje misli. Sistem je povezan z možgani prek vsadka na površini možganov. Lahko zazna, ali želi pacient premakniti roko ali nekaj povedati. Te namere se lahko pretvorijo v besedilo na zaslonu, sistem pa lahko ugotovi, kaj pacient potrebuje. To se že dogaja, vendar se tveganje pojavi, ko bodo te naprave postale bolj izpopolnjene in razširjene ter povezane s pametnimi napravami.

Kako?

Predstavljajte si, da pacient ne upravlja le zaslona za komunikacijo, ampak z mislimi prižge luč ali odklene vrata. To odpira nove možnosti za napadalce, ki bi lahko izkoristili tehnične ranljivosti v napravi, vmesniku, povezavi s pametnimi sistemi ali v samih pametnih napravah. Poleg tega se lahko podatki, ki jih te naprave zbirajo, zlorabijo na številne načine. To je bilo četrto tveganje.

"Govorimo o napredku tehnologij, ki spremljajo dejavnost naših možganov, o možgansko-računalniških vmesnikih (Brain-Computer Interface). To ni povsem nova tehnologija, je pa še vedno v zgodnji fazi razvoja." Foto: Shutterstock

Kdo bi moral po vašem mnenju skrbeti za to, da se ta tehnologija uporablja za dobre namene in ne pride v roke ljudem, ki bi jo lahko zlorabili? Kdo bi moral biti njen varuh?

Politike in predpise žal sprejemamo samo za dobre ljudi. Za slabe ljudi pa predpisi ne pomenijo veliko. Preprosto jih ne zanimajo. Slabi ljudje bodo počeli, kar želijo. Lahko pa zmanjšamo tveganja tako, da zagotovimo pravilno ravnanje s podatki, ki jih zbirajo sistemi kognitivne umetne inteligence. Potrebujemo ustrezne predpise glede uporabe teh tehnologij, podatkov za učenje modelov ter podatkov, ki jih zbirajo in ponovno uporabljajo. Ključni so vlade in sistemi upravljanja. Žal pa slabim ljudem ne moremo preprečiti uporabe novih tehnologij.

Pravzaprav katerekoli tehnologije.

Gre za vprašanje virov, denarja in znanja. Najbolj sofisticirani napadalci imajo pogosto na voljo vse potrebne vire. Lahko samo upamo.

Kako zagotoviti, da na procese ne vpliva pristranskost, zlasti v prihodnosti, ko bo na voljo vse več podatkov o ljudeh?

Močno verjamem, da bi morali sisteme umetne inteligence obravnavati kot orodja. Njihova naloga je pomagati ljudem, ne pa opravljati človeških nalog, kot sta odločanje in presojanje. Prepričana sem, da teh sistemov ne smemo uporabljati za nadomeščanje človeškega odločanja ali presoje. Nikakor ne bi smeli dovoliti, da sistemi sami sprejemajo odločitve ali sodbe. Prav odločanje in presojanje nas delata ljudi.

"Politike in predpise žal sprejemamo samo za dobre ljudi. Za slabe ljudi pa predpisi ne pomenijo veliko. Preprosto jih ne zanimajo. Slabi ljudje bodo počeli, kar želijo." Foto: Ambra Sbardella

Kako to dopovedati vodjem, tudi v podjetjih in medijskih hišah, ki vse bolj zaupajo umetni inteligenci in ji prepuščajo vedno več?

Vztrajati moramo pri tem, da umetna inteligenca ostane pomočnik. Najslabši način uporabe teh tehnologij je, če jim prepustimo odločanje. Tehnologije razvijamo zato, da nam pomagajo živeti bolje in učinkoviteje opravljati naloge, toda ljudje imamo lastnosti, ki nas delajo ljudi – reševanje problemov in presojanje. Ti sistemi nimajo presoje. Ne razmišljajo in ne odločajo. So zgolj stroji za obdelavo informacij. Zato bi vsak direktor, vsaka organizacija in vsak posameznik moral razumeti, da so ti sistemi namenjeni pomoči, ne pa odločanju namesto nas. To nas vrne k vprašanju odgovornosti. Sistema ne moremo narediti odgovornega.

Kje pa bi morali potegniti mejo med inovacijami na področju umetne inteligence ter zaščito zasebnosti, avtonomije posameznika in demokratičnih procesov?

Seveda moramo spodbujati inovacije. Potrebujemo boljše tehnologije in vedno več rešitev, ki nam pomagajo, toda to ne sme posegati v človeško avtonomijo in vedenje. Potrebujemo boljše sisteme, vendar moramo poskrbeti, da ti ostanejo orodja, ki nam pomagajo. Nove tehnologije so dobre in nam lahko omogočijo veliko novih stvari. Vendar ne smemo pozabiti, da so to še vedno le tehnologije in orodja.

Torej sklepam, da se ne bi vozili s samovozečimi avtomobili, kot je Waymo v San Franciscu?

Ne bi.