umetna inteligenca
Nedelja, 7. 7. 2024, 22.24
3 tedne, 5 dni
Intervju: dr. Lilian (Evangelia) Balatsou, evangelistka umetne inteligence in kognitivna nevroznanstvenica
Umetna inteligenca bo rešila svet, a le če …
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
0,78
Dr. Lilian Balatsou: umetna inteligenca je kot jedrska tehnologija – brez dvoma koristna, a v napačnih rokah lahko privede do nepopravljivih posledic.
Umetna inteligenca obeta ogromen potencial pri številnih vsakdanjih opravilih in poslovanju, a ob tem ne smemo spregledati tudi pasti, v katere lahko vodi. Kot je povedala naša sogovornica, je umetna inteligenca kot jedrska tehnologija – nedvomno koristna, a v napačnih rokah lahko privede do nepopravljivih posledic.
Ob veliko primerih koristne rabe umetne inteligence se žal pojavljajo tudi primeri njene nemoralne in protizakonite uporabe, kar postavlja dodatne zahteve pri zagotavljanju kibernetske varnosti, so med drugim povedali govorci na letošnji konferenci Kaspersky NEXT, ki je potekala v Atenah na temo odnosa med umetno inteligenco in kibernetsko varnostjo.
Ponarejeni posnetki, ki preveč dobro posnemajo identitete žrtev (deepfake), so značilen primer, kako lahko sicer dobra tehnologija psihično in materialno uniči nič hudega sluteče posameznike, ki neredko nimajo potrebnega znanja in sredstev za obrambo pred temi nevarnostmi.
Dr. Lilian Balatsou je bila ena glavnih predavateljic na letošnji izvedbi vsakoletne konference o kibernetski varnosti Kaspersky NEXT, ki je potekala v Atenah s poudarkom na odnosu med umetno inteligenco in kibernetsko varnostjo.
Grožnja je lahko tudi priložnost
Izzivov, ki jih prinaša umetna inteligenca – zagotavljanje zasebnosti in varnosti podatkov in identitete, algoritmi ponarejanja vsebin, maščevalni napadi, potreba po transparentnosti in etičnosti pri sprejemanju odločitev in politik o umetni inteligenci so le nekateri izmed njih –, nikakor ne smemo spregledati, je na svojem predavanju v Atenah kot ena izmed glavnih govork povedala ena največjih domačih strokovnjakinj s področja umetne inteligence dr. Lilian Balatsou.
Obenem je poudarila, da ravno umetna inteligenca ponuja najprimernejša orodja za spopadanje s temi izzivi in celo za zagotavljanje kibernetske varnosti, a le če pri tem sodelujejo vsi – tehnološki razvijalci, odločevalci na politični ravni, strokovnjaki za kibernetsko varnost in najširša javnost. V pogovoru za Siol.net je Lilian Balatsou podrobneje razložila svoj optimizem, saj je trdno prepričana, da umetna inteligenca lahko reši širše družbene težave, ki jim do zdaj nismo bili kos.
Po zaključeni diplomi iz angleškega jezikoslovja in psiholingvistike s kognitivno znanostjo na Aristotlovi univerzi v Solunu je že po dobrem letu zaključila magisterij iz jezikovne psihologije na edinburški univerzi. V magistrski nalogi je raziskovala obdelavo semantičnih nejasnosti z umetnimi nevralnimi omrežji. Leta 2020 je doktorirala iz kognitivne nevroznanosti na velški univerzi Bangor, pri raziskovanju pa so sodelovali tudi strokovnjaki iz Nemčije in ZDA.
Naša sogovornica je trdno prepričana, da umetna inteligenca lahko reši širše družbene težave, ki jim do zdaj nismo bili kos.
Kakšna je največja možna prednost, ki jo družbi lahko prinese umetna inteligenca?
Lahko pomaga pri razsvetljevanju, ugotavljanju in razkrivanju nepravičnosti in neenakosti, kot so revščina, izključenost ali nasilje, ter zagotovi, oblikuje in razvije konkretne akcijske načrte, kako se spopasti s tem.
Sliši se precej načelno. Kako pa bi to izvedeli v praksi?
Umetna inteligenca lahko združuje podatke različnih študij. Lahko sproži načine zbiranja podatkov, ki iznajdejo nekatere izmed teh nepravičnosti. Na primer, kako lahko izboljšamo razmere, v katerih živijo otroci v Afriki. Ali kaj lahko naredimo za zmanjševanje nasilja nad ženskami ali nasploh za omejevanje nasilja z orožjem v ZDA ali spletnega nasilja.
Na konferenci Kaspersky NEXT v Atenah so poleg predavanj strokovnjakov s področij kibernetske varnosti in umetne inteligence iz več evropskih držav potekale tudi okrogle mize, na katerih so izpostavili pasti in priložnosti umetne inteligence.
Kako?
Umetna inteligenca lahko združuje podatkovne s številnimi že dostopnimi viri, kot so družbene organizacije, nevladne ustanove, državna uprava in tudi podatki, ki jih skupinsko zagotavljamo kot potrošniki. Nato lahko združuje te podatke in na podlagi tega analizira informacije z namenom ugotavljanja natančnejših razlogov, zakaj se te težave pojavljajo, in načinov za njihovo reševanje.
Ali ste tako že reševali kakšno družbeno pomembno težavo?
Kot specifičen primer lahko podam odpravljanje neenakosti, ki me posebej skrbi in s katerim se posebej strastno ukvarjam. V Grčiji namreč obstaja ogromen razkorak med spoloma v tehnoloških poklicih. Samo govoriti o prizadevanjih za odpravljanje je še vedno precej splošno, toda z umetno inteligenco lahko veliko natančneje oblikujemo naslednje korake in cele procese. Zelo je koristno, če si zastavimo šestmesečne načrte. V prvih treh mesecih se lahko posvetimo natančnejšemu opredeljevanju, ko poiščemo mlade ženske, stare med 18 in 25 let, in jih povežemo z nevladnimi organizacijami in ustreznimi programi za krepitev žensk v naravoslovju in tehnologiji. Naslovimo vlade in sprožimo kampanjo, s katero lahko zmanjšamo prepad za 30 odstotkov. Z umetno inteligenco je to mogoče.
"V Grčiji obstaja ogromen razkorak med spoloma v tehnoloških poklicih. Samo govoriti o prizadevanjih za odpravljanje tega je še vedno precej splošno, toda z umetno inteligenco lahko veliko natančneje oblikujemo naslednje korake in cele procese."
Sliši se ambiciozno, saj menim, da velik del javnosti še ne vidi teh potencialov, ki ste jih pravkar opisali. Umetno inteligenco ljudje vidijo kot orodje, ki jim pomaga do lepših fotografij na pametnem telefonu, ali kot orodje za podporo uporabnikom …
Res ne vidijo teh potencialov, ker je večina današnjih aplikacij umetne inteligence namenjena poslovni in industrijski rabi. Med temi je veliko aplikacij, katerih namen je izključno krepiti dobiček in manjšati stroške. Malo je aplikacij, ki so neposredno namenjene končnim uporabnikom – ena od teh so denimo nakupovalni pomočniki.
Kdo bi potemtakem moral prevzeti vodilno vlogo pri ozaveščanju javnosti o potencialih umetne inteligence za reševanje pomembnih družbenih vprašanj?
Potrebujemo ljudi, ki bodo lahko to uresničili. Tehnologija je že tu. Ključ je v ustvarjanju novih načinov dela, tudi za pripravo akcijskih načrtov. Naše vlade, naši zakonodajalci in ustrezne organizacije bi morali pomagati na tej poti.
"Večina današnjih aplikacij umetne inteligence je namenjena poslovni in industrijski rabi. Med temi je veliko aplikacij, katerih namen je izključno krepiti dobiček in manjšati stroške."
Ali menite, da imajo dovolj znanja za uresničevanje tega poslanstva?
Menim, da ga imajo.
Ali ste prepričani?
Menim, da imajo dovolj znanja za razumevanje družbenih težav.
Že, toda ali imajo dovolj znanja za njihovo reševanje?
Znanje, ki ga že zdaj imajo, lahko okrepijo z izsledki umetne inteligence. Pri tem je izziv postavljanje informacij in dejstev v ustrezen kontekst.
Vemo, da so strahovi največkrat posledica neznanja, a se ne moremo izogniti dejstvu, da obstajajo strahovi pred umetno inteligenco. Kateri so vendarle upravičeni?
Kot velja za vse veličastne tehnologije, velja tudi za umetno inteligenco, da v napačnih rokah lahko zaide v napačno smer. Večina strahov ni utemeljena na znanstvenih dejstvih in na primerih dobre prakse, temveč na komercialnih motivih.
"Kot velja za vse veličastne tehnologije, velja tudi za umetno inteligenco, da v napačnih rokah lahko zaide v napačno smer."
Zakaj? Kako?
Strahovi se dobro prodajajo in prinašajo lep dobiček.
Eden izmed strahov je, da umetna inteligenca pravzaprav ne bo rešila sveta, temveč bo redkim izbrancem, ki že imajo dostop do nje, zagotovila še večji zaslužek.
Seveda je to mogoče, tako kot marsikaj v našem svetu, toda umetna inteligenca ima tako ogromen potencial za pomoč veliko večjemu številu ljudi kot le enemu ali dvema odstotkoma izbrancev. To bomo dosegli tako, da vsi mi opredelimo svojo vlogo pri tem. Ko rečem mi, mislim tudi na podjetja, organizacije in seveda tudi posameznike. Resnično si želim, da se vsi vključimo, da razvijamo svojo tehnološko in splošno pismenost, a tudi, da se lotimo zahtevnih premislekov in razprav o tem, kaj so najbolj pereča vprašanja in, na drugi strani, kaj lahko počaka.
Da je svet sredi informacijske vojne, je na neredko bolečih primerih in izkušnjah iz vsega sveta v svojem predavanju na konferenci Kaspersky NEXT v Atenah utemeljil dolgoletni evropski direktor svetovnega oddelka za raziskave in analize (GReAT) družbe za kibernetsko varnost Kaspersky Marco Preuss.
Kje pa vidite pasti na tej poti?
Pasti v osnovi izvirajo iz nepredvidljivosti. Umetna inteligenca je lahko nepredvidljiva, nepredvidljiv je lahko tudi njen razvoj, kar lahko ustvarja negotovost med ljudmi. V strokovnih krogih veliko razpravljamo o singularnosti, a mislim, da še nismo blizu tehnične singularnosti. Včasih se zdi, da se o razvoju tehnologije govori malo preveč rožnato. Pomembna je natančnost podatkov.
Ali lahko umetna inteligenca ubeži nadzoru?
Ni nemogoče. Poznamo pojav, da umetna inteligenca halucinira, kar pomeni, da ustvarja vzorce ali predmete, ki ne obstajajo in katerih vsebina je nesmiselna in netočna. Umetni inteligenci le ne bi smeli brezpogojno zaupati, ker je še vedno prostor za njen napredek in izboljšave. Umetna inteligenca naj bo naš pomočnik, ne naš namestnik.
Kako potem lahko brzdamo umetno inteligenco, da ne uide našemu nadzoru?
Lahko poskrbimo, da bo pametnejša. Na tej stopnji je umetna inteligenca namreč agnostična, ker nima vedno vpogleda v to ali znanja o tem, kaj je pravilno in kaj ni.
"Večina strahov ni utemeljena na znanstvenih dejstvih in na primerih dobre prakse, temveč na komercialnih motivih."
Kako za to poskrbimo?
Umetna inteligenca lahko učinkovito obdela ogromne količine informacij, vendar še vedno ne more razmišljati ali sklepati …
Potem je umetna inteligenca pravzaprav zgolj en velik podatkovni analitik.
Natanko tako. Zato želim, da so vstopni podatki popolni, pravilni, organizirani in dostopni. Umetna inteligenca mi bo pomagala prepoznati tudi dejstva, ki jih sama ne bi prepoznala, a vendarle želim, da smo ljudje tisti, ki bomo sprejeli končno odločitev ali bomo imeli končno izbiro.
Kaj bi pomenila pametnejša umetna inteligenca?
Ko pravim, da želim pametnejšo umetno inteligenco, ne mislim na človeško in ljudsko pamet. Mislim na posebno pamet umetne inteligence. Tisto, ki bi ji med drugim omogočila, da se omejuje in nadzoruje. Tisto, ki bo po potrebi vpletla človeka v proces. Tisto, ki bo še bolje simulirala različne okoliščine in bo še bolje gradila znanje iz konteksta.
"Umetna inteligenca lahko učinkovito obdela ogromne količine informacij, vendar še vedno ne more razmišljati ali sklepati."
Kdaj bi lahko dosegli to pametnejšo umetno inteligenco?
Tega nihče ne more napovedati, a se znanstvena skupnost vendarle že ukvarja s tem. Morda bomo čez deset ali 15 let lahko govorili o nekem znatnem napredku. Že zdaj imamo hvale vredne primere, ko v nekaterih okoliščinah umetna inteligenca odlično opravi svoje poslanstvo, na drugi strani pa v nekih drugih okoliščinah ne dosega niti zadovoljivih učinkov.
Vendar so še vedno prisotni očitki, da je umetna inteligenca v polnem obsegu dostopna le redkim, ki si jo lahko privoščijo.
Odvisno, o kateri umetni inteligenci govoriva.
Torej imamo več kot eno umetno inteligenco?
Da. Ko govorimo o umetni inteligenci, lahko govorimo o različnih zadevah. Imamo obsežne programe za velike poslovne sisteme, imamo pa tudi preproste algoritme na svojih pametnih telefonih. Ker ima zelo velika večina Zemljanov pametne telefone in na njih ustrezne aplikacije, imajo s tem tudi dostop do umetne inteligence. Če ste v stiku s podporo banke, telekomunikacijskega operaterja ali kakšnega drugega ponudnika prek glasovnega pomočnika, ste že s tem v stiku z umetno inteligenco.
"Že zdaj imamo hvalevredne primere, ko v nekaterih okoliščinah umetna inteligenca odlično opravi svoje poslanstvo, na drugi strani pa v nekih drugih okoliščinah ne dosega niti zadovoljivih učinkov."
Jaz vseeno raje vidim podporo živega človeka, zlasti pri bolj zapletenih primerih, in če je le možno, takoj preskočim chatbot.
Tako chatobotu otežujete zbiranje zanj pomembnih informacij (nasmeh, op. p.). Sicer pa to področje že nekaj časa opazujem in vidim preobrazbo. Tehnologije so že zdaj zelo močne, a jih ne izkoriščamo v celoti, ker imajo ponudniki, ki to uporabljajo pri podpori uporabnikom, še vedno težave pri strateškem načrtovanju in oblikovanju posameznih rešitev. Največkrat zato, ker ne razumejo uporabnikov, se ne poglobijo v njihove težave in niso usmerjeni v razvoj boljših interakcij.
V kaj pa se usmerjajo?
Želijo zgolj obdelati ogromne količine podatkov. Toda z razvojem tehnologije bo lažje razumeti ne le to, kaj je bilo izgovorjeno ali zapisano v golem besedilu, temveč tudi semantiko. Za uporabnika so na prvem mestu njegovo mnenje, stališče, težava in se ob tem ne želi ukvarjati še s tem, kako bo to izgovoril ali zapisal, da ga bo chatbot razumel.
"Tehnologije so že zdaj zelo močne, a jih ne izkoriščamo v celoti, ker imajo ponudniki, ki to uporabljajo pri podpori uporabnikom, še vedno težave pri strateškem načrtovanju in oblikovanju posameznih rešitev."
Za konec se vrniva na še eno temo, s katero se intenzivno ukvarjate: v naravoslovju in tehnologiji je še vedno premalo žensk. Zakaj?
Res je, ta ločnica je ogromna na vseh ravneh, nacionalnih, mednarodnih, svetovni. Še vedno se vidijo posledice preteklih tradicionalnih vlog v družbi. Generacijska odsotnost žensk v naravoslovju in tehnologiji je sistemsko preprečevala ženskam in dekletom, da uresničijo svoje želje na tem področju. Večino procesov so ustvarjali moške za moške, kar je vplivalo na politike podjetij – neredko materinstvo ni združljivo z napredovanji ali ugodnostmi na poklicni lestvici.
Kako to preseči?
Vesela in srečna sem, da sem v ospredju prizadevanj za ustvarjanje politik, spodbujanje sprememb in izvajanje drugih dejavnosti za povezovanje žensk ter opogumljanje in širitev zavesti, da lahko uspejo v naravoslovju in tehnologiji, na področjih, za katera se je vredno boriti. Vključevanje žensk in nasploh vseh delov družbe v tehnološke poklice vodi do ustvarjanja izdelkov, ki bodo resnično za vsakogar. To je etično, transparentno in dostopno ter, kar dokazujejo študije, tudi dobičkonosnejše. To je zmaga za vse, pri tem pa je tehnologija ne le orodje za izpostavljanje tega vprašanja, temveč tudi način in orodje za odstranjevanje predsodkov iz preteklosti.
