Sobota, 26. 10. 2019, 4.05
2 meseca, 2 tedna
Intervju: Kriti Sharma, strokovnjakinja umetne inteligence in humanitarka
Kot otrok si je komaj privoščila računalnik, danes pa svetuje v OZN #intervju
Termometer prikazuje, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.
Termometer prikaže, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.
4,24
3
Kriti Sharma si prizadeva, da bi z umetno inteligenco razvijali rešitve, ki prispevajo boljši družbi in omogočajo dostop do prednosti tehnologije vsem skupinam uporabnikov.
Kriti Sharma je s 15 leti v svoji domači Indiji edina v svoji skupnosti imela računalnik in (počasen) dostop do interneta, pred dvema letoma so jo s komaj 29 leti izbrali na letnem seznamu Recode 100 med 50 najbolj vplivnih ljudi v tehnologiji. Kriti Sharma, ki med drugim svetuje tudi Laboratoriju za tehnološke inovacije OZN, smo srečali na letošnji konferenci Kaspersky Next v Lizboni.
Njena življenjska pot bi bila lahko kar filmska zgodba: začela je na tistem koncu sveta, kjer tehnološke in druge danosti vsakdanjega življenja niso samoumevne kot pri nas, danes komaj 31-letna Indijka, ki je z odlikami diplomirala in magistrirala na univerzi Saint Andrews na Škotskem, pa ima že tako zakladnico svetovnih priznanj in nagrad ter velja za eno od največjih svetovnih strokovnjakinj na področju umetne inteligence, predvsem pripadajočih etičnih vprašanj.
Sodeluje tudi z ljubljanskim Institutom Jožef Stefan
Istega leta, ko se je na lestvici Recode 100 uvrstila na 44. mesto najbolj vplivnih v tehnologiji, jo je revija Forbes za njen prispevek na področju umetne inteligence vključila na prestižni seznam Forbes 30 Under 30, ki združuje mlade uspešne in prodorne vodje in strokovnjake z vsega sveta. Lani jo je generalna skupščina Organizacije združenih narodov izbrala za mladega vodjo za cilje trajnostnega razvoja.
Zgornji dom britanskega parlamenta je zahteval njeno strokovno mnenje pri oblikovanju politike Združenega kraljestva o umetni inteligenci, seznam njenih delodajalcev pa vključuje tudi velika imena s področja bančništva in informacijske tehnologije, kjer je imela odgovorne vloge na področju umetne inteligence. Svoje poslanstvo danes uresničuje prek platforme AI for Good, katere namen je izkoristiti umetno inteligenco za širše družbeno dobro. Partner te platforme je tudi Institut Jožef Stefan iz Ljubljane.
Istega leta, ko se je na lestvici Recode 100 uvrstila na 44. mesto najbolj vplivnih v tehnologiji, jo je revija Forbes za njen prispevek na področju umetne inteligence vključila na prestižni seznam Forbes 30 Under 30, ki združuje mlade uspešne in prodorne vodje in strokovnjake z vsega sveta.
Največja grožnja umetne inteligence ni tisto, česar se večina boji
V pogovoru za Siol.net ob robu letošnje konference o informacijski varnosti Kaspersky Next, kjer je v rednem programu predavala in sodelovala na več okroglih mizah, nam je med drugim razkrila svoj širši pogled na umetno inteligenco in svoja prizadevanja, da umetna inteligenca kot tehnologija ne bi bila sama sebi smisel, temveč orodje za reševanje ljudi v stiski in ustvarjanje boljšega sveta.
Ne boji se, da bi umetna inteligenca prevzela človeštvo, a jo skrbi, kakšna bo družba, če ne bodo vse skupine ljudi, tudi tisti, ki jih včasih preveč zlahka opisujemo kot prikrajšane oziroma zapostavljene skupine, imele dostopa do nje in drugih tehnologij.
Kako ste se že kot najstnica navdušili nad računalniki in roboti?
Nisem nikoli razmišljala o tem, dokler me niso začeli spraševati o tem. Ko sem bila stara 15 let, so me povabili na obisk enega raziskovalnega laboratorija, kjer me je navdušil program, ki je omogočal pogovarjanje z računalnikom. Seveda so bile takratne tehnologije veliko manj zmogljive kot današnje in je danes pogovarjanje z računalnikom nekaj povsem običajnega, a mene je že tisto takrat preprosto osupnilo.
Svoje poslanstvo danes uresničuje prek zaklada AI for Good, katerega namen je izkoristiti umetno inteligenco za širše družbeno dobro. Partner tega zaklada je tudi Institut Jožef Stefan iz Ljubljane.
Kako?
Takrat sem si najbolj želela, da bi kaj takega lahko vzela domov, tako všeč mi je bilo. Res je, takratni računalniki so bili veliki kot velika soba, danes pa imamo enako ali še večjo procesorsko zmogljivost že tako rekoč na vsakem pametnem mobilnem telefonu, a meni je to takrat pomenilo veliko.
Zakaj je ta dogodek pustil tako močan vtis na vas?
Nekaterih dogodkov iz otroštva se močno zapomnimo. V Radžastanu (pokrajina na severozahodu Indije, op. a.), kjer sem odraščala, je bilo še vedno veliko nepismenih, internet je šele nastajal, imeli smo le počasne povezave na klic, jaz pa sem se zavedala, da sem imela zgodnji dostop do nečesa, kar bo spremenilo svet.
To je bil odločilen trenutek vašega življenja?
Res je. Takrat se tega nisem zavedala, a ko zdaj pogledam nazaj, je bil ravno to trenutek, ko sem spoznala, da s tehnologijo lahko izboljšamo življenja in da tudi sama lahko prispevam k temu. Res je, da sem najbrž od nekdaj bila naklonjena tehnologiji. Že kot otrok se nisem igrala z lutkami, temveč sem vedno nekaj sklepala in sestavljala.
Ali so se ta vaša otroška pričakovanja izpolnila?
Resnično me preseneča, kako hitro napreduje ta razvoj. V slabem desetletju je vse tisto, kar smo si takrat lahko zamislili zgolj na velikih računalnikih, že prišlo na mobilne telefone. Kar kratek čas je trajalo, da so vsi ti dosežki prišli iz raziskovalnih laboratorijev v resnični vsakdanji svet.
"Najbrž sem bila od nekdaj naklonjena tehnologiji. Že kot otrok se nisem igrala z lutkami, temveč sem vedno nekaj sklepala in sestavljala."
Kako zahtevno je bilo uresničevanje vašega poslanstva?
V začetku zelo težko. Nisem imela na voljo veliko infrastrukture, prav tako je bilo v šoli težko dobiti nekaj pozornosti, ker nas je v posameznem razredu sedelo 70 dijakov. Zelo sem ponosna, da sem se zmogla učiti sama in samostojno.
Kako ste se lahko ločili od drugih sošolcev, če vas je bilo toliko v razredu?
Gnala me je radovednost, kako deluje ta svet. Želela sem ustvarjati tisto, kar ljudem pomaga, želela sem se spopasti z nekaterimi prepričanji in predsodki. Veliko podporo sem imela tudi pri starših.
Kako so vam pomagali?
Niso me mogli preskrbeti z denarjem, a so vztrajali pri tem, da si pridobim čim boljšo izobrazbo. Velik vpliv je imela moja mati, ki je v devetdesetih letih bila novinarka, kar je bilo za žensko v teh krajih skrajno nenavadno. Nikoli ni pričakovala od mene, da bom taka kot ona, a je njena pokončna drža pomembno usmerjala in oblikovala tudi mene. To je krepilo moje zaupanje v tehnologijo, ki pa mi je takoj dala zadovoljstvo, ko sem nekaj ustvarila. Če nekaj, kar si ustvaril, dela, to vidiš takoj, ni treba čakati pet let.
"V slabem desetletju je vse tisto, kar smo si takrat lahko zamislili zgolj na velikih računalnikih, že prišlo na mobilne telefone. Kar kratek čas je trajalo, da so vsi ti dosežki prišli iz raziskovalnih laboratorijev v resnični vsakdanji svet."
Še danes se spopadate z nekaterimi družbenimi vzorci. Eden od teh je, da je svet informacijske tehnologije prevladujoče moški. Ali ste kdaj začutili, da ste kot ženska morali narediti več za enako raven priznanja svojega dela?
Ne vem za samo delo, vem pa, da sem morala veliko več narediti za to, da bi prisluhnili meni in mojim idejam. Toda naučila sem se biti močna, naučila sem se, kako zagovarjati svoje pobude. Res pa je, da nimajo vsi v svetu informacijske tehnologije, zlasti ženske, a tudi nekateri moški, visoke stopnje zaupanja vase. Smo pač različni značaji in niso vsi pripravljeni na rešetanje pred kolegi, mediji in javnostjo, kadar se je treba postaviti zase in svoje misli.
Ali zaradi tega izgubljamo dobre ideje?
Nekaj jih gotovo, a menim, da se v zahodnem svetu, sodim lahko po Združenem kraljestvu, kjer zdaj živim, ljudje zelo odprejo do tistih, ki imajo ideje in predloge ter jih znajo utemeljiti. Radi prisluhnejo predlogom iz različnih okolij ter cenijo ustvarjalnost in različnost. Čutim, da me cenijo zaradi tega, kar imam povedati, a ni bilo vedno tako – ni tako zelo dolgo minilo od takrat, ko v Angliji ženskam ni bilo omogočeno diplomirati na fakultetah.
"Ko skupaj pridejo ljudje z različnimi ozadji, ko ustvarjamo na pravi način, so možnosti neskončne."
Ustanovili ste sklad AI for Good (Umetna inteligenca za dobro), katerega namen je zagotavljati rešitve umetne inteligence, ki ljudem pomagajo. Kaj je bilo tisto, kar je v vsakdanjem svetu manjkalo in zaradi česar ste se odločili za ta korak?
Nisem bila zadovoljna z naborom rešitev umetne inteligence, ki se uporabljajo v vsakdanjem življenju. Z rešitvami, ki vplivajo na to, katere oglase vidimo na internetu in spodbujajo, da kliknemo čim več oglasov. Z rešitvami, ki spodbujajo digitalno zasvojenost. Nisem se želela sprijazniti, da so to najboljše rešitve, ki jih premore umetna inteligenca.
Kaj ste si ob tem zastavili za glavni cilj?
Eno izmed mojih najdaljših in največjih poslanstev je olajšati dostop do tehnologij čim širšemu krogu ljudi. Toda velikim podjetjem to ni zanimivo, ker s tem ne služijo, razna združenja, neprofitne organizacije in drugi, ki sicer na svoje načine pomagajo ljudem, ne prepoznavajo umetne inteligence kot orodje, ki jim je lahko na voljo. Čutila sem, da je treba združiti prave tehnologije s pravimi vprašanji. Mi ne oblikujemo pravil, mi izdelujemo rešitve umetne inteligence za socialne namene.
Katere?
Veliko smo se posvečali področju domačega nasilja, mentalnega zdravja in izobraževanju mladih ljudi za umetno inteligenco, začeli pa smo tudi na področju podnebnih sprememb. Prepričani smo, da bo umetna inteligenca ustvarila nova delovna mesta, tista z višjo vrednostjo in boljšimi plačami. A tisti, ki ne gredo v prave šole ali se niso rodili na pravem kraju, nimajo enakih možnosti za izkoriščanje teh priložnosti – in to neravnovesje moramo odpraviti.
"Smo pač različni značaji in niso vsi pripravljeni na rešetanje pred kolegi, mediji in javnostjo, kadar se je treba postaviti zase in svoje misli."
Kako financirate svoje delo?
Imamo čudovite partnerje in sponzorje iz poslovnega sveta in sveta dobrodelnih skladov.
Ali bi izpostavili kakšnega od svojih projektov?
Ne vem, ali sem ponosna ali me razžalosti naš projekt rAInbow (mavrica) v Južnoafriški republiki (mavrica je simbol JAR, op. a.), ki je namenjen žrtvam domačega nasilja in zlorab. Ob našem delu, kjer sodelujejo strokovnjaki s številnih področij, smo se srečali s 350 tisoč žrtvami in me je kar presenetilo, koliko jih je svojo izkušnjo pripravljeno deliti z računalnikom.
Kako deluje rAINbow?
To je digitalni spletni in mobilni sogovornik, ki temelji na umetni inteligenci in ima ogromno znanja o vseh oblikah in vzorcih domačega nasilja in zlorabe, ne samo spolne in fizične, temveč tudi psihične, čustvene, digitalne, finančne in vsake druge. Z njim se prek spletnega klepeta pogovarjajo žrtve, ki iščejo pomoč in nasvet. rAINbow prepozna, kakšna vedenja so sprejemljiva in kakšna ne, lahko svetuje tudi glede pravic, ko pa je treba, pa lahko vključi tudi živega svetovalca.
"Prepričani smo, da bo umetna inteligenca ustvarila nova delovna mesta, tista z višjo vrednostjo in boljšimi plačami. A tisti, ki ne gredo v prave šole ali se niso rodili na pravem kraju, nimajo enakih možnosti za izkoriščanje teh priložnosti – in to neravnovesje moramo odpraviti."
Zakaj bi se žrtve raje pogovorile prek računalnika kot pa z živo osebo?
Zaradi strahu ali sramu. Tudi zato, ker žrtve včasih čutijo, da je kaj narobe, a niso prepričane in nimajo koga vprašati. V nekaterih okoljih niti ni varno, da bi spregovorile o svojih izkušnjah. Razlogi so mnogi in različni.
Močno zagovarjate umetno inteligenco, po drugi strani pa Evgenij Kaspersky, lastnik enega najmočnejših svetovnih podjetij s področja računalniške varnosti, meni, da umetne inteligence pravzaprav ni in da lahko govorimo le o različnih stopnjah strojnega učenja. Kako komentirate njegovo razmišljanje?
Ne morem se povsem strinjati z vsem, ker menim, da je umetna inteligenca že postala del naših življenj. Sicer mi pa ni pomembno, kako definiramo strojno učenje in umetno inteligenco, kajti pomembno je prepoznati težave v družbi, ki jih ta tehnologija lahko reši, in ustvariti delujoče rešitve. Tako preprosto je to, akademske razprave me niti ne zanimajo preveč. Ko se ljudje v takšne razprave vpletejo preveč osebno ali čustveno, nas to le upočasnjujejo pri razvoju rešitev za odpravljanje težav.
Umetna inteligenca ima ogromno moč – kako odgovarjate tistim, ki se bojijo, da vsa ta moč lahko pristane v napačnih rokah?
Nevarnost obstaja pri vsaki tehnologiji, ne samo pri umetni inteligenci. Videli bomo rešitve, ki so škodljive in tiste, ki so koristne, a jaz sem vendarle optimistična. Menim, da smo se kot družba, ljudje in vlada že veliko naučili od internetne in mobilne revolucije. Naučili smo se boriti z digitalno odvisnostjo, boriti s stranskimi učinki, kot so vpliv na demokracijo. Umetna inteligenca prinaša izzive, s katerimi smo se že borili v preteklosti.
Pa res ni nič novih nevarnosti, ki jih prinaša umetna inteligenca?
Kar pa res vidim, je ena velika tekmovalnost med državami, ki se potegujejo, da bi bile vodilne na področju umetne inteligence. Želijo voditi to revolucijo …
… pa se vam zdi, da je to njihova igra političnega marketinga?
Upam, da ni, kajti v resnici te države res namenjajo znatna sredstva v razvoj umetne inteligence. Toda ne smemo pozabiti, da smo ljudje uporabniki storitev, in ne uporabniki tehnologij.
"Ni mi pomembno, kako definiramo strojno učenje in umetno inteligenco, kajti pomembno je prepoznati težave v družbi, ki jih ta tehnologija lahko reši, in ustvariti delujoče rešitve. Tako preprosto je to, akademske razprave me niti ne zanimajo preveč. Ko se ljudje v takšne razprave vpletejo preveč osebno ali čustveno, nas to le upočasnjujejo pri razvoju rešitev za odpravljanje težav."
Kaj je po vaši oceni največja korist, ki jo je umetna inteligenca prinesla človeštvu?
Moč dostopa do informacij. Ko sem odraščala, sem imela počasen in šibek računalnik, ki smo ga sestavili iz drobnih delcev, a je to vendarle bilo moje okno v širni svet. Bila sem edina v svoji skupnosti v razmeroma zaostalem delu Indije, ki sem imela takšno okno v svet, in sem si težko predstavljala, da bom nekoč odšla v Združeno kraljestvo in tam ustvarjala rešitve za dobre namene. Naravnost navdušujoče je, da v spletnem iskalniku zastavimo iskalni niz ali vprašanje in v trenutku dobimo odgovor.
Nekateri se bojijo, da bi lahko umetna inteligenca prevzela nadzor nad človeštvom.
Samo zato, ker nekaj lahko naredimo, še ne pomeni, da to moramo narediti. Moramo se vprašati, ali s tem, kar naredimo, ustvarimo kaj dobrega in koristnega. Ali želimo še neko rešitev umetne inteligence, ki še bolj spodbuja k nakupu tega, česar ne potrebujemo? Že zdaj vsako leto po svetu sežgejo skoraj 30 milijonov evrov vredna oblačila, ki so presežek proizvodnje, hkrati pa jim ne želijo znižati cen in se podati v cenovne vojne. Zakaj torej še podpihovati hiperprodukcijo?
"Samo zato, ker nekaj lahko naredimo, še ne pomeni, da to moramo narediti. Moramo se vprašati, ali s tem, kar naredimo, ustvarimo kaj dobrega in koristnega."
Vaš predlog?
Zakaj ne bi tem podjetjem raje z umetno inteligenco pomagali napovedati prave količine proizvodnje in zmanjšati odpadke in izgube materialov? Imamo pametne algoritme, ki znajo povezati vse udeležene v dobavni verigi, zakaj ne bi razvili tudi takšnih, ki bi optimizirali izrabo materialov in tako zmanjšali količine odpadkov? Usmerimo se na reševanje pravih izzivov in težav, ne samo na obsedenosti, kot so avtomatizacija delovnih mest, za to pa moramo imeti prave ljudi med odločevalci. Tiste, ki razumejo različna življenja različnih ljudi.
Kakšne profile strokovnjakov imate v svoji ekipi?
Zame strokovnjaki umetne inteligence niso samo tisti, ki pišejo programsko kodo in algoritme ali računalnikom postrežejo ogromno primerov, s katerimi jih strojno učijo. Strokovnjaki umetne inteligence so tudi tisti, ki razumejo družbo in kako tehnologija oziroma na njen temelječe rešitve pomagajo družbi. Antropologi, psihologi, filozofi, strokovnjaki prava, etike in zakonodaje … Pogledi različnih skupin nas bogatijo in nadgrajujejo pri našem delu.
"Usmerimo se na reševanje pravih izzivov in težav, ne samo na obsedenosti, kot so avtomatizacija delovnih mest, za to pa moramo imeti prave ljudi med odločevalci. Tiste, ki razumejo različna življenja različnih ljudi."
Kako?
Tehnologi smo naklonjeni reševanju kratkoročnih nalog in problemov. Ustvarimo nekaj in potem pokrpamo, če ni ravno tako, kot bi moralo biti. Takšna kratkoročna usmerjenost včasih ustvarja nove dolgoročne težave, ker ne pomislimo, kako to, kar delamo, vpliva na družbo v celoti. Ali kdo sploh pomisli, kaj bi bilo, če neka tehnologija ali rešitev odpove ali ubere neko neželeno pot? Ravno zato je pomembno prisluhniti čim širšemu krogu strokovnjakov. Ko poslušamo ljudi z različnim ozadjem, postajamo tudi sami večji strokovnjaki in boljši ljudje.
3