umetna inteligenca
Torek, 16. 1. 2018, 18.56
2 tedna
Umetna inteligenca se mora še veliko učiti
Kako so gorile postale žrtev nepopolnega Googlovega algoritma
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
1,20
V nemoči, da izpopolnijo svoj algoritem za razpoznavo obrazov, ki je lani dva Afroameričana na fotografijah označil kot gorili, so pri Googlu sprejeli nenavadno odločitev.
Skoraj tri leta po ugotovljenih pomanjkljivostih v Googlovem algoritmu za razpoznavanje obrazov in označevanje fotografij so pri Googlu razvili rešitev – ki pravzaprav sploh ni rešitev.
Zadrega se je za Google začela zadnje dni maja 2015, ko je Afroameričan Jacky Alcine iz Brooklyna ugotovil, da je storitev Google Photos fotografije z njegovim obrazom in z obrazom njegovega prav tako temnopoltega prijatelja uvrstila v album Gorile.
Temnopolti so včasih gorile, svetlopolti pa tjulnji in psi
Na ogorčenost uporabnikov, ki se je širila po družbenih omrežjih, in očitke, da gre za rasistični spodrsljaj, se je takrat zelo hitro, pravzaprav še isti dan, odzval Googlov glavni arhitekt za družbena omrežja Yonatan Zunger. Sledilo je tudi Googlovo uradno opravičilo in obljuba, da bodo izpopolnili svoje algoritme.
Ob prvem pojavu nerodnega označevanja fotografij so pri Googlu obljubili hitro ukrepanje in izboljšanje pripadajočih algoritmov. Toda rešitev, ki jo imamo skoraj tri leta pozneje, je še daleč od prave. Do takrat ne pričakujte, da vam bo Google v storitvi Photos učinkovito prepoznal in našel fotografije goril in šimpanzov.
Zunger je takoj pojasnil, da algoritem pač ni rasističen, temveč zgolj – zmotljiv. "Strojno učenje je zahtevno. Imeli smo primere, ko je storitev Google Photos obraze svetlopoltih ljudi označila kot pse in tjulnje."
Gotovo ni bilo slabih namenov, a ostaja senca dvoma, da stroji lahko naredijo kulturološko nesprejemljivo predpostavke, če proces učenja ne poteka pravilno – podobno kot pri vzgoji otrok.
Gorile so izginile iz iskanj in označb
Dve leti in pol pozneje od tega nerodnega dogodka kljub obljubam in napovedim še nimamo prave rešitve. Pravzaprav je videti, da jo je Google razvil, a je ta rešitev slaba.
Pri tehnološki reviji Wired so v storitvi Google Photos poskusili iskati fotografije s pojmi, kot so gorila, šimpanz, opica (v njihovem konkretnem primeru v angleščini), a niso dobili nobenega zadetka, so zapisali v svojem poročilu. Tam zatrjujejo, da so to preizkusili s 40 tisoč fotografijami.
To najbrž pomeni, da so pri Googlu vse tiste pojme, kjer bi lahko prišlo do zmešnjave – predvsem takšne, ki bi jim lahko pripisali rasistični prizvok –, preprosto odstranili oziroma onemogočili.
Z orangutani ima umetna inteligenca očitno več sreče kot z gorilami, saj za razliko od goril Googlovo označevanje in iskanje fotografij orangutanov ne izključuje.
Orangutani in pavijani so bolj "varni"
Pri Googlu takšne izključitve ne zanikajo in dodajajo, da prav tako ni mogoče iskanje po večini žaljivih pojmov.
Toda splošna izključitev pojmov gorila, šimpanz in opica, ki gotovo preprečuje zmotne identifikacije, onemogoča tudi iskanje pristnih goril, šimpanz in opic.
Wired v svojem poročilu še navaja, da je storitvi Google Photos nekatere druge primate le uspelo identificirati, a z drugimi iskalnimi pojmi (baboon, gibbon, orangutan, zoo, jungle).
Premierja uvrstili med iskane kriminalce
Googlovemu algoritmu za fotografije je še kdaj pa kdaj spodrsnilo po kakšni drugi osnovi in tudi takrat so bili komični in nerodni primeri. Leta 2015 je iskanje pojma Top 10 criminals in India med fotografijami kot enega od zadetkov ponujalo tudi takratnega in še vedno aktualnega indijskega premierja Narendro Modi.
Indijski premier Narendra Mori - le zakaj je leta 2015 iskanje fotografij v Googlu s pojmom Top 10 criminals in India vrnilo tudi njegovo fotografijo?
Ob tem se je seveda težko izogniti dvomu, ali gre za pristno pomanjkljivost pri označevanju in razvrščanju ali morda za kakšno "bombico", ki bi jo lahko podtaknil kak nezadovoljen indijski programer.
Ne dogaja se samo Googlu
Vsekakor pa Google ni edini, ki se mu dogajajo takšne napake pri delovanju algoritmov za razpoznavanje fotografij. Algoritmi na Yahoojevi fotografski platformi Flickr temnopoltega moškega sicer niso označile za gorilo, ampak za opico (ape), fotografijo koncentracijskega taborišča Dachau pa z oznako jungle gym (telovadnica v džungli).
Vse kaže, da se je Yahoo odzval podobno: kaže, da iskanje po ključni besedi ape preprosto – ne deluje več. Svet je pač preveč zapleten, da bi ga lahko popredalčkali v matematične algoritme – vsaj ne v tiste, ki jih obvladamo danes. Strokovnjakom umetne inteligence izzivov gotovo ne bo kmalu zmanjkalo.
