Petek, 23. 4. 2021, 22.46
2 meseca, 1 teden
Tomaž Štih: Mi in stroji
Termometer prikazuje, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.
Termometer prikaže, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.
2,10
23
Največja nevarnost umetne inteligence bo naš odziv nanjo.
Živimo na zgodovinski prelomnici, ki bo družbo spremenila bolj od industrijske revolucije. Predpostavka, ki nas je spremljala od začetka zgodovine, se bo zamajala. Od Arhimeda prek Galileja do Einsteina smo našo sliko sveta gradili na (našem!) razumevanju naravnih pojavov in njihovi ponovljivosti v nadzorovanih okoliščinah. Razvoj tehnologije pa nas bo kmalu postavil pred dilemo, kaj storiti, če se stroj nauči nečesa, česar ne razumemo in ne znamo razložiti? Na primer uspešno operativno odstrani neozdravljivega raka s tehniko, ki je kirurgi z zdajšnjim znanjem o človeškem organizmu nikoli ne bi odobrili?
Strojno učenje temelji na optimizaciji preprostih matematičnih funkcij. Denimo, da želimo funkcijo naučiti napovedati dež na podlagi temperature, pritiska in vlage. V postopku učenja v funkcijo vstavimo pretekle vrednosti za te parametre in preverimo, ali pravilno izračuna možnost dežja (ker gre za pretekle podatke tudi vemo, če je deževalo!).
Potem ocenimo, kateri del funkcije je največ prispeval k napačnim napovedim, in znižamo njegov vpliv na končni rezultat. Nato ocenimo, kateri del je največ prispeval k točnim napovedim, in zvišamo njegov vpliv na končni rezultat. S ponavljajočim učenjem (za kar potrebujemo množico preteklih podatkov!) se v funkciji krepijo deli, ki pravilno napovedujejo vreme in slabijo tisti, ki se motijo. Tako matematična funkcija postaja vedno boljši meteorolog. Se opravičujem, meteorologinja!
Če takšne funkcije verižimo med sabo tako, da napoved funkcije prve plasti postane parameter za funkcijo druge plasti, napoved funkcije druge plasti parameter za funkcijo tretje plasti in tako naprej, potem takšni "lazanji" matematičnih funkcij pravimo nevronska mreža. Primer takšnega veriženja je napoved verjetnosti poplave, kjer je eden od parametrov te funkcije tudi podatek o verjetnosti dežja iz prejšnje funkcije.
Izkaže se, da je nevronska mreža splošno uporabna in da jo v odvisnosti od tega, kako medsebojno verižimo plasti, lahko naučimo marsičesa. Od prepoznavanja oseb na fotografijah do samostojne vožnje na cesti in celo pristajanja SpaceX raket.
Nevronska mreža pa ima lahko (in v praksi tudi ima!) desetine plasti in milijone parametrov. In odločitveni sistem z več deset milijoni podatkov je za človeka prekompleksen, zato delovanje nevronske mreže le redko (in še takrat omejeno!) razumemo. Posledično stroj sicer lahko naučimo voziti avtomobil, vendar ne moremo jamčiti za njegove pravilne odločitve na cesti. Precej podobno kot pri osemnajstletniku, ki mu po tridesetih urah učenja damo v roke izpit, manjko prepričanja, da zna res voziti, pa zapolnimo z molitvijo.
Toda ljudje smo dresirani napake oproščati le ljudem. Če žival ubije človeka, jo ponavadi ubijemo. Še mnogo bolj neprizanesljivi smo do strojev. Na naših cestah vsako leto umre toliko ljudi kot v vojni omejenega obsega, pa o teh žrtvah beremo le v osmrtnicah. Ko bo prvi človek umrl zaradi napake samovozečega vozila, pa bo novica o tem na vseh naslovnicah: "Stroj ubil človeka!"
Stroj ne potrebuje spanja in dopusta, nikoli ni užaljen in nima ambicij. Potrebuje le malo elektrike. Postindustrijsko in informacijsko revolucijo je zaznamovala migracija zaposlitev iz proizvodnje v storitve. Ko je človek postajal produktivnejši, so rasle tudi njegove potrebe: poleg hrane in strehe nad glavo si je zaželel dopust, frizerja in mobilni telefon. To je omogočilo prezaposlovanje iz proizvodnje v storitve, kjer nas danes dela večina. Ta trend se bo nadaljeval tudi v prihodnje. Problem pa bo predstavljalo prehodno obdobje, ki bo sicer kratko za zgodovino, toda dolgo za tiste, ki bodo ostali brez služb.
Odgovor sindikatov na proces nadomeščanja delavcev z visoko dodano vrednostjo z inteligentnimi stroji bo skoraj gotovo nekakšna oblika neoludizma in težnje ustaviti čas in prepovedati konkurenco. Razredni boj bodo še dodatno krepile težnje proizvajalcev, da se na novo definira njihova odgovornost za pravilno delovanje strojev.
Družba, kjer je na eni strani izobilje in na drugi socialna stiska, pa ni stabilna. Zato bo najverjetnejši kompromis uvedba zajamčenega (temeljnega!) dohodka.
Korporacije, ki bodo želele razvijati umetno inteligenco, si bodo morale izboriti podatke za učenje. Boj zanje že divja. Če je neka priljubljena mobilna aplikacija danes zastonj, z njo zelo verjetno zbirajo podatke za strojno učenje. Le tisti, ki jih zbere dovolj, lahko ponuja inteligentne rešitve. Da bi utrdili svoj položaj, bodo veliki igralci v prihodnje od vlad zahtevali zaščito podatkovnih monopolov in državni nadzor nad podatki, ki bo dovolj zahteven (beri: drag!), da si ga bodo lahko privoščili le veliki. Država, ki ne bo želela biti le kmet na tej šahovnici, se bo morala pred temi pritiski ubraniti in dostop do zbranih (državnih!) podatkov omogočati vsem po čim bolj izenačenih pogojih. Dva ključna cilja, ki ju bo morala politika prihodnosti rešiti, sta zato čim večja podatkovna transparentnost države in znanosti ter zakonodaja, ki bo omejevala zakonsko zaščito podatkovnih monopolov.
Naš domači maček je inteligentno in čuteče bitje. Vendar pa nikoli ne bo znal reševati diferencialnih enačb. So stvari, ki so preprosto onstran njegove biologije. Ljudje samovšečno verjamemo, da mej nimamo. Kaj pa, če jih imamo in nam bo v nekem trenutku stroj povedal resnico, ki je ne bomo sprejeli, ker je preprosto ne bomo razumeli? Od vseh preizkušenj, ki nas čakajo, bo morebitno priznanje lastne omejenosti največja!
Umetna inteligenca bo v naša življenja prinesla veselje in skrbi. Kratkoročno se bomo (za časa naših življenj!) verjetno lahko veselili temeljnega dohodka; več prostega časa in priložnosti za zdravo življenje; manj stresa in posledično splošni dvig emocionalne inteligence; in vojn brez človeških žrtev, ki jih bodo za nas bojevali droni. Skrbela pa nas bo naša naraščajoča odvisnost od umetne inteligence oziroma razkorak med tistim, kar bodo stroji znali, in tistim, kar bomo ljudje (od tega!) še razumeli; neoludizem oziroma odpor sindikatov do sprememb; in "vojne" korporacij in držav za podatke.
Kot vselej v zgodovini tudi tokrat največja nevarnost ne bo v mislečih strojih, ampak v našem odzivu nanje. Ključno strateško vprašanje za politiko jutrišnjega dne je zato predvsem to, kaj lahko danes storimo, da državo, narod in gospodarstvo pripravimo na te prihajajoče izzive in med preobrazbo utrpimo čim manj politične, gospodarske in socialne škode?
23