Žiga Turk: Praznik dela umetne inteligence

V tridesetih dneh do avtomata

Obeta se možnost, da bi ljudem, ki v tridesetih dneh ne bodo prišli do zdravnika, v tridesetih dneh ponudili dostop do računalniškega oraklja. Ta bi lahko s pomočjo umetne inteligence postavil diagnozo in svetoval zdravljenje. 

"Poleg tega bi lahko algoritmi pomagali zdravnikom pri postavljanju diagnoz, saj bi lahko stroj hitro pregledal množico podatkov in prepoznal vzorce, ki jih človeški zdravnik morda ne bi opazil. Tudi v farmacevtski industriji se obeta veliko sprememb. Umetna inteligenca bi lahko pomagala pri razvoju novih zdravil in pospešila proces testiranja. Vendar pa nekateri opozarjajo na etične in pravne izzive, ki jih prinaša uporaba umetne inteligence v medicini. Velja se vprašati, ali je zdravljenje s strojem lahko enako učinkovito kot tisto, ki ga izvajajo človeški zdravniki, ali pa se lahko zgodi, da bodo stroji v določenih primerih postali prevladujoči. Prav tako je pomembno zagotoviti, da bodo osebni podatki pacientov varni in da ne bodo padli v napačne roke. Kako se bomo spopadali s temi izzivi, pa bo odvisno od nadaljnjega razvoja tehnologije in usmeritve vladnih politik. Kljub temu pa je očitno, da se medicina spreminja in da nam bo umetna inteligenca v prihodnosti pomagala pri reševanju številnih zdravstvenih težav. Vprašanje ostaja, ali nam bo z njo uspelo obvladati naravno neumnost, ki je tako pogosta pri ljudeh."

Prejšnji odstavek sem dal končati takemu oraklju, ki zadnje tedne po internetu vznikajo kot gobe po dežju. Do zadnje črke je delo storitve ChatGPT, ki je vgrajena v spleti urejevalnik Lex.page. Ko ne vem, kako bi nadaljeval, stisnem Ctrl-K in izberem "AI:continue writing". In mi sestavi odstavek. Podobno rešitev imam za Gmail. Na dolgovezne in vsebinsko prazne e-maile zna avtomatsko sestaviti še daljše in povsem solidne odgovore.

Glede na to, da smo maloprej intenzivno praznovali praznik dela, in glede na to, da si lenuhi obetajo, da bodo stroji deli namesto njih, se bom odpovedal komentiranju tragične politično-kulturne realnosti in nanizal nekaj misli ob najbolj dramatičnem tehnološkem preboju zadnjih let. Stroji postajajo boljši od ljudi v opravilih, ki smo jih imeli za najbolj človeške in najbolj inteligentne. Kakšen udarec za človeški napuh!

Stable Diffusion na prompt "Soviet style 1st of may poster with robots instead of people" avtorja kolumne Foto: Stable Diffussion

Umetna neinteligenca

Starejše generacije računalnikarjev se spominjamo programov tipa Eliza, ki so dajali vtis, da se pogovarjamo s človekom. Že včeraj nam je skoraj vsaka resna storitev na internetu, pa naj gre za banko, davkarijo, trgovino, ponujala klepetuljo v podporo. Zadeve so delovale bolj za silo. Če Eliza ni vedela, kaj bi odgovorila, je pač zapisala: "In zakaj tako mislite?" Klepetulje so po žličkah naučili tisto, kar naučijo ljudi, ki so zadolženi za telefonsko podporo. Če stranka omeni to, mu povej to. Če ni WiFi-omrežja, naj resetira router. Če nobena lučka na routerju ne gori, naj pogleda, če je zadeva vtaknjena v elektriko …

Tudi prvi šahovski programi so delovali tako. Če nasprotnik naredi to, ti naredi to. Če je situacija na šahovnici taka, je tvoj položaj vreden toliko, če je drugačna, je vreden toliko. Formule za izračun so v program zapekli, potem pa je program poskušal različne poteze pa možne odgovore nasprotnika in poskušal najti najboljšo potezo.

Umetna inteligenca se je tudi sama učila. Na začetku smo jo razumeli, saj je znanje spravljala npr. v odločitvena drevesa. Z delom na tem področju je prof. Ivan Bratko Slovenijo postavil na svetovni zemljevid umetne inteligence. Imaš vročino? Ne. Ti teče iz nosu? Da. Je izcedek gost ali redek? Redek? Trikrat se je stroj na križišču odločil in privedlo ga je do odločitve, da gre za alergijo. Kako se je naučil? Pokazali so mu tisoče rešenih primerov, torej simptomov plus diagnozo, tisočprvo diagnozo pa je na podlagi simptomov postavil sam.

Kaj se pravi misliti

Heidegger bi rekel, da se temu zgoraj "ne pravi misliti". Nekaterim filozofom, pa tudi računalnikarjem je bilo ves čas jasno, da ljudje večinoma ne razmišljamo tako, kot razlagamo, da razmišljamo. Razlagamo simbolično, z besedami in risbami, mislimo pa brez simbolov. Žogo ujamemo, ne ker bi poznali zakone Newtonove fizike in izračunali trajektorijo leta, ampak ker imamo izkušnje, kako leti. Ujamemo jo, ne da bi se posebej obremenjevali, da gre za žogo.

Prav tako govorimo slovensko, ne ker bi poznali slovnico, ampak ker smo poslušali druge, kako govorijo. Vemo, kako se upogne deska, ko na položeno čez jarek stopimo nanjo, ne da bi poznali teorijo elastičnosti. Deska bo kot deska stopila pred nas šele, ko se bo zlomila.

Mojstri z izkušnjami so dolgo gradili in se zadeve niso podirale, ne da bi poznali teorijo. Slavni Galileo Galilej se je za trikrat zmotil, v nevarno stran, ko je študiral, koliko obtežbe prenese konzola. Pa vsi balkoni iz časa renesančne Italije vseeno stojijo. Ker so zgrajeni po občutku.

Študente danes naučimo teorije in formule, da bi tudi ne preveč bister inženir lahko balkon načrtal tako, da se ne bo podrl. Namesto občutka, izkušenj ali genialnosti ima formulo, v katero vstavi podatke. Ta pa mora biti pravilna.

Senzorični red nevronskih mrež

Simbolična umetna inteligenca je delovala spodobno, ne pa vrhunsko. Ko so računalniki postali zmogljivejši, so se umetne inteligence lotili povsem drugače − s simulacijo mehanizmov, ki se dogajajo med nevroni v možganih, in z mehanizmi učenja, ki tečejo med nevroni. Izkušnje človeka ali učni primeri za stroj nekatere povezave med njimi krepijo, druge pa slabijo.

"Tako so stroji postali sposobni sami sebe naučiti stvari, ne da bi jim morali vsako stvar posebej vcepiti. Pri tem uporabljajo podatke, ki jim jih podamo, nato pa sami na teh podatkih iščejo vzorce in gradijo modele, ki jih potem uporabijo za reševanje novih problemov. Tako lahko stroji učinkoviteje rešujejo probleme in predstavljajo vse večjo konkurenco ljudem, tudi na področju medicine." (Tole je spet en vložek, ki sem ga dal napisati umetni inteligenci. Ki se kar ne more otresti ideje, da pišem o tridesetih dneh do specialista. Pa še kaj bi besedilu lahko očital, recimo glede modelov, ampak nimam prostora za to.)

Stroji se učijo boljše od ljudi. Pred dnevi smo brali, da se je stroj iz magnetne resonance možganov naučil brati misli. Da bo umetna inteligenca izjemo sposobna pri analitičnem delu, torej ko razpozna vzorec, je bilo pričakovano. V zadnjih mesecih pa je presenetilo, kako dobri so stroji, ko gre za ustvarjanje, generiranje informacij − besedil, slik in videa.

Avtor DALL-E na prompt "Man and robot playing chess in a room full of smoke due to fire in the style of Rembrandt" avtorja kolumne Foto: DALL-E

Učiti se, učiti se in še enkrat učiti se

Namesto da bi računalnik po žičkah naučili igrati šah, so mu povedali samo pravila, potem pa ga pustili, da je igral sam s seboj. In je ugotavljal, kaj deluje in kaj ne. V štirih urah se je naučil igrati bolje od vsakega človeka, v dobrem dnevu bolje od vsakega računalniškega programa. Na podoben način je isti Googlov sistem strl človeka pri igranju igre Go (več v tej kolumni).

Dokler je šlo za šah, smo se tolažili s tisto Holtovo anekdoto, ki jo je populariziral Terry Winograd, namreč, "sijajna šahovska poteza, medtem ko se prostor polni z dimom, ker hiša gori, ne kaže inteligence. Če si zmogljivost za briljantne šahovske poteze, ne glede na življenjske okoliščine, zasluži ime, bi jo seveda poimenoval umetna inteligenca."

Kazalo je, da je računalnik sicer lahko dober, ampak na ozkih področjih. In potem se je zgodil GPT 3 in pred tedni GPT 4: generativni predtrenirani transformator. Stroj, ki je natreniran, da generira transformacije besedil − iz enega jezika v drugega, iz celote v povzetek ali iz začetka v nadaljevanje.

Umetna inteligenca je pametno spregovorila. Kaj pametno grozi, da bo zdaj, zdaj pametnejša od nas. Teče globalna tekma, kdo bo naredil pametnejši stroj. Investicije so izjemne, letos že za približno pol slovenskega proračuna. Dve ameriški podjetji, Google in OpenAI, proti Kitajcem. Nekaj poskušajo tudi Rusi. Zdi se, da je umetna splošna inteligenca (Artificial general inteiligence − AGI) samo še vprašanje mesecev. Ali pa tisti G stoji celo za "God like", za Bogu podobno umetno inteligenco.

Nekatere je strah. Prebrati je mogoče nekaj paničnih zapisov, da bi bilo treba ves razvoj za pol leta ustaviti in premisliti, kako naprej. Kot da bi se človek ustrašil, da ne bo več najpametnejše bitje v vesolju. Da ne bo več njegov razum merilo vsega. Ampak nekaj drugega. Da mu bo nekdo ali nekaj povedalo, kar bo res in prav, pa ne bo razumel, zakaj tako. Manj preplašeni ugovarjajo, da umetna inteligenca "ni samo sebe ustvarila in je po njej ni vse ustvarjeno", če si izposodim besedilo iz Vere. Mi smo jo naredili. Je še en sijajen dosežek človeškega uma!

Avtor DALL-E na prompt "Adam and Eve in the Garden of Eden holding logo of Apple Computers. In the style of Renaissance masters" avtorja kolumne Foto: DALL-E

Računalnik bo jedel od drevesa spoznanja

Človek se je svojega uma zavedel, ko je jedel od drevesa spoznanja. Ko je Eva pregovorila Adama, da je zagrizel v tisto jabolko. Od takrat ločimo slabo in dobro, prav in narobe. Peggy Noonan je pred tedni v Wall Street Journalu opozorila, da od tod morda nezavedno izvira simbol podjetja Apple − odgriznjeno jabolko spoznanja. Zaradi digitalne tehnologije naj bi bila človekova moč razlikovanja in mišljenja še močnejša, avtorji in lastniki orodij pa prihodnji bogovi.

Ampak zdaj gre za nekaj drugega. Morda pa človek zaključuje fazo, trajala je samo par sto let, ko se je imel za najbolj pametnega in si posameznik je lasten razum postavil za merilo vsega. Pred tem je bilo merilo vsega vsota vsega razuma in izkušenj vseh predhodnih generacij. Ali Bog, če hočete. Kakšna zadeva je bila sveta, ker je sveta pač bila, ne, ker bi nekdo vzorčno-posledično s previdnostnim pravilom ali analizo cost-benefit utemeljil, zakaj je zadeva urejena, kot je. Recimo evtanazija.

Zdaj se obeta, da bomo neke "resnice" dobivali od umetne inteligence. Ki se je učila od vsega, kar smo kdaj napisali. Žal smo večino vsega napisali v zadnjih dvajsetih letih. Toda ne bo znala pojasniti, zakaj se je tako odločila. Ali pa se bo celo naučila pojasniti tako, da bomo pač s pojasnilom zadovoljni. Kot se nauči, kaj na Facebooku radi gledamo in na Amazonu radi kupujemo.

Nerazumni genij

Nekateri so navdušeni, kaj vse zmore, realisti pa ocenjujejo, da to mogoče kaže, da to, kar imamo ljudje za silen znak inteligence, ni nič tako izjemnega. Kar me malo spominja na tisti pregovor, da je nekoč bila slovenščina lahka, znali so jo celo otroci, potem so slavisti napisali slovnico. Mimogrede, vsi ti sistemi prav lepo obvladajo slovenščino, ne da bi jih kdorkoli karkoli učil. Lepo spregajo in sklanjajo, uporabljajo dvojino, včasih vikajo socialno, praviloma pa gosposko. Kot so se pač iz primerov na spletu naučili.

In ja, sistemi so se učili iz praktično vsega besedila, ki na svetu obstaja v digitalni obliki (ocena je do 10 TB). Učenje je stalo okrog 100 milijonov dolarjev, obsegalo deset na 24. potenco operacij s plavajočo vejico in bi na običajnem prenosniku trajalo približno pol milijona let. In kar so se sistemi naučili, je pravzaprav samo eno − kako bi človek nadaljeval pogovor. Kaj bi človek narisal. Kako bi človek odgovoril na vprašanje. Ničesar ne razumejo, v ozadju odgovorov ni nobene globine, nobene teorije, nobenega poznavanja slovnice ali razumevanja fizikalnega sveta, da o smislu življenja ne govorimo.

Če se komu zdi, da je tak sistem napisal kaj globokega ali pronicljivega, je to zato, ker besede same po sebi nič ne pomenijo. Pomen nastane v glavi tistega, ki besede bere. Nam se zdi pametno, kar je stroj odpisal, ker smo mi pametni, ker imamo mi, upam, neko globlje znanje ali uvid v stvari. Ker bivamo v svetu, kot bi rekel Heidegger. Zapisane besede so samo simbolični odmev tega.

ChatGPT in podobni sistemi so izjemno izkušen, genialen mojster, ki pa ne razume ničesar. Ki ostaja v svetu besed in slik, torej simbolov. Simboli so vse, kar imamo za komunikacijo in so v komunikacijski eri v ospredju, a vendar sta tu še drugi dve oglišči semiotičnega trikotnika − resnični svet in, kot jim je rekel Aristotel, izkušnje v mentalni duši, ali Hayek, senzorični red. Ideje v glavi, ki so in ki postanejo besede šele, ko jih moramo komu razložiti. Prihajajo časi, ko nam bodo stroji povedali marsikaj, ne da bi vedeli, za kaj ti simboli sploh stojijo.

Skratka

"Spremembe so del človeške zgodovine in napredek je neizogiben. Pomembno je, da se prilagajamo novim tehnologijam in se zavedamo njihovih prednosti ter omejitev. Res pa je, da se prilaganje znanju in novim veščinam razvija s hitrostjo napredka. Smiselno bi bilo nadaljevati razvoj in izobraževanje v smeri, ki nam omogoča, da izkoristimo vse dobro, kar tehnologija ponuja, hkrati pa se zavedamo etičnih izzivov in vpliva na družbo ter se nanje primerno odzivamo," pravi moj pomočnik, in, priznajte, to bi lahko napisala tudi ministrica za informacijsko družbo.

Zdaj pa resno. Obeta se, da nas bodo stroji nadomestili še pri eni družini nalog. Tokrat pri tistih, za katere smo menili, da terjajo inteligenco. Cel kup poklicev, ki si pošiljajo papirje sem in tja, bo to lahko počelo dosti učinkoviteje. Nova orodja je pametno zgrabiti z obema rokama. Kdor novih orodij ne bo znal izkoristiti, bo res ostal brez službe.

Panika je odveč. Stroj zna nadaljevati misel, ki jo začnemo. Stroji nam bodo povedali stvari, ki jih nismo vedeli. Našli bodo vzorce, ki jih ljudje nismo opazili. Delili bodo nasvete, ki bodo morda boljši od nasveta strokovnjaka. Ali pa ne. Galileo se je pri konzoli zmotil za faktor tri. Umetna inteligenca se lahko zmoti za faktor trideset. Nekdo, ki zadevo razume, jo bo moral preverjati. Umetna inteligenca lahko laže in ponareja. Strojem bomo zaupali manj, ne več.

Nam bo zato zmanjkalo dela? Je zmanjkalo dela zaradi pralnih in fotokopirnih strojev? Dokler bomo ljudje želeli živeti bolje, bo to terjalo delo. Nekatera dela bodo opravili stroji. Ljudje bodo prosti za druga. Dela. Ljudje smo tako ustvarjeni, da nam prinaša zadovoljstvo, če nekaj dobro naredimo, če nekaj lahko naredimo za drugega in če nam nekdo drug nekaj naredi. Nekateri bodo bolj, drugi manj uspešni, in glede na uspešnost pri delu nagrajeni.

Dokler delimo dobrine po delu, je vsak sam svoje sreče kovač. Če jih delimo po potrebah, kar je stara utopija marksistov in lenuhov, o naši sreči odloča politika. Glede na to, ali se ji dovolj pridno klanjamo.

Samo tu je resnična nevarnost strojev − "da bi porušili ravnotežje med delom, trudom in uspehom, med nagrado posameznikom za njihov prispevek k družbi. S tem bi posamezniki morda izgubili motivacijo za osebna rast in razvoj, saj bi se zanašali na avtomatizacijo in doseganje ciljev prek tehnoloških orodij."

… sem pustil zaključiti stroju.