umetna inteligenca
Sreda, 12. 6. 2019, 20.01
2 tedna
Zlovešče besede Kim Kardashian napovedale obdobje negotovosti
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
6,13
6
Levo "ponarejena", desno "resnična" Kim Kardashian. Nekdo, ki njenih dogodivščin na televiziji ne spremlja prav pogosto, bi težko uganil, da je na levi sliki njen obraz sestavil in ji besede v usta polagal računalniški algoritem.
Sodeč po lažnih videoposnetkih Kim Kardarshian, Marka Zuckerberga in Donalda Trumpa, ki jih je na družbenem omrežju Instagram v zadnjih dneh objavil britanski umetnik Bill Posters, na spletu morda kmalu ne bo več mogoče zagotovo vedeti, ali je oseba res izgovorila določene besede ali pa je šlo zgolj za računalniško simulacijo. Negotovost bo dodatno poglobil Facebook, lastnik Instagrama, saj ponarejenih videoposnetkov vsaj do nadaljnjega ne bo odstranjeval s svojih spletnih platform.
"Prek spleta res rada manipuliram z ljudmi in pri tem dobro zaslužim. Obogatela sem z osebnimi podatki tistih, ki me sovražijo," se v videoposnetku, ki ga je pred dnevi na Instagramu objavil Bill Posters, zlovešče pohvali starleta Kim Kardashian.
Mark Zuckerberg, ustanovitelj družbenega omrežja Facebook, v drugem videoposnetku medtem pove, da ima popoln nadzor nad ukradenimi podatki in vsemi skrivnostmi več milijard ljudi.
Posters je objavil tudi videoposnetek Donalda Trumpa, ki se pohvali, da tako priljubljen ni postal zgolj zaradi svojih možganov, temveč zaradi računalniških algoritmov in osebnih podatkov.
Marsikdo, ki ne ve, kaj natanko gleda, bo težko opazil, da je kaj narobe
Bill Posters je zgornje videoposnetke v sodelovanju z izraelskim tehnološkim podjetjem CannyAI izdelal za nedavno umetniško razstavo Spectre, uporabil pa je računalniško tehniko, ki ima vzdevek deepfake.
Tole je prizor iz pornografskega filma, v katerem je po zaslugi tehnike deepfake ob koncu leta 2017 neprostovoljno nastopala Daisy Ridley, filmska zvezdnica iz sage Vojna zvezd. | Foto: Reddit
Gre za način ustvarjanja lažnih posnetkov s pomočjo računalniških orodij za tako imenovano strojno učenje, kot sta lahko tudi vsakomur dostopna Googlov Tensor Flow in Keras.
Nekdo, ki želi narediti deepfake, v računalniški algoritem vnese fotografije in videoposnetke obraza, ki ga želi ponarediti, nato pa algoritem z analizo teh posnetkov uri tako dolgo, dokler ne zna sam narediti dovolj prepričljive obrazne mimike.
Lažno osebo lahko še vedno izda glas, kar je še posebej očitno v zgornjem primeru Marka Zuckerberga, ki v resnici niti malo ne zveni tako, a tudi to oviro je mogoče preskočiti z orodji za napredno sintezo glasu, kot je prototipni Adobe Voco:
Facebook: videoposnetki deepfake, tudi tisti, v katerih nastopa naš ustanovitelj, bodo ostali na Instagramu
Čeprav Bill Posters v videoposnetku z izjavami o nadzoru nad milijardami ljudi brije norce iz Marka Zuckerberga, Facebook, ki je lastnik Instagrama, tega videoposnetka in tudi drugih do nadaljnjega ne bo izbrisal z družbenega omrežja.
Facebook je pred tedni namreč postavil pomemben precedens s tem, ko ni odstranil predelanega videoposnetka ameriške političarke Nancy Pelosi, ki je gledalcu dajal vtis, da je Pelosijeva pijana.
Mark Zuckerberg je po poročanju ameriških medijev v preteklih dneh poskusil večkrat poklicati Pelosijevo in ji razložiti, zakaj so se pri Facebooku odločiti tako, a se mu ni želela javiti.
Facebookov predstavnik za odnose z javnostjo Neil Potts je takrat zagotovil, da Facebook ne bi izbrisal niti lažnega posnetka svojega ustanovitelja Marka Zuckerberga.
Vsebine, ki jih je na Instagram naložil Bill Posters, do nadaljnjega tako ostajajo na spletu, je pa mogoče, da bo posnetek Zuckerberga izginil iz drugega razloga, in sicer zato, ker brez dovoljenja prikazuje avtorsko lastnino ameriške medijske hiše CBS. Izvirni videoposnetek je namreč nastal pred kamerami ameriškega televizijskega kanala CBSN.
ZDA je negotovosti, ki bi jo lahko prinesli videoposnetki deepfake, pred prihajajočimi predsedniškimi volitvami strah tako zelo, da imajo kongresniki jutri izredno zasedanje
Tehnologija deepfake glede na to, za kaj vse so jo že uporabili, vsaj za zdaj prinaša več skrbi kot morebitnih prednosti ali priložnosti.
Po ustvarjanju pornografskih filmov z obrazi filmskih in glasbenih zvezdnic ter maščevalni pornografiji, pri katerih so jezni partnerji obraze igralk v filmih za odrasle zamenjali s svojimi nekdanjimi partnericami ter posnetke objavili na spletu, kritike tehnologije najverjetneje upravičeno skrbi, da so naslednji korak zelo sofisticirane lažne novice, ki bodo poskusile zanihati javno mnenje pri pomembnih problematikah, kot so politika, zdravstvo, šolstvo.
Skrb zaradi deepfakes je še toliko bolj upravičena, če pomislimo, koliko oseb že zdaj verjame lažnim novicam vseh vrst. Kako se bodo tisti, ki danes zagovarjajo teorije zarot o cepljenju, manipulaciji vremena, terorističnih napadih in ploščati Zemlji ter na Facebooku delijo lažne nagradne igre za avtomobile, odzvali šele na ponarejene videoposnetke politikov, znanstvenikov, zdravnikov in drugih prepoznavnih oseb, ki bodo potrjevali njihova prepričanja?
Ameriški kongres prav zaradi tega jutri gosti eno od prvih velikih zasedanj o deepfakes na svetu. V ZDA se namreč približujejo predsedniške volitve, ameriški politični vrh pa skrbi, da bi morebitni zelo prepričljivi lažni posnetki kandidatov lahko odločilno vplivali na končno izbiro naslednjega predsednika ali predsednice.
Preberite tudi:
6