Četrtek, 4. 3. 2021, 9.28
2 leti, 10 mesecev
Resnica o posnetku Toma Cruisa, ki napoveduje nevarno prihodnost
Termometer prikazuje, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.
Termometer prikaže, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.
3,30
6
Prejšnji teden so marsikomu nelagodne občutke vzbujali videoposnetki, na katerem je filmski zvezdnik Tom Cruise čaral s kovancem, igral golf in se spotikal ob preproge. Šlo je namreč za tako strašljivo prepričljiv ponaredek igralčevega obraza in glasu, da so po svetu znova začeli zvoniti alarmi zaradi vse bolj dostopne tehnologije, ki to omogoča. Zdaj je sicer postalo jasno, da je šlo pri repliki Toma Cruisa za kompleksnejši projekt in ne le za računalniško predelavo njegovega obraza. A najverjetneje je le še vprašanje časa, kdaj bo takšne ponaredke lahko ustvarjal vsak.
Zdaj že umaknjeno serijo videoposnetkov, v katerih je v glavni vlogi nastopal Tom Cruise, je pretekli teden na družbeno omrežje Tik Tok objavil uporabnik z vzdevkom deeptomcruise.
Kot je namigoval že ta vzdevek, so bili videoposnetki prikaz delovanja tako imenovane tehnologije deepfake, ki omogoča računalniško poustvarjanje obraznih potez (in tudi glasu) drugih ljudi.
Deepfake oziroma globoki ponaredek, če izraz poskusimo prevesti v slovenski jezik, temelji na umetni inteligenci oziroma na tako imenovanem strojnem učenju.
Računalniško ustvarjeni Tom Cruise je v zadnjih dneh na družbenih omrežjih zmedel marsikoga.
Gre za princip samoizobraževanja, pri katerem specializirani računalniški program analizira na desetine ali celo stotine ur videoposnetkov določene osebe, da bi razumel, kako se premika, govori, kako je videti pod različnimi koti in ob spremenljivi osvetlitvi.
Program pridobljeno znanje nato prenese na obraz osebe, ki nastopa pred kamero oziroma na videoposnetku ali fotografiji, in ga zamenja z drugim, v konkretnem primeru z obrazom Toma Cruisa.
This is not Tom Cruise
— Damian Burns (@damianburns) February 26, 2021
This is a deep fake
This probably isn't great news for Cameo pic.twitter.com/CqkzNOAFQp
Čeprav je bilo na replikah obličja filmskega zvezdnika mogoče opaziti nekaj anomalij, ki so pozornemu očesu izdajale, da gre za ponaredek, je bil splošen konsenz spletne javnosti jasen: videoposnetki so strašljivo realistični in marsikdo bi z lahkoto verjel, da so pristni oziroma da v njih zares nastopa Cruise.
Takšnih videoposnetkov še ne more delati vsak, ...
Eden od razlogov za izredno prepričljivost norčij Toma Cruisa je dejstvo, da je šlo v resnici za profesionalno produkcijo, ustvarjalci pa si niso pomagali le z tehnologijo deepfake, temveč so k sodelovanju povabili tudi svetovno znanega imitatorja Toma Cruisa, ameriškega igralca Milesa Fisherja.
Fisher je leta 2019 zaslovel z viralnim videoposnetkom, v katerem je kot Tom Cruise napovedal kandidaturo za predsednika ZDA na lanskoletnih volitvah:
... a to je najverjetneje zgolj še vprašanje časa.
O tehnologiji deepfake se je v javnosti prvič resneje začelo govoriti pred tremi leti, ko je deepfake postal samostojna zvrst pornografije.
Navdušenci nad tehnologijo strojnega učenja in golimi telesi so obraze igralk v videoposnetkih za odrasle namreč začeli zamenjevati z obrazi zvezdnic iz sveta filma, glasbe in športa.
Daisy Ridley, igralka, ki je zaslovela z vlogo Rey v obuditvi filmske franšize Vojna zvezd, je bila ena prvih žrtev zlorabe tehnologije deepfake za prirejanje pornografskih filmov. Večina spletni strani, ki ponujajo dostop do pornografije, je to zvrst sicer prepovedala in umaknila s svojih platform.
Strokovnjaki za kibernetsko varnost so že takrat svarili, da lahko deepfake postane orožje, ki lahko, če pristane v napačnih rokah, pomeni grožnjo ne le ugledu posameznikov, temveč tudi demokraciji ali celo svetovnemu miru.
Tehnologija je dovolj dostopna, da lažni Joe Biden še danes napove vojno Rusiji
Težava je, da posamezniku ali organizaciji, za katerega se smatra, da ima "napačne roke", danes tako rekoč nič ne preprečuje, da bi ustvaril videoposnetek, na katerem lažni Joe Biden napove vojno Kitajski, Severni Koreji ali Rusiji.
Deepfake Vladimirja Putina o vmešavanju v volitve v ZDA in političnemu razkolu (via Wikimedia Commons):
Precej najbolj zmogljivih orodij za izdelavo tovrstnih ponaredkov je namreč odprtokodnih in so prosto dostopna na spletu, s časom pa postajajo vse bolj sofisticirana.
Replika Toma Cruisa, ki je na Tik Toku v nekaj dneh zbrala več kot deset milijonov ogledov, prek vseh platform, videoposnetki so bili namreč deljeni tudi na Twitterju in Instagramu, pa najverjetneje še nekajkrat toliko, je ponovno spodbudila pozive k pravni ureditvi področja posnetkov, pri katerih se uporablja strojno učenje, in kolaboraciji tehnoloških podjetij pri razvoju orodja za zanesljivo ločevanje lažnih posnetkov od pristnih.
Kako so ponaredili obraz Marka Zuckerberga, direktorja Facebooka:
Predloge za zakonsko regulacijo in sankcije za ponarejanje človeških obrazov je obravnavalo že kar nekaj svetovnih vlad, a na tem področju stvari za zdaj bolj ali manj stojijo, delno tudi zaradi aktualnih prioritet, saj se večina svetovnih držav bori proti epidemiji bolezni covid-19.
Eden redkih primerov, kjer je bila obravnava tehnologije dejansko vključena v veljavni zakon, se je zgodil decembra 2019, ko je nekdanji predsednik ZDA Donald Trump podpisal zakon o obrambnem proračunu Združenih držav Amerike za leto 2020.
Zakon je vladi ZDA med drugim naložil odgovornost, da pripravi poročilo o morebitni zlorabi tehnologije deepfake proti ZDA s strani tujih akterjev, da o morebitnih zaznanih primerih uporabe deepfake za vmešavanje v ameriške volitve obvesti kongres ZDA in da spodbudi razvoj tehnologij za zaznavanje manipuliranih posnetkov.
Preberite tudi:
6