Torek, 16. 3. 2021, 16.01
3 leta, 9 mesecev
Bizarno dejanje mame utrjuje strah pred zločinom prihodnosti
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
7,40
2
Raffaela Spone je bila zaradi nenavadnega posredovanja v najstniški drami aretirana.
V Združenih državah Amerike odmeva dejanje mame, ki je s kontroverzno novo tehnologijo za ponarejanje človeških obrazov nadlegovala in ustrahovala vrstnice svoje najstniške hčere. Že nekaj časa sicer poslušamo opozorila, da je meja med uporabo tako imenovane tehnologije deepfake za zabavo ali za izvršitev kaznivih dejanj vse tanjša in da je samo še vprašanje časa, kdaj bodo računalniški ponaredki resničnih oseb postali mednarodna težava in celo grožnja svetovnemu miru.
50-letna Raffaela Spone iz ameriške zvezne države Pensilvanije je z aplikacijami, ki omogočajo prepričljivo preslikavo obraza resnične osebe na telo nekoga drugega, ustvarila tako imenovane deepfake fotografije in videoposnetke, ki so vsaj tri članice srednješolske navijaške skupine, v kateri sodeluje tudi njena hči, prikazovali v kočljivih položajih.
Deepfake oziroma globoki ponaredek, če izraz poskusimo prevesti v slovenski jezik, temelji na umetni inteligenci oziroma na tako imenovanem strojnem učenju. Gre za princip samoizobraževanja, pri katerem specializirani računalniški program analizira na desetine ali celo stotine ur videoposnetkov določene osebe, da bi razumel, kako se premika, govori, kako je videti pod različnimi koti in ob spremenljivi osvetlitvi. Program pridobljeno znanje nato prenese na obraz osebe, ki nastopa pred kamero oziroma na videoposnetku ali fotografiji, in ga zamenja z drugim. To je igralka Daisy Ridley, katere obraz je nekdo prenesel na pornoigralko.
Sponova, ki je fotografije obrazov vrstnic hčere našla na družbenih omrežjih, je ponarejene posnetke anonimno poslala tako dekletom kot trenerju navijaške ekipe. Posnetki so navijačice prikazovali gole oziroma med uživanjem alkohola in pri kajenju. Njen namen je bil doseči izključitev deklet iz skupine navijačic. Hči Sponove za početje mame ni vedela.
Motiv za dejanje Sponove uradno še ni znan, po besedah očeta ene od žrtev pa naj bi šlo za zamero, ki je ušla z vajeti. Oče navijačice, ki jo je s ponarejeno fotografijo ustrahovala 50-letnica, je to pred časom namreč prosil, naj se neha družiti s hčerko Sponove, saj naj bi s svojim vedenjem slabo vplivala na druga dekleta.
Preiskava kibernetskega nadlegovanja, ki se je začela julija lani, je kriminaliste do Raffaele Spone privedla prejšnji teden, ko so jo aretirali. Iz pripora so jo sicer že izpustiti, a pod pogojem, da se 30. marca udeleži zaslišanja.
Danes navijačica, ki kadi marihuano, jutri politik, ki napoveduje vojno
Incident z mamo navijačice, ki je pregloboko zabredla v najstniško dramo, odzvanja večletna opozorila glede vse naprednejše in široko dostopne tehnologije deepfake.
Po mnenju številnih strokovnjakov je samo še vprašanje časa, kdaj bo računalniško ponarejanje človeških obrazov postalo vektor napada ne le za maščevanje v primeru osebnih zamer kot pri Raffaeli Spone, temveč tudi v gospodarstvu in politiki.
S tehnologijo deepfake so do zdaj že ponarejali glas in stas svetovno znanih politikov, kot sta Donald Trump ali Barack Obama, a je bilo v vseh primerih, ki so dobili večjo pozornost javnosti, jasno, da gre za parodije oziroma prikaze delovanja tehnologije.
Ponekod, na primer v ameriški zvezni državi Kaliforniji, so že sprejeli zakone, ki kriminalizirajo uporabo tehnologije deepfake v primerih, ko avtor ponaredka od osebe na posnetku ne dobi dovoljenja za uporabo njenega obraza. Vse pogostejše so tudi iniciative za razvoj orodij za prepoznavanje tovrstnih ponarejenih videoposnetkov in fotografij.
Lažni Tom Cruise je bil morda točka preloma
Kot je pred nekaj tedni dokazal lažni, a strašljivo prepričljivi Tom Cruise, je s tehnologijo deepfake že danes mogoče pretentati večje število ljudi. Repliko filmskega zvezdnika, ki jo je ustvarila manjša produkcijska ekipa, je bilo na prvi pogled nemogoče ločiti od njenega resničnega hollywoodskega dvojnika.
Implikacije so zato skrb vzbujajoče: če lahko peščica ljudi z uporabo tehnologije, ki je na spletu brezplačno na voljo vsem, in nekaj filmskimi triki tako rekoč ponaredi človeka, kaj lahko potem stori nekdo na vrhu multinacionalke ali celo države?
Vemo že, da lahko pravi Elon Musk z nekaj besedami drastično premika ceno delnice Tesle. Kaj pa če bi s tehnologijo deepfake nekdo poskrbel, da bi Elon Musk rekel kaj bolj drastičnega? Ali pa da bi severnokorejski voditelj Kim Džong Un napovedal jedrsko vojno ZDA? Mimogrede, s Kim Džong Unom so z uporabo tehnologije deepfake pred kratkim naredili tole:
This WOMBO AI is crazy lol pic.twitter.com/A7aVT4ISBN
— heyben10 (@HeyBen10_) March 10, 2021
O takšnih scenarijih se v zadnjem času veliko govori v prihodnjiku, toda marsikdo opozarja, da je prihodnost že tu. Med njimi je znana etična hekerka Rachel Tobac, ki je ob pojavu videoposnetkov lažnega Toma Cruisa na Twitterju zapisala:
"Pred dvema letoma so me vprašali, kdaj bosta slika in zvok, ustvarjena s pomočjo tehnologije deepfake, dovolj prepričljiva za družbeni inženiring (metodo, s katero se kiberkriminalci izdajajo za nekoga drugega, op. p.). Takrat sem odgovorila, da smo od ponaredkov deepfake, ki jih ni mogoče prepoznati kot take, oddaljeni dve leti. Želim si, da bi se zmotila. Takoj potrebujemo orodja za zaznavanje tovrstnih medijskih vsebin."
Preberite tudi:
2