Nazaj na Siol.net

TELEKOM SLOVENIJE

Matic Tomšič

Torek,
16. 3. 2021,
16.01

Osveženo pred

3 leta, 8 mesecev

Termometer prikazuje, kako vroč je članek.

Termometer prikaže, kako vroč je članek.

Thermometer Orange 7,40

2

Natisni članek

Natisni članek

deepfake

Torek, 16. 3. 2021, 16.01

3 leta, 8 mesecev

Bizarno dejanje mame utrjuje strah pred zločinom prihodnosti

Matic Tomšič

Termometer prikazuje, kako vroč je članek.

Termometer prikaže, kako vroč je članek.

Thermometer Orange 7,40

2

Raffaela Spone | Raffaela Spone je bila zaradi nenavadnega posredovanja v najstniški drami aretirana.  | Foto Policijska postaja Hilltown, Pensilvanija

Raffaela Spone je bila zaradi nenavadnega posredovanja v najstniški drami aretirana.

Foto: Policijska postaja Hilltown, Pensilvanija

V Združenih državah Amerike odmeva dejanje mame, ki je s kontroverzno novo tehnologijo za ponarejanje človeških obrazov nadlegovala in ustrahovala vrstnice svoje najstniške hčere. Že nekaj časa sicer poslušamo opozorila, da je meja med uporabo tako imenovane tehnologije deepfake za zabavo ali za izvršitev kaznivih dejanj vse tanjša in da je samo še vprašanje časa, kdaj bodo računalniški ponaredki resničnih oseb postali mednarodna težava in celo grožnja svetovnemu miru.

Tete in strici iz ozadja
Novice Strici in tete iz ozadja, ki z javnim mnenjem manipulirajo tudi v Sloveniji

50-letna Raffaela Spone iz ameriške zvezne države Pensilvanije je z aplikacijami, ki omogočajo prepričljivo preslikavo obraza resnične osebe na telo nekoga drugega, ustvarila tako imenovane deepfake fotografije in videoposnetke, ki so vsaj tri članice srednješolske navijaške skupine, v kateri sodeluje tudi njena hči, prikazovali v kočljivih položajih.

Deepfake oziroma globoki ponaredek, če izraz poskusimo prevesti v slovenski jezik, temelji na umetni inteligenci oziroma na tako imenovanem strojnem učenju. Gre za princip samoizobraževanja, pri katerem specializirani računalniški program analizira na desetine ali celo stotine ur videoposnetkov določene osebe, da bi razumel, kako se premika, govori, kako je videti pod različnimi koti in ob spremenljivi osvetlitvi. Program pridobljeno znanje nato prenese na obraz osebe, ki nastopa pred kamero oziroma na videoposnetku ali fotografiji, in ga zamenja z drugim. To je igralka Daisy Ridley, katere obraz je nekdo prenesel na pornoigralko.  | Foto: Deepfake oziroma globoki ponaredek, če izraz poskusimo prevesti v slovenski jezik, temelji na umetni inteligenci oziroma na tako imenovanem strojnem učenju. Gre za princip samoizobraževanja, pri katerem specializirani računalniški program analizira na desetine ali celo stotine ur videoposnetkov določene osebe, da bi razumel, kako se premika, govori, kako je videti pod različnimi koti in ob spremenljivi osvetlitvi. Program pridobljeno znanje nato prenese na obraz osebe, ki nastopa pred kamero oziroma na videoposnetku ali fotografiji, in ga zamenja z drugim. To je igralka Daisy Ridley, katere obraz je nekdo prenesel na pornoigralko.

Sponova, ki je fotografije obrazov vrstnic hčere našla na družbenih omrežjih, je ponarejene posnetke anonimno poslala tako dekletom kot trenerju navijaške ekipe. Posnetki so navijačice prikazovali gole oziroma med uživanjem alkohola in pri kajenju. Njen namen je bil doseči izključitev deklet iz skupine navijačic. Hči Sponove za početje mame ni vedela.

Motiv za dejanje Sponove uradno še ni znan, po besedah očeta ene od žrtev pa naj bi šlo za zamero, ki je ušla z vajeti. Oče navijačice, ki jo je s ponarejeno fotografijo ustrahovala 50-letnica, je to pred časom namreč prosil, naj se neha družiti s hčerko Sponove, saj naj bi s svojim vedenjem slabo vplivala na druga dekleta. 

Preiskava kibernetskega nadlegovanja, ki se je začela julija lani, je kriminaliste do Raffaele Spone privedla prejšnji teden, ko so jo aretirali. Iz pripora so jo sicer že izpustiti, a pod pogojem, da se 30. marca udeleži zaslišanja.

Novice To bo kmalu najnevarnejši človek na svetu. Ujeli ga ne bodo nikoli.

Danes navijačica, ki kadi marihuano, jutri politik, ki napoveduje vojno 

Incident z mamo navijačice, ki je pregloboko zabredla v najstniško dramo, odzvanja večletna opozorila glede vse naprednejše in široko dostopne tehnologije deepfake. 

Po mnenju številnih strokovnjakov je samo še vprašanje časa, kdaj bo računalniško ponarejanje človeških obrazov postalo vektor napada ne le za maščevanje v primeru osebnih zamer kot pri Raffaeli Spone, temveč tudi v gospodarstvu in politiki.

S tehnologijo deepfake so do zdaj že ponarejali glas in stas svetovno znanih politikov, kot sta Donald Trump ali Barack Obama, a je bilo v vseh primerih, ki so dobili večjo pozornost javnosti, jasno, da gre za parodije oziroma prikaze delovanja tehnologije. | Foto: Reuters S tehnologijo deepfake so do zdaj že ponarejali glas in stas svetovno znanih politikov, kot sta Donald Trump ali Barack Obama, a je bilo v vseh primerih, ki so dobili večjo pozornost javnosti, jasno, da gre za parodije oziroma prikaze delovanja tehnologije. Foto: Reuters

Ponekod, na primer v ameriški zvezni državi Kaliforniji, so že sprejeli zakone, ki kriminalizirajo uporabo tehnologije deepfake v primerih, ko avtor ponaredka od osebe na posnetku ne dobi dovoljenja za uporabo njenega obraza. Vse pogostejše so tudi iniciative za razvoj orodij za prepoznavanje tovrstnih ponarejenih videoposnetkov in fotografij. 

Lažni Tom Cruise je bil morda točka preloma

Kot je pred nekaj tedni dokazal lažni, a strašljivo prepričljivi Tom Cruise, je s tehnologijo deepfake že danes mogoče pretentati večje število ljudi. Repliko filmskega zvezdnika, ki jo je ustvarila manjša produkcijska ekipa, je bilo na prvi pogled nemogoče ločiti od njenega resničnega hollywoodskega dvojnika.

Implikacije so zato skrb vzbujajoče: če lahko peščica ljudi z uporabo tehnologije, ki je na spletu brezplačno na voljo vsem, in nekaj filmskimi triki tako rekoč ponaredi človeka, kaj lahko potem stori nekdo na vrhu multinacionalke ali celo države?

Vemo že, da lahko pravi Elon Musk z nekaj besedami drastično premika ceno delnice Tesle. Kaj pa če bi s tehnologijo deepfake nekdo poskrbel, da bi Elon Musk rekel kaj bolj drastičnega? Ali pa da bi severnokorejski voditelj Kim Džong Un napovedal jedrsko vojno ZDA? Mimogrede, s Kim Džong Unom so z uporabo tehnologije deepfake pred kratkim naredili tole:

O takšnih scenarijih se v zadnjem času veliko govori v prihodnjiku, toda marsikdo opozarja, da je prihodnost že tu. Med njimi je znana etična hekerka Rachel Tobac, ki je ob pojavu videoposnetkov lažnega Toma Cruisa na Twitterju zapisala:

"Pred dvema letoma so me vprašali, kdaj bosta slika in zvok, ustvarjena s pomočjo tehnologije deepfake, dovolj prepričljiva za družbeni inženiring (metodo, s katero se kiberkriminalci izdajajo za nekoga drugega, op. p.). Takrat sem odgovorila, da smo od ponaredkov deepfake, ki jih ni mogoče prepoznati kot take, oddaljeni dve leti. Želim si, da bi se zmotila. Takoj potrebujemo orodja za zaznavanje tovrstnih medijskih vsebin."

Preberite tudi:

heker
Novice Prihodnost zločina? Na nenavaden način so ukradli 220 tisoč evrov.
facebook
Novice Facebook zapira vrata manipuliranim medijskim vsebinam

 

 

 

Ne spreglejte