Nazaj na Siol.net

TELEKOM SLOVENIJE

Matic Tomšič

Četrtek,
16. 5. 2024,
20.25

Osveženo pred

3 tedne, 6 dni

Termometer prikazuje, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.

Termometer prikaže, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.

Thermometer Red 9,17

Natisni članek

Umetna inteligenca deepfake propaganda Kitajska Rusija Ukrajina

Četrtek, 16. 5. 2024, 20.25

3 tedne, 6 dni

Mlado Ukrajinko so klonirali in jo spremenili v Rusinjo, ki govori kitajsko #video

Matic Tomšič

Termometer prikazuje, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.

Termometer prikaže, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.

Thermometer Red 9,17
Ukrajinka posnetek | "Velika večina lažnih Rusinj v posnetkih je hvalila prijateljstvo oziroma odnose med Rusijo in Kitajsko, njuno skupno moč in zavezništvo. Hvalile so tudi Rusijo in kritizirale druge države, ki se odmikajo od nje. Nekateri profili so promovirali tudi ruske izdelke, predvsem prehrambne," je vsebino lažnih profilov, ki zlorabljajo njen videz in glas, opisala Loiekova in dodala, da je imel eden največjih skoraj 300 tisoč sledilcev. | Foto posnetek zaslona

"Velika večina lažnih Rusinj v posnetkih je hvalila prijateljstvo oziroma odnose med Rusijo in Kitajsko, njuno skupno moč in zavezništvo. Hvalile so tudi Rusijo in kritizirale druge države, ki se odmikajo od nje. Nekateri profili so promovirali tudi ruske izdelke, predvsem prehrambne," je vsebino lažnih profilov, ki zlorabljajo njen videz in glas, opisala Loiekova in dodala, da je imel eden največjih skoraj 300 tisoč sledilcev.

Foto: posnetek zaslona

Vse bolj pereča problematika uporabe umetnointeligenčnih orodij za širjenje propagande ali spletne prevare je napisala novo bizarno zgodbo. Njena glavna zvezda je Ukrajinka Olga Loiek, ustvarjalka vsebin za YouTube, ki jo je kitajsko-ruska propagandna naveza z uporabo umetne inteligence večkrat preimenovala v Rusinjo, ki kitajskemu občinstvu oglašuje ruske izdelke in predvsem hvali Rusijo ter odnose med Rusijo in Kitajsko. 

Enaindvajsetletna Ukrajinka Olga Loiek, ki je sicer študentka na ameriški univerzi Penn State, trenutno pa se je za eno leto preselila v bavarsko prestolnico München, je na svojem kanalu na YouTubu, kjer ima nekaj več kot 17 tisoč naročnikov, že pred tremi meseci opozorila, da so njeni videoposnetki zlorabljeni v oglaševalske in propagandne namene na Kitajskem, težavo pa je pred kratkim opisala tudi za britanski medij BBC.

"Videla sem svoj obraz, slišala sem svoj glas, a to nisem bila jaz. Iz mojih ust v videoposnetkih so prihajale besede, ki jih nisem nikoli izrekla, a ne le to, to so bile besede, ki jih nisem niti razumela," je povedala za BBC.

Videoposnetek, v katerem Olga Loiek pokaže, kako so jo klonirali na Kitajskem:

Najmanj 35 profilov z njenim obrazom, največjemu je sledilo več kot 300 tisoč ljudi

Kot je opisala v svojem videoposnetku na YouTubu, se je na kitajskih družbenih omrežjih oziroma platformah Xiaohongshu in Bilibili, gre za kitajska ustreznika nam znanim Instagramu in YouTubu, že leta 2023 pojavilo precej profilov, katerih upravljavci so se izdajali za različne Rusinje in objavljali videoposnetke.

Vse lažne Rusinje z obrazom in glasom 21-letne Ukrajinke so tekoče govorile mandarinščino oziroma kitajski jezik, ki ga Loiekova sicer ne zna govoriti in ga ne razume. Kot je povedala, so njene ukradene videoposnetke predelali s pomočjo umetnointeligenčnih orodij – nastali so tako imenovani posnetki deepfake oziroma globoki ponaredki. 

Samo z enim umetnointeligenčnim orodjem so ustvarili skoraj pet tisoč globokih ponaredkov 21-letne Ukrajinke. | Foto: posnetek zaslona Samo z enim umetnointeligenčnim orodjem so ustvarili skoraj pet tisoč globokih ponaredkov 21-letne Ukrajinke. Foto: posnetek zaslona

Od konca leta 2023 do zdaj je Ukrajinka zasledila oziroma so ji njeni sledilci pomagali odkriti že približno 35 profilov na kitajskih družbenih omrežjih, nekateri so imeli ob imenih sličico ruske zastave, ki so propagando ali izdelke širili z uporabo njenih predelanih videoposnetkov. 

"Velika večina lažnih Rusinj v posnetkih je hvalila prijateljstvo oziroma odnose med Rusijo in Kitajsko, njuno skupno moč in zavezništvo. Hvalile so tudi Rusijo in kritizirale druge države, ki se odmikajo od nje. Nekateri profili so promovirali tudi ruske izdelke, predvsem prehrambne," je vsebino profilov opisala Loiekova in dodala, da je imel eden največjih skoraj 300 tisoč sledilcev.

Kot je dejala Olga Loiek, jo zloraba njenih videoposnetkov za rusko-kitajske propagandne namene jezi in boli tudi osebno, saj ima v Ukrajini, ki jo je leta 2022 napadla in del okupirala Rusija, še vedno družino. 

Samo z enim orodjem so ustvarili skoraj pet tisoč videoposnetkov

Ko je Ukrajinka svojo težavo prek videoposnetka na svojem kanalu delila na YouTubu in ko je njen zaročenec o tem zapisal objavo, ki je postala na družbenem omrežju X, nekdanjem Twitterju, viralna, se je po poročanju BBC odzvalo podjetje HeyGen.

Gre za razvijalca umetnointeligenčnega orodja oziroma platforme, s katero so bili ustvarjeni njeni ponarejeni videoposnetki. Teh je bilo po navedbah podjetja HeyGen več kot 4.900. Njen obraz so nato blokirali, kar pomeni, da je ustvarjanje novih posnetkov deepfake z zlorabo videoposnetkov Olge Loiek s tem orodjem postalo nemogoče, je pa to seveda še vedno mogoče početi z drugimi.

Ameriški preiskovalni urad FBI je marca 2021 izdal uradno opozorilo zaradi grožnje tehnologije deepfake, s katero je med drugim mogoče ustvarjati prepričljive replike resničnih oseb ali pa iz nič narediti nove ljudi. FBI je že takrat napovedal, da se bo v letu 2022 začela poplava tako imenovanih sintetičnih vsebin, katerih namen bosta predvsem manipuliranje z javnim mnenjem v politične namene in spletne goljufije. | Foto: posnetek zaslona Ameriški preiskovalni urad FBI je marca 2021 izdal uradno opozorilo zaradi grožnje tehnologije deepfake, s katero je med drugim mogoče ustvarjati prepričljive replike resničnih oseb ali pa iz nič narediti nove ljudi. FBI je že takrat napovedal, da se bo v letu 2022 začela poplava tako imenovanih sintetičnih vsebin, katerih namen bosta predvsem manipuliranje z javnim mnenjem v politične namene in spletne goljufije. Foto: posnetek zaslona

Globoko ponarejanje je že težava tudi v Sloveniji

Na Siol.net smo v preteklih mesecih večkrat poročali, da so se med žrtvami generativne umetne inteligence oziroma tako imenovanih globokih ponaredkov znašli tudi že nekateri znani Slovenci.

Slovenski infektolog in pisatelj David Zupančič, ki je močno prisoten na družbenem omrežju Instagram, je bil v kratkem času kar dvakrat tarča goljufov, ki so njegove resnične videoposnetke zlorabili za promocijo finančnih goljufij in vprašljivih prehranskih dopolnil.

V začetku leta se je prek družbenega omrežja Facebook širil tudi videoposnetek, ki je bil prav tako povezan s poskusom finančne prevare, prikazoval pa je slovensko predsednico Natašo Pirc Musar med opisovanjem odlične poslovne priložnosti.

Pirc Musar deepfake
Novice Nevaren posnetek Pirc Musarjeve: govori, a to niso njene besede #video

 

Ne spreglejte