umetna inteligenca
Četrtek, 16. 5. 2024, 20.25
1 mesec, 2 tedna
Mlado Ukrajinko so klonirali in jo spremenili v Rusinjo, ki govori kitajsko #video
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
9,17
"Velika večina lažnih Rusinj v posnetkih je hvalila prijateljstvo oziroma odnose med Rusijo in Kitajsko, njuno skupno moč in zavezništvo. Hvalile so tudi Rusijo in kritizirale druge države, ki se odmikajo od nje. Nekateri profili so promovirali tudi ruske izdelke, predvsem prehrambne," je vsebino lažnih profilov, ki zlorabljajo njen videz in glas, opisala Loiekova in dodala, da je imel eden največjih skoraj 300 tisoč sledilcev.
Vse bolj pereča problematika uporabe umetnointeligenčnih orodij za širjenje propagande ali spletne prevare je napisala novo bizarno zgodbo. Njena glavna zvezda je Ukrajinka Olga Loiek, ustvarjalka vsebin za YouTube, ki jo je kitajsko-ruska propagandna naveza z uporabo umetne inteligence večkrat preimenovala v Rusinjo, ki kitajskemu občinstvu oglašuje ruske izdelke in predvsem hvali Rusijo ter odnose med Rusijo in Kitajsko.
Enaindvajsetletna Ukrajinka Olga Loiek, ki je sicer študentka na ameriški univerzi Penn State, trenutno pa se je za eno leto preselila v bavarsko prestolnico München, je na svojem kanalu na YouTubu, kjer ima nekaj več kot 17 tisoč naročnikov, že pred tremi meseci opozorila, da so njeni videoposnetki zlorabljeni v oglaševalske in propagandne namene na Kitajskem, težavo pa je pred kratkim opisala tudi za britanski medij BBC.
"Videla sem svoj obraz, slišala sem svoj glas, a to nisem bila jaz. Iz mojih ust v videoposnetkih so prihajale besede, ki jih nisem nikoli izrekla, a ne le to, to so bile besede, ki jih nisem niti razumela," je povedala za BBC.
Videoposnetek, v katerem Olga Loiek pokaže, kako so jo klonirali na Kitajskem:
Najmanj 35 profilov z njenim obrazom, največjemu je sledilo več kot 300 tisoč ljudi
Kot je opisala v svojem videoposnetku na YouTubu, se je na kitajskih družbenih omrežjih oziroma platformah Xiaohongshu in Bilibili, gre za kitajska ustreznika nam znanim Instagramu in YouTubu, že leta 2023 pojavilo precej profilov, katerih upravljavci so se izdajali za različne Rusinje in objavljali videoposnetke.
Vse lažne Rusinje z obrazom in glasom 21-letne Ukrajinke so tekoče govorile mandarinščino oziroma kitajski jezik, ki ga Loiekova sicer ne zna govoriti in ga ne razume. Kot je povedala, so njene ukradene videoposnetke predelali s pomočjo umetnointeligenčnih orodij – nastali so tako imenovani posnetki deepfake oziroma globoki ponaredki.
Samo z enim umetnointeligenčnim orodjem so ustvarili skoraj pet tisoč globokih ponaredkov 21-letne Ukrajinke.
Od konca leta 2023 do zdaj je Ukrajinka zasledila oziroma so ji njeni sledilci pomagali odkriti že približno 35 profilov na kitajskih družbenih omrežjih, nekateri so imeli ob imenih sličico ruske zastave, ki so propagando ali izdelke širili z uporabo njenih predelanih videoposnetkov.
"Velika večina lažnih Rusinj v posnetkih je hvalila prijateljstvo oziroma odnose med Rusijo in Kitajsko, njuno skupno moč in zavezništvo. Hvalile so tudi Rusijo in kritizirale druge države, ki se odmikajo od nje. Nekateri profili so promovirali tudi ruske izdelke, predvsem prehrambne," je vsebino profilov opisala Loiekova in dodala, da je imel eden največjih skoraj 300 tisoč sledilcev.
Kot je dejala Olga Loiek, jo zloraba njenih videoposnetkov za rusko-kitajske propagandne namene jezi in boli tudi osebno, saj ima v Ukrajini, ki jo je leta 2022 napadla in del okupirala Rusija, še vedno družino.
Samo z enim orodjem so ustvarili skoraj pet tisoč videoposnetkov
Ko je Ukrajinka svojo težavo prek videoposnetka na svojem kanalu delila na YouTubu in ko je njen zaročenec o tem zapisal objavo, ki je postala na družbenem omrežju X, nekdanjem Twitterju, viralna, se je po poročanju BBC odzvalo podjetje HeyGen.
Gre za razvijalca umetnointeligenčnega orodja oziroma platforme, s katero so bili ustvarjeni njeni ponarejeni videoposnetki. Teh je bilo po navedbah podjetja HeyGen več kot 4.900. Njen obraz so nato blokirali, kar pomeni, da je ustvarjanje novih posnetkov deepfake z zlorabo videoposnetkov Olge Loiek s tem orodjem postalo nemogoče, je pa to seveda še vedno mogoče početi z drugimi.
Ameriški preiskovalni urad FBI je marca 2021 izdal uradno opozorilo zaradi grožnje tehnologije deepfake, s katero je med drugim mogoče ustvarjati prepričljive replike resničnih oseb ali pa iz nič narediti nove ljudi. FBI je že takrat napovedal, da se bo v letu 2022 začela poplava tako imenovanih sintetičnih vsebin, katerih namen bosta predvsem manipuliranje z javnim mnenjem v politične namene in spletne goljufije.
Globoko ponarejanje je že težava tudi v Sloveniji
Na Siol.net smo v preteklih mesecih večkrat poročali, da so se med žrtvami generativne umetne inteligence oziroma tako imenovanih globokih ponaredkov znašli tudi že nekateri znani Slovenci.
Slovenski infektolog in pisatelj David Zupančič, ki je močno prisoten na družbenem omrežju Instagram, je bil v kratkem času kar dvakrat tarča goljufov, ki so njegove resnične videoposnetke zlorabili za promocijo finančnih goljufij in vprašljivih prehranskih dopolnil.
V začetku leta se je prek družbenega omrežja Facebook širil tudi videoposnetek, ki je bil prav tako povezan s poskusom finančne prevare, prikazoval pa je slovensko predsednico Natašo Pirc Musar med opisovanjem odlične poslovne priložnosti.
