Nazaj na Siol.net

TELEKOM SLOVENIJE

Matic Tomšič

Sreda,
7. 2. 2024,
17.29

Osveženo pred

4 mesece, 1 teden

Termometer prikazuje, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.

Termometer prikaže, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.

Thermometer Red 10

Natisni članek

deepfake prevara David Zupančič

Sreda, 7. 2. 2024, 17.29

4 mesece, 1 teden

Znani slovenski zdravnik opozarja in se čudi: "Pa tega ne moreš verjeti!" #video

Matic Tomšič

Termometer prikazuje, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.

Termometer prikaže, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.

Thermometer Red 10

Slovenski infektolog in avtor dveh knjižnih uspešnic David Zupančič je s temi besedami na svojem profilu Instagram opozoril na videoposnetek, ki se od druge polovice januarja prikazuje na družbenem omrežju Facebook. Neznani avtorji so za promocijo lastne spletne povezave namreč uporabili umetno inteligenco in ustvarili prirejen posnetek Zupančiča, ki se predstavlja kar kot znani slovenski prehranski svetovalec Jernej Ogrin.

Videoposnetek je v kar 20 primerih na družbenem omrežju Facebook promovirala stran z imenom Splash, ki je bila ustvarjena avgusta 2022, od 22. januarja letos pa se izdaja za Jerneja Ogrina, prehranskega inženirja, ki se je v zadnjih letih na družbenih medijih uveljavil kot eden najprepoznavnejših in zaupanja vrednih slovenskih svetovalcev s področja prehrane. 

David Zupančič
Trendi Zdravnik, ki je napisal uspešnico, je v mladosti sanjal o olimpijskih igrah

V posnetku, na katerega je na svojem profilu na Instagramu opozoril David Zupančič, se kot Lea Filipovičeva v slovaškem jeziku najprej predstavi neznana ženska in pove, da ji je ogromno kilogramov pomagal izgubiti "doktor" Jernej Ogrin. Pripis ob videoposnetku žensko sicer predstavi kot Leo Filipič, kar je pravo ime slovenske vplivnice, znane po vzdevku Lepa Afna. 

Posnetek se nato nadaljuje s prizorom, v katerem kot Jernej Ogrin nastopa slovenski infektolog Zupančič in prav tako v slovaškem jeziku opisuje svojo domnevno revolucionarno metodo, s katero so njegove stranke za vedno izgubile odvečne kilograme. Gledalce videoposnetka nato pozove, naj kliknejo rdeči gumb oziroma obiščejo priloženo povezavo.

David Zupančič je zdravnik specializant infektologije, ki je marca 2020 potrdil prvi primer okužbe z virusom sars-cov-2 v Sloveniji, avtor knjižnih uspešnic Življenje v sivi coni in Umetnost mirnega življenja, prepoznaven obraz Instagrama, kjer pogosto deli svoje izkušnje z delom v slovenskem zdravstvu, na poljuden način pojasnjuje teme s področja medicine in objavlja tudi duhovite vsebine, zaradi katerih so ga mnogi slovenski uporabniki Instagrama spočetka sploh začeli spremljati.  | Foto: Ana Kovač David Zupančič je zdravnik specializant infektologije, ki je marca 2020 potrdil prvi primer okužbe z virusom sars-cov-2 v Sloveniji, avtor knjižnih uspešnic Življenje v sivi coni in Umetnost mirnega življenja, prepoznaven obraz Instagrama, kjer pogosto deli svoje izkušnje z delom v slovenskem zdravstvu, na poljuden način pojasnjuje teme s področja medicine in objavlja tudi duhovite vsebine, zaradi katerih so ga mnogi slovenski uporabniki Instagrama spočetka sploh začeli spremljati. Foto: Ana Kovač

Jasno je razvidno, da je vsaj del videoposnetka, v katerem se pojavi Zupančič, predelan z orodji, ki temeljijo na umetnointeligenčnih modelih za manipulacijo tako slike kot zvoka. Opazna sta namreč nenaravno premikanje ust in mimika, ki je značilna za tako imenovane posnetke deepfake, torej manipulacije videa z umetno inteligenco, s čimer je mogoče že na kar prepričljivi ravni doseči, da oseba govori tisto, kar želi ustvarjalec tovrstnega videoposnetka.

Kazalnik, da gre za ponarejen videoposnetek, je seveda tudi dejstvo, da oseba na zaslonu ni Jernej Ogrin. Zupančič in Ogrin se sicer poznata osebno, Ogrin je bil novembra lani tudi gost Zupančičevega podkasta Umetnost lenarjenja. 

David Zupančič je svoje sledilce na družbenem omrežju Instagram v torek pozval, naj oglas s predelanim videoposnetkom, če bodo nanj naleteli, prijavijo Facebooku.  | Foto: Instagram / David Zupančič / Posnetek zaslona David Zupančič je svoje sledilce na družbenem omrežju Instagram v torek pozval, naj oglas s predelanim videoposnetkom, če bodo nanj naleteli, prijavijo Facebooku.  Foto: Instagram / David Zupančič / Posnetek zaslona

Sledi vodijo do Islandije

Facebookova orodja za transparentnost kažejo, da se je objava z videoposnetkom slovenskim uporabnikom Facebooka začela prikazovati 23. januarja, torej dan po tem, ko se je stran Splash začela izdajati za prehranskega svetovalca.

Kdorkoli je v ozadju strani, je Facebooku plačal za prikazovanje kar dvajsetih različic iste objave s posnetkom deepfake, desetih v obdobju od 23. do 30. januarja in desetih v obdobju od 1. do 2. februarja. Oglas je v tem času dosegel nekaj deset tisoč Slovencev na Facebooku.

Parametri za prikazovanje teh oglasov niso bili zastavljeni strogo, edina kriterija sta bila, da je uporabnica ali uporabnik na območju Slovenije in da je starejša oziroma starejši od 18 let.  | Foto: Facebook / Posnetek zaslona Parametri za prikazovanje teh oglasov niso bili zastavljeni strogo, edina kriterija sta bila, da je uporabnica ali uporabnik na območju Slovenije in da je starejša oziroma starejši od 18 let.  Foto: Facebook / Posnetek zaslona

Kam pa vodi priložena povezava? V nasprotju s podobnimi tovrstnimi plačanimi objavami, na primer nedavno, ki je prikazovala predelan posnetek slovenske predsednice Nataše Pirc Musar, se uporabnik ne znajde na spletni strani, ki obljublja astronomske dobičke z nizko naložbo, temveč na skoraj popolni kopiji spletne strani Jerneja Ogrina, njegovega portala Zadnja dieta.

Razlika je v tem, da spletna stran, na katero pridemo prek oglasa na Facebooku, ne gostuje na slovenski domeni zadnjadieta.si, temveč jernejogrin.site. Kot razkrivajo podatki WHOis, je bila ta spletna stran prvič registrirana šele 22. januarja letos, torej na dan, ko so aktivirali sporni profil na Facebooku. Nosilec domene je skrit pred javnostjo, spletna stran pa je bila registrirana na Islandiji. 

Kako so za promocijo denarne prevare manipulirali s posnetkom Nataše Pirc Musar:

Na klonirani spletni strani vsaj za zdaj sicer ni kazalnikov, da bi katerakoli od povezav vodila na potencialno nevarna mesta. Gumbi za nakup spletnih tečajev namreč celo vodijo do prave spletne strani Jerneja Ogrina. 

Treba je sicer poudariti, da je naslov neznanega podjetja na Islandiji, pri katerem so neznani promotorji kopirane spletne strani slovenskega prehranskega svetovalca zakupili domeno jernejogrin.site, sicer povezan s številnimi preteklimi spletnimi prevarami oziroma poskusi prevar.

Na to so večkrat opozorili uporabniki največjega spletnega foruma Reddit (vir), Cisa, Zvezna agencija ZDA za kibernetsko varnost in infrastrukturo (vir), uporabniki portala Scammer.info, namenjenega opozarjanju na spletne prevare (vir), ter mnogi drugi. 

Ne spreglejte