umetna inteligenca
Sreda, 20. 8. 2025, 4.00
7 ur, 20 minut
Tragedija objokane zdravnice ganila mnoge Slovence: kaj je v ozadju te zgodbe?
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
0,58
Zgodbico o mladi novopečeni zdravnici, ki naj bi ji umrli starši in ki ji jo je objavil profil Čarobna ideja, je všečkalo, komentiralo in delilo ogromno Slovenk in Slovencev.
Na tisoče slovenskih uporabnikov in uporabnic družbenega omrežja Facebook že nekaj tednov za nos vlečejo upravitelji strani na platformi z imenom Čarobna ideja, ki prihajajo iz jugovzhodne Azije in Afrike. Slovenke in Slovence z lažnimi srce parajočimi in prisrčnimi zgodbami prepričujejo, da jim namenjajo ogromno všečkov, vzpodbudnih komentarjev in delitev ter njihovim izmišljotinam na Facebooku s tem dajejo dodaten "turbo" pospešek. Morali bi goreti vsi alarmi, saj imajo akterji v ozadju tovrstih objav skoraj vedno nečedne namene, pa tudi zato, ker velika večina slovenskih uporabnikov in uporabnic, ki jih komentirajo in všečkajo, ne prepozna fotografij, ustvarjenih z umetno inteligenco.
Na tisoče čestitk in lepih želja za ljudi, ki v resnici ne obstajajo
Več kot štiri tisoč Slovenk in Slovencev je na Facebooku v samo 24 urah všečkalo fotografijo neobstoječe zdravnice, ki naj bi ji umrli starši, več kot 700 ljudi pa ji je zaželelo veliko sreče. Kar 1.600 komentarjev z zahvalami za njihovo požrtvovalnost in več kot 4.600 všečkov slovenskih uporabnikov in uporabnic Facebooka ima fotografija petih zdravnikov, ki jih je narisala umetna inteligenca.
Kar 1.629 komentarjev z zahvalami je imela v torek fotografija zdravnikov, ki je nastala s pomočjo umetne inteligence. Kdor si bo fotografijo ogledal podrobneje in od blizu, sploh elemente v ozadju, bo lahko tudi sam potrdil, da z njo nekaj ni v redu. Enako velja za tako rekoč vse fotografije, ki jih objavlja stran Čarobna ideja.
Na tisoče lepih želja iz Slovenije so dobili izmišljeni novopečeni starši, ki jih je narisala umetna inteligenca. Več kot 800 komentarjev, naj hitro okreva, je dobila računalniško ustvarjena deklica v bolnišnični postelji.
Skoraj vsi sledijo istemu receptu: srce parajoče in navdihujoče zgodbe, otroci in babice z rojstnodnevnimi tortami ter rokodelski mojstri
Objave na strani Čarobna ideja sledijo zgledu mnogih podobnih profilov, ki so se na družbenem omrežju Facebook začeli pojavljati ob koncu leta 2023 in ki občinstvo gradijo z nenehnim objavljanjem fotografij in zapisov, ki jih ustvarjajo z umetnointeligenčnimi orodji.
Kot je v zadnjem letu opozorilo več strokovnjakov za družbena omrežja in informacijsko varnost ter celo akademiki s prestižnih univerz, denimo Stanford in Georgetown (vir), so mnogi, ki želijo na Facebooku hitro pridobiti čim več sledilcev, začeli izkoriščati dejstvo, da Facebookovi algoritmi za predlaganje vsebin pogosto prioritizirajo (pogosto bizarne) objave, ki jih je generirala umetna inteligenca in ki jih všečka ter komentira ogromno uporabnikov, ki se mnogokrat niti ne zavedajo, da prizori na fotografijah niso resnični. S tem se je ustvaril učinek snežne kepe – ker imajo toliko interakcij, Facebook uporabnikom predlaga še več tovrstnih vsebin.
Objave so zmes srce parajočih zgodb posameznikov, pogosto zdravnikov in zdravnic, reševalcev, kmetovalcev, čistilcev javnih površin, fotografij otrok in starejših oseb z rojstnodnevnimi tortami, posnetkov domnevnih neverjetnih ročnih del iz lesa, zemlje, peska in interakcij med različnimi živalskimi vrstami, ki bi bile v resničnem svetu skoraj nemogoče.
Objave profila Čarobna ideja imajo na tisoče všečkov in komentarjev izključno slovenskih uporabnic in uporabnikov družbenega omrežja Facebook.
Tega, da so objave in fotografije ustvarjene z generativno umetno inteligenco, kar razkrivajo mnoge napake oz. nekonsistentnosti pri prevodih v slovenščino in predvsem napake na fotografijah, ki so značilne za umetnointeligenčne stvaritve – dlani s preveč prsti, nejasni in bizarni prizori v ozadju –, akterji v ozadju strani Čarobna ideja sledilcem ne razkrivajo.
Skoraj nihče ne opazi, da so fotografije ustvarjene z umetno inteligenco
Kot je razvidno iz komentarjev pod objavami strani Čarobna ideja, nihče od več tisoč slovenskih uporabnikov in uporabnic ne opazi, da spodbudne besede namenjajo in za rojstni dan čestitajo ljudem, ki jih je ustvarila umetna inteligenca.
Zdravnici iz naslova, ki se je imenovala kar za zdravnika, je čestitalo več kot 700 Slovenk in Slovencev.
Kako prepoznamo fotografijo (ali videoposnetek), ki jo je ustvarila umetna inteligenca? Podrobni nasveti so v naslednjih člankih:
- Fotografija iz McDonaldsa buri duhove: kaj je v ozadju?
- Zgražanje nad Slovenko, ki hoče fanta s pet tisoč evri plače: kaj je v ozadju?
- Osebe, ki prinašajo čas velike negotovosti: dobro poglejte, kaj jih izdaja
- Pri Sparu Slovenija pokazali oglas, ki ga je izdelala umetna inteligenca
- Kaj je v ozadju pogovora z mladenko, ki je očarala mnoge? Čudne stvari.
Levo: objava strani Čarobna ideja z objokano zdravnico, ki ji ni nihče voščil za rojstni dan. Desno: fotografija žalostne zdravnice, ki jo je za nas v zelo kratkem času ustvaril umetnointeligenčni pomočnik ChatGPT.
Strokovnjaki za informacijsko varnost sicer že dlje opozarjajo, da generativna umetna inteligenca, ki je sposobna ustvarjanja vse prepričljivejših fotografij in videoposnetkov, že predstavlja veliko tveganje za (prihodnje) manipulacije in sejanje razdora v družbi.
Nekaj so namreč fotografije otrok z rojstnodnevnimi tortami, nekaj povsem drugega pa fotorealistični ponaredki znanih oseb, denimo politikov, ki jim nekdo, ki zasleduje lastne interese ali interese svojih nadrejenih, v usta polaga besede, ki jih niso izrekli, ali pa jih poskusi prikazati v kočljivih položajih.
Z umetnointeligenčnimi orodji je danes že mogoče ustvarjati izredno prepričljive ponaredke dogodkov, ki bi lahko imeli družbene ali (geo)politične posledice – lažne videoposnetke protestov, vojaških spopadov, nesreč in izjav, ki jih ni izrekel nihče.
V ozadju "slovenske" strani so osebe z drugih celin
Stran na Facebooku z imenom Čarobna ideja ima na Facebooku sicer več kot 35 tisoč sledilcev, slovenski uporabniki in uporabnice družbenega omrežja pa so njene tarče od 14. julija, ko je ime iz Szczęśliwe Życie, kar v poljščini pomeni Srečno življenje, spremenila v trenutno.
Do 14. julija je vsebine objavljala samo v poljskem jeziku, po devetdnevnem premoru pa so vse zapisane le še v slovenščini. Kot razkriva Facebookovo orodje za preglednost, je bila stran ustvarjena že novembra 2023.
Preglednost strani razkriva, da Čarobno idejo upravljajo neznanci iz tujine.
Čeprav se na prvi pogled – zaradi imena in objav v slovenščini – morda zdi, da gre za projekt slovenskih ustvarjalcev, stran Čarobna ideja v resnici upravlja nekdo iz tujine, natančneje iz jugovzhodne Azije in Afrike. Facebookovo orodje za preglednost strani namreč razkriva, da so v ozadju osebe iz Tajske in Alžirije.
Facebooku plačujejo, da objave pogosteje prikazuje slovenskim ženskam
Upravitelji strani Čarobna ideja Facebooku oz. krovnemu podjetju Meta tudi plačujejo, da se njihove objave pogosteje prikazujejo na Facebooku.
Kot je razvidno iz središča za oglase družbe Meta, imajo trenutno aktivnih 12 plačanih objav, ciljna skupina vseh pa so slovenske uporabnice Facebooka, starejše od 25 let.
Kaj je namen takšnih strani in objav?
Kot so v obširni študiji fenomena umetnointeligenčne poplave na Facebooku opozorili na ameriških univerzah Stanford in Georgetown, imajo snovalci tovrstnih strani na družbenem omrežju pogosto podle namene oz. višje cilje, ki sovpadajo s siceršnjimi najpogostejšimi metodami prevarantov na Facebooku. To je razvidno že iz tega, da skrivajo pravo poreklo ustvarjalcev strani – tudi v primeru Čarobne ideje – in da sledilcev ne opozarjajo, da všečkajo in komentirajo umetnointeligenčne izdelke.
Kot opozarjajo raziskovalci, spletni prevaranti dejstvo, da ogromno uporabnikov družbenega omrežja Facebook ne zna prepoznati umetnointeligenčnih fotografij ali videoposnetkov, izkoriščajo za iskanje potencialnih tehnološko manj pismenih žrtev za goljufije.
Prvi cilj je gradnja čim večje skupnosti sledilcev, nato pa se pogosto izkristalizirajo pravi načrti. Ti lahko segajo od spremembe namembnosti strani na Facebooku, da ta postane odskočna deska za najrazličnejše poskuse prevar ali pa orodje za manipulacijo javnega mnenja, do izgradnje seznamov potencialnih tarč za bolj osebne prevare, denimo ljubezenske, ali pa za rekrutiranje ljudi v piramidne sheme.
