"Uresničila se je najhujša nočna mora"

Internetni kriminalci uporabljajo podobe teles in obrazov resničnih otroških žrtev spolnih zlorab in s pomočjo umetne inteligence z njimi ustvarjajo nov slikovni in videomaterial, so opozorili pri IWF, neprofitni organizaciji, ki se ukvarja z zaznavanjem in odstranjevanjem vsebin, ki prikazujejo spolne zlorabe otrok, s svetovnega spleta.

Tudi najbolj izkušeni analitiki pogosto ne opazijo razlik

V pravkar objavljeni študiji (vir) so izpostavili dejstvo, da so umetnointeligenčni modeli za ustvarjanje posnetkov že tako napredni, da so imeli tudi njihovi najbolj izkušeni analitiki težave pri razlikovanju dejanskih fotografij spolnih zlorab otrok od tistih, ki so bile ustvarjene z računalnikom. Opozorili so, da se bo tehnologija zgolj še izboljševala, kar bo dodatna ovira za preiskovalce tovrstnih kaznivih dejanj.

Ustvarjalcem vizualnih vsebin je ta hip na voljo že precej zelo zmogljivih umetnointeligenčnih modelov, ki so zmožni ustvariti fotorealistične prizore. Stable Diffusion je eden najbolj cenjenih. Foto: Shutterstock

V samo enem mesecu so pri IWF analizirali skoraj 12 tisoč z umetno inteligenco ustvarjenih fotografij, ki so se znašle na enem od forumov na tako imenovanem temnem spletu in ki so prikazovale otroke.

Ugotovili so, da jih je skoraj tri tisoč izpolnjevalo kriterije, po katerih bi se posedovanje ali distribucija takšnih fotografij v Veliki Britaniji obravnavala kot kaznivo dejanje. Več kot 2.500 je bilo medtem tako realističnih, da bi jih preiskovalci morali obravnavati kot fotografije resničnih otrok.

Okrog 1.400 fotografij je prikazovalo otroke med sedmim in desetim letom starosti, skoraj 600 pa najhujše oblike zlorab, med drugim tudi posilstva in mučenje z elementi spolnosti.

IWF: "Treba je poudariti, da se v tem trenutku z vidika kakovosti slike spopadamo z najslabšimi umetnointeligenčnimi fotografijami spolnih zlorab otrok. Ustvarjanje fotografij z umetno inteligenco je del javnega diskurza postalo šele v zadnjem letu. Predstavljajte si, kakšne fotografije bo mogoče ustvariti že čez eno leto, kaj šele čez pet." Foto: Shutterstock

Pri IWF so še dodali, da so med analiziranimi fotografijami odkrili tudi tako imenovane "pomladitve" resničnih slavnih oseb, kar pomeni, da so bile s pomočjo umetne inteligence prikazane kot otroci. Zaznali so tudi komercialne elemente, torej ustvarjanje umetnointeligenčnih fotografij spolnih zlorab otrok z namenom prodaje.

Opozorilo: Če ne bo ukrepov, bo samo še huje

Vodja IWF Susie Hargreaves je po poročanju britanskega medija Independent dejala, da se je uresničila najhujša nočna mora organizacije.

"Že v začetku leta smo posvarili, da bo z umetno inteligenco ustvarjene fotografije, ki prikazujejo trpljenje spolno zlorabljenih otrok, kmalu nemogoče ločiti od resničnih in da bo število takšnih vsebin začelo strmo naraščati, kar se je tudi zgodilo. Grozljivo je, da kriminalci umetnointeligenčne modele zdaj urijo na fotografijah otrok, ki so bili spolno zlorabljeni v preteklosti, in to pogosto samo zato, ker želi nekdo že zlorabljene otroke videti v novih scenarijih.

Pri IWF so opozorili še, da sta ustvarjanje in distribucija vsebin, ki prikazujejo spolne zlorabe otrok in so bile ustvarjene z umetno inteligenco, trenutno večidel omejeno na fotografije, a da so zelo realistični videoposnetki tako rekoč že za vogalom. Foto: Shutterstock

IWF britansko vlado poziva k čim prejšnjemu ukrepanju, pri preprečevanju ustvarjanja in distribucije umetnointeligenčnih fotografij in videoposnetkov spolnih zlorab otrok pa si želi tudi mednarodnega sodelovanja. Opozorili so, da se mora oblast po vsem svetu čim prej opredeliti do problematike, saj navodila, kako ustvarjati takšne vsebine, in pogosto tudi posedovanja takšnih materialov v večini držav sveta še nista kaznivo dejanje.