Bi zaupali človeku, ki slepo zaupa umetni inteligenci?

"Tega preprosto ne prenesem, jezna sem, ko poslušam tako polarizirane in pogosto napačne zgodbe, zlasti tiste, ki obstajajo samo zato, da bi nekdo zaslužil. Zato sem imela občutek, da moram nekaj storiti, tudi zaradi svojih otrok. Odraščajo v svetu, ki je takšen, a imajo mamo, ki jim vsak dan razlaga, da ni treba vsega uporabljati brez premisleka. Toda vsi otroci nimajo tega, tudi odrasli pogosto ne," je še povedala.

Z neodgovorno uporabo umetne inteligence lahko veliko izgubijo predvsem mladi

Z njo smo se ob boku konference pogovorili tudi o tem, kako so razvijali etični kodeks uporabe umetne inteligence v medijih. Opozorila je tudi, da neodgovorna raba umetne inteligence lahko prizadene predvsem mlajše generacije in jih pripelje do izgube ustvarjalnosti, kritičnega mišljenja in sposobnosti samostojne presoje.

Zato je prepričana, da se moramo ljudi učiti razmišljati, postavljati vprašanja in uporabljati umetno inteligenco kot orodje, ne pa kot nadomestilo za lastno presojo.

"Jezna sem, ko poslušam polarizirane in pogosto napačne zgodbe, zlasti tiste, ki obstajajo samo zato, da bi nekdo zaslužil." Foto: Ambra Sbardella

Če bi glede umetne inteligence lahko dali samo en nasvet, kaj bi to bilo?

Nikoli ne nehajte postavljati vprašanj, tudi ko vam umetna inteligenca ponudi popolno vsebino. Če uporabljate umetno inteligenco za ustvarjanje vsebin, nikoli ne nehajte dvomiti. Ne nehajte spraševati sebe. In ne nehajte spraševati umetne inteligence.

Torej vprašanje zaupanja.

Da, natanko tako. Enako ali celo bolj nevarno kot strah pred umetno inteligenco je to, da bi ji zaupali brez kakršnekoli kritične presoje.

Predvidevam, da ste ravno zato pripravili kodeks oziroma priporočila za uporabo umetne inteligence v medijih. Kdaj ste ugotovili, da je to potrebno?

To potrebo sem prepoznala že pred nekaj leti, ker sem začela preizkušati umetno inteligenco in izmenjevati mnenja, misli, izkušnje in načine dela z mednarodnimi kolegi, predvsem prek mreže JournalismAI pri London School of Economics. Spraševali smo se, ali smo pri tem sami ali pa podobne stvari počnejo tudi drugi v redakcijah. Začela sem zbirati ogromno izkušenj, veliko napak, neuspehov, pa tudi uspehov.

Kakšne napake?

Na primer popolno prepuščanje nalog umetni inteligenci. Preizkušali smo, kako nam lahko pomaga pri delu: "Napiši članek o tem", "Pripravi osnutek", "Poišči informacije zame" ... Nisem pa našla skupnega pristopa, skupne metodologije dela. In če je nisem našla med novinarji iz različnih redakcij, sem se vprašala: kaj pa novinarji v moji lastni redakciji (News48, op. avt.), ki ni ravno mainstream medij, temveč revija oziroma medij, usmerjen v konstruktivno novinarstvo. Sodelavci so menili, da je to morda dobra ideja, jaz pa sem odgovorila: "Ne, to je pomembno in to moramo narediti."

Kako ste se lotili priprave tega dokumenta?

Začela sem sama, ker sem bila tista, ki je o tej temi vedela nekoliko več. Šlo je za skupen dokument, vendar mi ni všeč ideja statičnih dokumentov. To ni zgolj pravilnik. Ni nekaj nespremenljivega. Umetna inteligenca se spreminja. Izzivi se spreminjajo. Že pred leti sem menila, da je to pomembno, danes pa vem, da je bila to prava odločitev. Še vedno je v Italiji – in verjetno tudi drugod – veliko redakcij, ki ne vedo natančno, kaj naj počnejo z umetno inteligenco in nimajo jasnih smernic.

"Enako ali celo bolj nevarno kot strah pred umetno inteligenco je to, da bi ji zaupali brez kakršnekoli kritične presoje." Foto: Ambra Sbardella

Kakor razumem je ta dokument sad navdušenja in pobude. Zakaj ni bilo in najbrž še vedno ni nobenih smernic na ravni nacionalnega novinarskega združenja ali podobne organizacije?

V Italiji imamo poklic novinarja urejen podobno kot zdravniki ali odvetniki. Obstajajo pravila, meje in opraviti moraš strokovni izpit. V naš poklicni kodeks so vključili nekaj določil o umetni inteligenci, vendar so ta določila tako splošna, da me veliko kolegov sprašuje, kaj to v resnici pomeni. Težava je, da iz teh določil ne moreš razbrati, kaj moraš konkretno storiti pri vsakodnevnem delu. Kdaj moraš povedati, da si uporabil umetno inteligenco? Kdaj ne? In podobno. Torej konkreten, praktičen kodeks za novinarje. Zakaj ni še bolj natančen? Iskreno, ne vem.

Morda zato, ker zakonodaja in regulacija vedno zaostajata?

Seveda. Začeli smo že pred nekaj leti tudi izobraževati novinarje v okviru našega poklicnega združenja. Sama sem izobraževala veliko novinarjev. Poudarek je na tem, kako uporabljati umetno inteligenco za izboljšanje dela, da imaš več časa za raziskovalno novinarstvo in podobno. Toda to ni vprašanje pravil in odgovornosti, to še vedno ni formalno opredeljeno.

Kako se uradno imenuje ta dokument?

"AI Policy" – politika uporabe umetne inteligence.

… ampak ga pristojno ministrstvo, sindikat ali kakšen drug organ ni potrdil?

Ne. To je interni dokument naše redakcije.

Koliko drugih medijev ga je prevzelo?

To je naš dokument. Vsaka redakcija bi morala pripraviti svojega. Morda je prav v tem težava: lahko bi ga kopirali, vendar jim tega ni treba storiti, ker takšen dokument ni obvezen. Novinarska zbornica ga ne zahteva. To narediš zato, ker meniš, da je pomembno. Zaradi zaupanja in transparentnosti, tako navzven kot znotraj redakcije. Nekatere večje redakcije so šele pred kratkim začele pripravljati podobne dokumente.

"Še vedno je v Italiji – in verjetno tudi drugod – veliko redakcij, ki ne vedo natančno, kaj naj počnejo z umetno inteligenco in nimajo jasnih smernic." Foto: Ambra Sbardella

Ali ste pri tem imeli kakšne vzore?

Veliko sem se pogovarjala z ljudmi iz BBC-ja in drugih organizacij. BBC je bil med pionirji pri pripravi pravil za uporabo umetne inteligence, podobno tudi New York Times in Washington Post. Ne gre za to, da bi izumljali nekaj novega, gre predvsem za vprašanje načina dela.

Katere so glavne točke tega dokumenta?

Najprej pojasnimo, zakaj smo se odločili za politiko uporabe umetne inteligence. Nato razložimo, kako jo uporabljamo in kdaj je ne uporabljamo.

Kdaj je ne uporabljate?

Na primer, ne uporabljamo je za pisanje člankov namesto nas. To, kar objavimo, mora biti nekaj, kar sem napisala jaz oziroma kolega novinar. Uporabljamo pa jo za analizo podatkov. To je zelo pomembno, še posebej kadar imamo opravka z velikimi količinami gradiva – dolgimi dokumenti, večurnimi videoposnetki ali konferencami. Povzemanje vsebin je pri tem zelo koristno.

Kaj pa tveganja, ki bi lahko nastala pri tem?

Obstaja zanimiva raziskava oziroma predstavitev Inštituta Poynter in Pulitzerjevega centra, ki prikazuje področja, kjer je uporaba umetne inteligence bolj ali manj tvegana. Povzemanje je nekje v sredini – lahko je zelo koristno, vendar zahteva previdnost. Osebno sem sodelavcem vedno govorila naslednje: predstavljaj si, da dobiš dokument s 120 stranmi ali štiriurno videokonferenco. Morda jih imaš šest, sedem ali deset. Potrebuješ hitro oceno, ali vsebujejo kaj zanimivega za članek ali podcast, ki ga pripravljaš. Pri tem je povzemanje odlično, saj hitro ugotoviš, o čem gradivo govori. Če je tema zate pomembna, nadaljuješ z branjem ali poslušanjem. Če ni, se lahko posvetiš nečemu drugemu. Ko nimaš časa, je to lahko zelo uporabno.

Seveda pa je treba vse preveriti.

Vsekakor. Umetna inteligenca lahko nekaj povzame napačno ali pa izpusti pomembne informacije. Morda ne omeni nečesa ključnega zgolj zato, ker tega ni prepoznala kot pomembno, in to je lahko velika težava – prav tako pomembno in nevarno kot personalizirana vsebina, ustvarjena z umetno inteligenco. Takšna vsebina je lahko resnična, vendar prikazuje le majhen del resničnosti.

"Umetne inteligence ne uporabljamo je za pisanje člankov namesto nas. To, kar objavimo, mora biti nekaj, kar sem napisala jaz oziroma kolega novinar. Uporabljamo pa jo za analizo podatkov." Foto: Ambra Sbardella

Kaj lahko storimo glede lažnih in slabih vsebin?

Nismo dovolj hitri. Prav tako se ne moremo zanašati na orodja za zaznavanje, če govorimo o besedilu, zvoku ali videu. Nikoli ne moremo biti stoodstotno prepričani. Zato menim, da je pomembno, da smo do občinstva odkriti. Če nekaj objavim, želim biti prepričana o tem. V Italiji imamo izraz "postaviti svoj obraz za nekaj", kar pomeni, da lahko bralstvu rečem: "Lahko mi zaupate". Ne zato, ker je vse preverila umetna inteligenca, temveč zato, ker sem raziskovala, preverjala informacije, postavljala vprašanja. Umetna inteligenca mi je pri nekaterih nalogah pomagala, vendar mora biti redakcija tista, ki ji ljudje zaupajo.

Kaj bi pa morali bralci vedeti o umetni inteligenci v medijih?

Pomembno je, da jih o tem izobražujemo. Lahko jih opozarjamo, da ni dobro deliti vsebin, če niso prepričani, da so resnične. Eden od problemov lažnih vsebin je, da izkoriščajo močna čustva. Ljudje postanejo jezni, prestrašeni ali šokirani in imajo občutek, da morajo vsebino deliti. Rečejo: "Poglej to. To moraš videti." Potem pa se izkaže, da je vsebina lažna. Zato moramo o tem pisati članke in o tem govoriti tudi na družbenih omrežjih – centraliziranih ali decentraliziranih, kakor komu ustreza. Opraviti moramo svoj del naloge, ker sami ne moremo ustaviti vala lažnih vsebin. Teh je danes več kot resničnih.

Ali nam to lahko uspe?

Vsak dan dobimo več nalog, v redakcijah nas je vedno manj, hkrati umetna inteligenca ubija novičarske medije in pri tem ne moremo storiti ničesar. Umetna inteligenca uporablja našo vsebino, velike korporacije uničujejo spletne medije in novinarstvo. V ZDA se to že dogaja, kmalu pa bo prišlo tudi v Evropo. Vsi želijo informacije takoj, ljudje pa vsebine samo preletijo in jih pozabijo.

Kako se mediji lahko potem sploh še borijo?

Z izobraževanjem občinstva.

"Vsak dan dobimo več nalog, v redakcijah nas je vedno manj, hkrati umetna inteligenca ubija novičarske medije in pri tem ne moremo storiti ničesar. Umetna inteligenca uporablja našo vsebino, velike korporacije uničujejo spletne medije in novinarstvo." Foto: Ambra Sbardella

Kdo bi ga pa moral izobraževati?

V Italiji nimamo učiteljev novinarstva za otroke med sedmim in osemnajstim letom, imamo pa veliko novinarjev – tudi jaz sem med njimi – ki radi obiskujemo šole in se pogovarjamo z otroki in mladimi. Razlagamo jim, kaj pomenijo lažne novice, kaj so resnične novice in kaj pomeni generativna umetna inteligenca. To počnemo zato, ker to želimo, ne zato, ker bi obstajal nacionalni program. Takšnih pobud ni malo, vendar bi jih moralo biti veliko več.

Ali so lažne novice edina tovrstna grožnja?

To vprašanje me spominja na nekaj, kar je nedavno omenila francoska kolegica iz naše mreže. Govorila je o izrazu prelomna novica (breaking news) in njegovih drugih pomenih. Breaking pomeni tudi lomiti, rušiti, uničevati in ko občinstvo nenehno hranimo z izrednimi novicami in hitrimi informacijami, pravzaprav hranimo tudi stroje in avtomatizirano produkcijo vsebin. Mi nismo stroji, ne moremo tekmovati z njimi.

Ampak od medijev pogosto pričakujejo, da smo.

Točno tako. Od nas pričakujejo, da bomo stroji, ampak to ne moremo biti, zato izgubljamo. Mislim, da je ključ ravno v nasprotni smeri – v poglobljenem poročanju, ne v tekmi za to, kdo bo prvi objavil novico. V velikih redakcijah lahko osnovne informacije pripravi stroj, tudi umetno ustvarjeni podkasti ali novice bodo postali nekaj običajnega. Temu ne moremo konkurirati, lahko pa počnemo to, kar zna človek – poglobljeno raziskovanje. Poročanje s terena. Poslušanje ljudi. Izobraževanje. To je tisto, kar ljudje lahko počnemo in moramo početi.

"Ključ je v poglobljenem poročanju, ne v tekmi za to, kdo bo prvi objavil novico. V velikih redakcijah lahko osnovne informacije pripravi stroj, tudi umetno ustvarjeni podkasti ali novice bodo postali nekaj običajnega. Temu ne moremo konkurirati, lahko pa počnemo to, kar zna človek – poglobljeno raziskovanje." Foto: Ambra Sbardella

Kako pa se spopasti z uredniki oziroma lastniki, ki želijo biti prvi pri objavi?

Odlično vprašanje. Treba je izobraževati tudi urednike in vodstva. Ne vem, kako drugače. Tudi to smo vključili v našo politiko uporabe umetne inteligence.

Kako preverjate, ali je neka vsebina ustvarjena z umetno inteligenco oziroma ali je lažna?

Večinoma to počnem ročno. Ljudje mi pogosto pošljejo objave z družbenih omrežij in me vprašajo, ali so resnične. Na začetku sem to pogosto preverjala, potem pa sem začela ljudem razlagati, koliko dela je potrebnega, da ugotoviš, ali je nekaj resnično ali ne. Vzemimo preprost primer – citat. Če nekdo trdi, da je določena oseba nekaj rekla, moraš stopiti v stik s to osebo ali njenim uradom. To je še vedno najboljši način preverjanja. Res pa je, da za to potrebuješ čas, in tu se ponovno znajdemo v začaranem krogu. Spomnim se zgodbe, ki so jo objavili praktično vsi veliki mediji – o domnevno ukradenih psih na Kitajskem. To je bilo mogoče preveriti, ampak vsi so jo objavili. Če je BBC napisal, da je res, potem smo vsi verjeli, saj BBC vendar ne bo lagal. Po drugi strani pa obstajajo tudi resnične in šokantne fotografije, za katere danes ljudje mislijo, da so ustvarjene z umetno inteligenco.

Ker se bolje prodajajo.

Točno tako. Gre za čustva. Na družbenih omrežjih, predvsem na Facebooku, kjer je še vedno veliko uporabnikov, se to lahko zelo jasno vidi. Ker upravljam družbena omrežja našega portala, spremljam trende – in skoraj vse, kar je trenutno najbolj priljubljeno, so slike, ustvarjene z umetno inteligenco. Pogosto so tako očitno lažne, da ni nobenega dvoma. Običajno gre za objave v slogu: "Poglejte me, sem reven študent, nimam staršev, nihče ne bo všečkal moje fotografije." Zato ne smemo biti samo podpis pod člankom. Pokazati moramo tudi svoj obraz, čeprav vemo, kako problematičen je danes pojem identitete in obrazov, ki jih lahko umetna inteligenca posnema. Povedati moramo: "To sem jaz."

Preberite še:

Novice "Vztrajati moramo pri tem, da umetna inteligenca ne odloča namesto nas!"