Znanstveniki: Ustavite eksperimente, preden bo prepozno

Vznemiril jih je ChatGPT, ki ima odgovore na skoraj vsa vprašanja

Pismo je objavil inštitut Future of Life (vir), v prevodu Prihodnost življenja, pri katerem Elon Musk sodeluje kot zunanji svetovalec. Poleg njega ga je podpisalo več kot 1.300 ljudi, med njimi več sodelavcev Googlove hčerinske družbe za umetno inteligenco DeepMind in pionirjev razvoja umetne inteligence, globokega ter strojnega učenja in sintetičnih nevronskih mrež. 

"Sistemi umetne inteligence s človeku konkurenčno inteligenco lahko pomenijo veliko tveganje za družbo in človeštvo," so zapisali v pismu.

Napisali so ga v odgovor na začetek delovanja najnovejše različice programa GPT-4 podjetja OpenAI, ki ga podpira Microsoft. Podjetje pravi, da je najnovejša različica veliko zmogljivejša od prejšnje, ki je bila uporabljena za klepet. Zdaj je s pomočjo umetne inteligence sposobna ustvariti besedila na podlagi najkrajših pozivov.

Foto: Shutterstock

Ena najbolj prepoznavnih implementacij umetnointeligenčnega modela GPT, ki ga razvija Open AI, je ChatGPT, spletni klepetalnik, ki mu glede na širino tem, o katerih lahko razpravlja, in nabora zahtev, ki jih lahko izpolni ob prošnji človeškega sogovornika, trenutno najverjetneje ni para. Na milijone uporabnikov po vsem svetu od konca novembra lani, ko je organizacija Open AI, ki se ukvarja z razvojem zelo naprednih jezikovnih modelov, izdala ChatGPT, še vedno ugotavlja razsežnosti vsega, kar zmore klepetalnik.

ChatGPT se je kmalu po izidu prve različice začel uveljavljati kot orodje za zbiranje in obdelavo podatkov, programiranje, (kreativno) pisanje besedil, umetniško ustvarjanje, odgovarjanje na preprosta in zapletena vprašanja ter še bi lahko naštevali, v najnovejši iteraciji pa v določenih scenarijih hodi že po meji razlikovanja med računalniškim in človeškim. Omejitve njegove ustrežljivosti do sogovornikov so sicer nekako postavljene pri ideološkem opredeljevanju in vprašanjih oziroma zahtevah, ki segajo onkraj meja zakonitega.

Skrbi jih, da družba še ni pripravljena, Musk verjame, da njihovi pomisleki ne bodo upoštevani

"Zmogljive sisteme umetne inteligence je treba razvijati šele, ko bomo prepričani, da bodo njihovi učinki pozitivni, tveganja pa obvladljiva," so še prepričani podpisniki pisma.

Elon Musk je bil začetni vlagatelj v OpenAI, več let je bil tudi član upravnega odbora, njegovo avtomobilsko podjetje Tesla pa med drugim razvija sisteme umetne inteligence, ki pomagajo poganjati tehnologijo vozil brez voznika. Musk je na Twitterju sicer izrazil mnenje, da večina vodilnih razvijalcev modelov splošne umetne inteligence najverjetneje sicer ne bo upoštevala opozorila in skrbi, ki so jih izrazili v pismu:

Leading AGI developers will not heed this warning, but at least it was said

— Elon Musk (@elonmusk) March 29, 2023

Objavil je še šalo o umetni superinteligenci, ki jo razvije skupina agnostičnih znanstvenikov, da bi jim pomagali izvedeti, ali obstaja Bog. Ko jo dokončajo in ji postavijo to vprašanje, jim odgovori: "Zdaj obstaja!"

Old joke about agnostic technologists building artificial super intelligence to find out if there’s a God.

They finally finish & ask the question.

AI replies: “There is now, mfs!!”

— Elon Musk (@elonmusk) March 30, 2023

Kanadski pionir umetne inteligence Yoshua Bengio je na virtualni novinarski konferenci v Montrealu medtem opozoril, da družba ni pripravljena na to zmogljivo orodje in njegove morebitne zlorabe.

"Upočasnimo. Poskrbimo, da bomo razvili boljše varovalke," je dejal Bengio in pozval k temeljiti mednarodni razpravi o umetni inteligenci in njenih posledicah, kot je po njegovih besedah svet storil v zvezi z jedrsko energijo in jedrskim orožjem.

Šest mesecev za razmislek

Odprto pismo navaja tudi zapis ustanovitelja OpenAI Sama Altmana na blogu, da bi bilo na neki točki morda pomembno pridobiti neodvisen pregled, preden začnemo usposabljati prihodnje sisteme. "Strinjamo se. Ta trenutek je zdaj," je še poudaril Bengio.

"Zato pozivamo vse laboratorije za umetno inteligenco, da nemudoma vsaj za šest mesecev prekinejo usposabljanje sistemov umetne inteligence, ki so zmogljivejši od GPT-4," so zapisali podpisniki. Vlade so pozvali, naj uvedejo moratorij, če se podjetja s tem ne bodo strinjala.

Odprto pismo o razvoju umetne inteligence je pred nekaj dnevi objavil tudi Bill Gates in v njem sicer izrazil navdušenje nad morebitnim pozitivnim doprinosom tovrstne tehnologije človeški civilizaciji, a tudi posvaril, da ga enakovredno skrbi morebitna nevarnost, ki bi jo umetna inteligenca, če se kdaj strga z metaforične verige, lahko predstavljala človeštvu. Foto: Guliverimage/Vladimir Fedorenko

Teh šest mesecev bi po mnenju avtorjev pisma morali izkoristiti za razvoj varnostnih protokolov, sistemov upravljanja umetne inteligence in preusmeritev raziskav v zagotavljanje natančnejših, varnejših, zaupanja vrednih in zvestih sistemov umetne inteligence.

Vidnejši podpisniki odprtega pisma za šestmesečni moratorij na eksperimente z umetno inteligenco:

Elon Musk, direktor Tesle in Twitterja ter eden prvih vlagateljev v OpenAI

Steve Wozniak, soustanovitelj podjetja Apple

Stuart Russell, britanski pionir področja umetne inteligence, profesor računalništva in nekdanji profesor nevrokirurgije na kalifornijski univerzi

Yoshua Bengio, kanadski pionir razvoja sintetičnih nevronskih mrež in globokega učenja

Gary Marcus, profesor psihologije in nevroznanosti na univerzi v New Yorku in avtor več knjig o umetni inteligenci

Andrew Yang, ameriški poslovnež in politik

Yuval Noah Harari, izraelski zgodovinar in pisatelj

Evan Sharp, soustanovitelj družbenega omrežja Pinterest

John J. Hopfield, profesor na univerzi Princeton in izumitelj asociativnih nevronskih mrež

Lawrence M. Krauss, ameriški teoretični fizik, astronom in popularizator znanosti

Victoria Krakovna, Zachary Kenton in Ramana Kumar, znanstveniki iz Googlovega oddelka za razvoj umetne inteligence DeepMind