Petek, 24. 11. 2023, 9.47
8 mesecev, 3 tedne
Projekt Q*: Ustvarili smo umetno inteligenco, ki lahko ogrozi človeštvo
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
1,12
Osemintridesetletni Altman velja za osrednjega igralca pri razvoju umetne inteligence. Z razvojem klepetalnega robota ChatGPT, ki lahko v le nekaj sekundah pripravi vsebino po modelu človeka, npr. pesmi ali umetniška dela, je postal senzacija tehnološkega sveta in nova zvezda Silicijeve doline.
Del zaposlenih je nadzorni svet OpenAI opozoril, da so v ameriškem podjetju dosegli preboj pri razvoju umetne inteligence in da bi ta lahko postala velika grožnja človeštvu. To dejstvo naj bi tedanji (in po novem spet zdajšnji) direktor podjetja Sam Altman skrival pred nadzorniki, ki so ga med drugim tudi zaradi tega odpustili.
Slab teden je trajala drama v vodilnem podjetju s področja umetne inteligence OpenAI. Začelo se je z nenadnim odpustom direktorja in čudežnega dečka umetne inteligence Sama Altmana. Nadzorniki podjetja so v izjavi za javnost kot razlog za nenaden odhod Altmana iz podjetja navedli le, da je nekdanji direktor pred nadzornim svetom skrival ključne informacije. Altman sicer ni bil dolgo brez službe, pri Microsoftu, ki je tudi največji delničar OpenAI, so mu takoj ponudili zaposlitev. Vendar, ker je med drugim zaradi odpusta Altmana z odhodom zagrozilo kar 700 zaposlenih pri OpenAI, se je "telenovela" končala drugače, kot so pričakovali nadzorniki. Na koncu so lastniki zamenjali njih, Altman pa je spet postal direktor OpenAI.
Je to pravi razlog za odhod Altmana?
A po poročanju Reutersa se za odločitvijo nekdanjih nadzornikov OpenAI za odpust Altmana morda skrivajo trdni argumenti. Skupina zaposlenih naj bi v dneh pred odpustom Altmana pisala nadzornikom, da so v OpenAI dosegli preboj pri razvoju umetne inteligence. V pismu, katerega verodostojnosti jim pri Reutersu ni uspelo preveriti, so zaposleni opozarjali na Projekt Q*. V okviru tega naj bi OpenAI uspelo ustvariti "pravo" umetno inteligenco (torej ne regenerativnega modela, kot je recimo ChatGPT), temveč UI, ki je sposobna avtonomno razmišljati in je bolj sposobna od človeka v večini zadanih nalog.
Oziroma, kot naj bi v pismu nadzornikom zapisali zaposleni v OpenAI: "Ustvarili smo umetno inteligenco, ki lahko ogrozi človeštvo." V pismu naj bi zaposleni Altmanu očitali, da zanemarja vse morebitne nevarnosti pri razvoju UI in da ga žene le ideja po napredku in komercialni vrednosti tehnologije. To naj bi Altman skrival pred nadzorniki, ki so ga tudi zaradi tega odpustili.
Zakaj je matematika pomembna?
Nova "prava" umetna inteligenca naj bi po poročanju Reutersa že bila bolj sposobna od osnovnošolcev, vendar naj bi njena sposobnost učenja prekašala človeške zmožnosti. Novo UI naj bi preizkušali predvsem z matematičnimi izzivi.
Raziskovalci umetne inteligence namreč trdijo, da bo razumevanje matematike umetno inteligenco pripeljalo do enake stopnje inteligence in razmišljanja, kot ju ima človeška vrsta. Trenutno je regenerativna umetna inteligenca sposobna pisati besedila in prevajati, vendar to dela samo s statistično analizo. Z največjo verjetnostjo torej predvideva, kaj bi bila naslednja logična beseda. V praksi to pomeni, da za isto vprašanje regenerativna umetna inteligenca vsakič poda malo drugačen odgovor. Če pa bi bila UI sposobna razumeti matematiko, v kateri je vedno le en sam pravilen odgovor, potem naj bi po pričakovanju strokovnjakov razvila neko obliko zavesti in razmišljanja, podobni človeku.
