Stephen Hawking opozarja: Scenarij Terminatorja se lahko uresniči

Genialni teoretični fizik je za britanski medij The Independent pred kratkim izrazil skrb zaradi hitrega napredka umetne inteligence. Čeprav je poln hvale na račun samovoznih avtomobilov, Watsona, Applove Siri in Microsoftove Cortane, ne izključuje možnosti, da bo tehnologija kot v filmih Terminator nekoč začela razmišljati po svoje in se obrnila proti svojemu stvaritelju.

Največji človekov dosežek bo morda tudi njegov zadnji "Možnosti, ki bi jih ljudem odprl razvoj stroja, pametnejšega od človeka, so praktično neskončne," pravi Hawking. "Dan, ko bi se računalnik začel zavedati samega sebe (teoretična točka v času, ki jo poznamo tudi pod izrazom singularnost), bi bil zagotovo najpomembnejši v človeški zgodovini," pravi Hawking, "a prav mogoče je, da tudi eden zadnjih."

Večina znanstvenikov se strinja, da bo do izuma računalniškega uma, ki bo po sposobnostih presegel človeškega, prišlo v prihodnjih desetletjih, le peščica pa jih opozarja na to, da razvoj umetne inteligence z lastno zavestjo morda ni najbolj smotrn. Ko bo računalnik dovolj pameten, da bo samega sebe samovoljno začel izboljševati na način, ki ga človeštvo zaradi inferiornejše inteligence ne bo razumelo, lahko nastopijo težave – prevzem oblasti, zlom bank, kolaps interneta, izumljanje in celo uporaba novega orožja za masovno uničevanje. Bo umetna inteligenca upoštevala tri zakone robotike? Eden od pionirjev preproste humanoidne robotike, Britanec Mark W. Tilden, je pred časom zapisal tri smernice, po katerih naj bi delovala umetna inteligenca in naprednejši roboti – obvarovanje lastnega obstoja za vsako ceno in zagotavljanje neoviranega dostopa ter nenehno iskanje novih, boljših virov energije. Sliši se precej apokaliptično.

Človeštvu bolj prijazno trojico robotskih zakonov je sestavil tudi legendarni pisec znanstvene fantastike Isaac Asimov, ki je prav tako omenil obvarovanje obstoja, a v ospredje postavil podrejanje ukazom človeških gospodarjev in popolno ogibanje kakršnemukoli poškodovanju ljudi. Ali bo v praksi obveljal prvi ali drugi sveženj pravil, bomo videli takoj, ko bo umetna inteligenca končno "odprla oči in zadihala", pravi Hawking. "Vse bo odvisno od tega, ali se bo računalnik z lastno zavestjo pustil nadzorovati možgansko šibkejšim entitetam. Če bo odbezljal po svoje, bo to za nas morda pogubno."