Musk: Umetna inteligenca je nevarnejša od atomskih bomb

Ko svoje dvome glede sebe zavedajočih se računalnikov, ki bi lahko zasužnjili ali uničili človeštvo, izrazi neznanec na internetnem forumu, večina ljudi samo zamahne z roko. Ko pa precejšnjo negotovost zaradi razvoja umetne inteligence izrazi tehnološki prerok Elon Musk, so mnogi takoj pripravljeni prisluhniti.

Idejni oče spletnega bančništva PayPal, električnih vozil Tesla in vesoljske agencije SpaceX je pretekli konec tedna na Twitterju izrazil pomisleke glede nadaljnjega razvoja umetne inteligence. "Z UI (umetno inteligenco) moramo biti super previdni. Morda je bolj nevarna od atomskih bomb," je zapisal Musk.

Worth reading Superintelligence by Bostrom. We need to be super careful with AI. Potentially more dangerous than nukes.

— Elon Musk (@elonmusk) August 3, 2014

Ob tem je v branje priporočil knjigo Superinteligenca, ki jo je napisal švedski filozof Nick Bostrom. Ta v njej opozori na razvoj strojev ali programov, katerih miselne sposobnosti večkrat presegajo kognitivne zmožnosti ljudi, in zaključi, da bi tovrsten tehnološki napredek najbrž povzročil precejšnjo eksistenčno krizo človeštva.

Biološki zagonski program za zlobne superračunalnike Objavo je delilo skoraj 2000 uporabnikov Twitterja, Musk pa jo je pozneje podkrepil še z enim apokaliptičnim zapisom. "Upam, da nismo samo biološki zagonski nalagalnik (boot loader) za digitalno superinteligenco. Na žalost se zdi, da je to vse bolj možno."

Hope we're not just the biological boot loader for digital superintelligence. Unfortunately, that is increasingly probable

— Elon Musk (@elonmusk) August 3, 2014

Musk je glede umetne inteligence, pametnejše od ljudi, sicer zaskrbljen že lep čas. Javno je tarnal in skrbel že pred dvema mesecema, ko je oznanil, da verjame v prihodnost, ki jo je pred tremi desetletji napovedal znanstvenofantastični film Terminator. V njem se je samega sebe začel zavedati ameriški vojaški program Skynet in sprožil genocid zoper človeško raso.

Če želiš izvedeti, kaj sovražnik naklepa, se mu pridruži Ker želi razvoj umetne inteligence spremljati od blizu, da bi lahko med prvimi izvedel za morebitne nevarne prelomnice, je Elon Musk pred meseci s šopom bankovcev pristopil k podjetju Vicarious. Gre za perspektivni ameriški start-up, katerega glavna cilja sta digitalno simuliranje človeških možganov in računalniško prepoznavanje oblik, barv in materialov. Med vlagatelji sta tudi oče Facebooka Mark Zuckerberg in direktor Amazona Jeff Bezos.