Sobota, 7. 6. 2025, 4.00
8 ur, 53 minut
Mi, umetna inteligenca in zveza NATO

"Obe tveganji sta veliki in pomembni, polni izzivov. Prvo, da tehnologija umetne inteligence pade v napačne roke, ter drugo, pomanjkanje ograd, meja, ki bi zadrževale sofisticirane, avtonomne modele umetne inteligence pod nadzorom", pravi Demis Hassabis, šef Googlovega oddelka za umetno inteligenco Deep Mind. "Spodbujamo države k vlaganju nacionalnih, regionalnih, subregionalnih in globalnih naporov pri naslavljanju priložnosti in izzivov iz humanitarnega, pravnega, varnostnega, tehnološkega in etičnega vidika, povezanega z uporabo umetne inteligence na vojaškem področju," pa opredeljuje resolucija generalne skupščine OZN o umetni inteligenci na vojaškem področju in implikacijah za mednarodni mir in varnost, sprejeta 24. decembra 2024.
Zgornja povzetka se nanašata na temo, vsebino in področje družbenega življenja, ki zaznamuje dan današnji in je temelj največjih družbenih, političnih, socialnih in ekonomskih sprememb sodobnega časa. Tofferjevi trije civilizacijski valovi, kmetijstvo in poljedelstvo, industrializacija in informacijska doba se nadgrajujejo v četrti val, dobo umetne inteligence. Za razliko od prejšnjih civilizacijskih valov, ki so trajali prvi deset tisoč let, drugi 200–250 let in tretji 70–80 let, ta četrti prinaša v dobrem desetletju, ki je za nami, in dobrem, ki je pred nami, največje civilizacijske spremembe v najkrajšem času.
Svet se spreminja hitreje kot kadarkoli prej
Prvič se dogaja, da je ta gradualizem, postopnost prepočasna za to, kar spremljamo vsak dan v digitalnem svetu. Orodja umetne inteligence, ki omogočajo, da snemamo filme, izvajamo poglobljene študije in analize, počnemo skorajda vse, kar se lahko spomnimo, napredujejo s svetlobno hitrostjo. Cilj, vzpostavitev umetne splošne inteligence – AGI na ravni človeka, človeškega uma oziroma prekašanja le-tega, je manj kot desetletje pred nami. Torej prihajamo v svet, kjer bo umetna inteligenca prekašala človeka.
In tukaj nastopi tveganje, o katerem govori Hassabis, kdo in kako bo postavil ograde, meje tej UI, da ne bo sama postala kontraproduktivna, človeku sovražna ali bo to postala, ko jo ugrabijo ljudje z zlobnimi nameni. Na globalni ravni poteka strateški spopad med ZDA in Kitajsko za tehnologijo, grafične kartice, kdo bo prej prevzel primat na globalni ravni. Po nekaterih ocenah bo tisti, ki bo prvi postal tako dominanten, da mu drugi sploh ne bo mogel parirati.
Demis Hassabis
Prehitevanje človeških zmogljivosti – smo pripravljeni?
Sam upam, da se tukaj strokovnjaki motijo in bo ravnotežje moč iskati na ravni velesil. Orodja umetne inteligence so že danes prosto dostopna, uporabljajo jih otroci, mladi in zaposleni v različnih poklicih. Prihod teh orodij je tako hiter, da temu ne sledi šolski sitem na nobeni ravni, verjetno parira le univerzitetna raven, ki proučuje umetno inteligenco. Kot družba capljamo za tehnologijo, ki prihaja k nam skozi digitalni svet. Ali sledi tudi t. i. UI "jobpocalypse", apokalipsa, izguba milijonov in milijonov klasičnih služb, ki jih bo izpodrinila umetna inteligenca, bo pokazal čas. Vsak civilizacijski val je prinesel preoblikovanje trga delovnih mest, družbene spremembe, upore in odpore. Četrti val, val umetne inteligence, je pa poseben zato, ker prinaša tako veliko sprememb v tako kratkem času. In obrambno, vojaško področje ni nobena izjema.
Po letih razprav je varnostna skupščina sprejela zgoraj navedeno resolucijo, ki spodbuja države k sodelovanju na različnih ravneh. Temeljne dileme so tudi etične narave, ali se lahko avtonomni oborožitveni sistemi, droni in roboti uporabljajo za napade na ljudi, kje je tukaj odgovornost, ali se lahko prepusti odločanje o vojaškem delovanju, napadu na ljudi sistemu umetne inteligence, kako je z varovanjem civilistov itd. Ali lahko pripelje uporaba vojaške UI do potencialne eskalacije konfliktov? Vsem razpravam je bolj kot ne skupno, da na koncu verige odločanja mora ostati človek. Človek, ki samostojno in premišljeno odloča, in umetna inteligenca, ki sprejme odločitev po presoji zunaj domene človekovega nadzora.
Živimo v času največjih družbenih sprememb, del našega vsakdana so že droni, del prihodnosti bodo kmalu humanoidni roboti ter robotizirana, samovozeča vozila. Vojna v Ukrajini, agresija Rusije se po treh in pol letih spreminja v vojno dronov, ki jih usmerja in vodi umetna inteligenca. Vojna, ki se je začela kot marš tankovskih in oklepnih kolon ter ponesrečenih zračnih desantov, se je spremenila v visokotehnološko vojno. Vojno, kjer strelivo dolgega dometa dopolnjujejo in nadomeščajo droni, ki se jih vodi prek optičnih kablov ali prej programiranih algoritmov in umetne inteligence. V zraku, na kopnem, morju in pod vodo.
Ob vseh razpravah v zvezi NATO in razmislekih o povečanju števila vojakov, oklepne in druge tehnike sam pogrešam razprave o vlaganju v sisteme, ki so dokazano spremenili razumevanje sodobnega oboroženega konflikta. Sodoben konflikt prihodnosti bo temeljil na sposobnosti zagotavljanja večjega števila avtonomnih sistemov, dronov, robotov, bolj kakovostni uporabi umetne inteligence in ne na številčnosti tankov in letal. Morda bodo kmalu postali lovci s človeško posadko recidiv preteklosti. Tako kot se bodo preoblikovala delovna mesta v družbi v vseh ekonomskih sferah, se bodo tudi v vojskah.
Ko umetna inteligenca nadomešča vojake in delavce
Teh debat je bilo ob licitacijah 3, 4 in 5 odstotkov za obrambo, odpornost in varnost bore malo. Pa bi morale biti. Južna Koreja je tehnološko med najnaprednejšimi državami in hkrati tudi med državami z najnižjo stopnjo rodnosti. Južnokorejski kolega, velik strokovnjak za (vojaško) umetno inteligenco, mi je ob razpravi in izzivih popolnjevanja oboroženih sil dejal, mi bomo naš primanjkljaj in problem rodnosti tako v gospodarstvu kot v oboroženih silah nadomestili z droni, roboti in umetno inteligenco. Zelo zanimiv korejski pogled na prihodnost.
Tudi Slovenija je digitalno razvita. Poleg že obstoječega superračunalnika bosta v Mariboru z evropskim sofinanciranjem v prihodnje izgrajena visokozmogljivi računalnik in tovarna umetne inteligence. Smo in bomo na globalnem zemljevidu umetne inteligence, prav je, da temu sledi tudi vojaško-obrambno področje. Vlaganje v vojaške zmogljivosti in oborožitvene sisteme, v logistične koridorje, zmogljivosti za dvojno rabo ter v vojaško umetno inteligenco in ljudi, ki jo bodo znali uporabiti, bi morala biti naša dodana vrednost. Vrednost, ki jo imamo zase in jo lahko ponudimo zaveznikom v zvezi NATO in Evropski uniji. Če je beseda leta v gospodarstvu nepredvidljivost, naj bo beseda prihodnosti zavedanje, kje smo in kam gremo v času četrtega vala, vala umetne inteligence.