umetna inteligenca
Torek, 16. 6. 2026, 4.00
1 mesec
Potrjeno: v Ukrajini so odprli Pandorino skrinjico, ki se je vsi bojijo
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
7,84
Med najpogostejšimi opozorili in pomisleki strokovnjakov glede avtonomnega orožja, kot so droni, ki sami ubijajo tarče, so zmožnost samostojnega odločanja strojev o življenju in smrti ljudi, določanje odgovornosti za napake strojev ali celo za vojne zločine, tveganje za prijateljski ogenj ali civilne žrtve, začetek nove globalne oboroževalne tekme in dejstvo, da bi se avtonomni sistemi oborožitve lahko znašli v rokah teroristov ali kriminalnih združb.
Ukrajina je pred približno dvema letoma na bojišču uporabila povsem avtonomne brezpilotne letalnike oziroma drone, ki so v posebnem načinu delovanja, imenovanem Terminator, sami, brez navodil človeka, ubili več ruskih vojakov. Šlo naj bi zgolj za enkratni preizkus, Ukrajina pa takšnih dronov trenutno ne uporablja.
Preizkus povsem avtonomnih dronov, ki so tarče izbrali in likvidirali brez človeškega posredovanja, je na nedavni tiskovni konferenci na veleposlaništvu Ukrajine v Veliki Britaniji razkril Aleksander Kohanovski, izvršilni direktor ukrajinskega obrambno-tehnološkega podjetja in proizvajalca dronov Aero Center.
Leteli so do fronte, nato pa se je aktiviral Terminator
Kot je v intervjuju za znanstveni časnik New Scientist pojasnil Kohanovski, so Ukrajinci pred približno dvema letoma brezpilotne letalnike sprogramirali tako, da so leteli do fronte, nato pa se je aktiviral avtonomni način Terminator, ki ga je poganjala umetna inteligenca.
Predstavniki ukrajinske obrambne industrije in ministrstva za obrambo poudarjajo, da je uporaba umetne inteligence v zadnjem stadiju, torej pri pritisku na sprožilec oziroma ob napadu na (človeško) tarčo, v Ukrajini prepovedana. Po njihovih navedbah imajo ključno vlogo pri odločanju namreč še vedno človeški upravljavci dronov.
Terminator je bil zasnovan tako, da je poiskal in poskusil uničiti vsako tarčo, na katero je naletel na območju delovanja. V tem primeru so bili tarče ruski vojaki na fronti v Ukrajini.
Ukrajina sicer nima neposrednih dokazov o tarčah, saj droni niso bili opremljeni z videokamerami. A ko so po preizkusu območje delovanja avtonomnih dronov pregledali z drugimi droni s kamerami, so naleteli na mrtve ruske vojake, prizori pa so zelo spominjali na druge smrti ruskih vojakov, ki so tarče običajnih ukrajinskih dronov. Zaradi tega so sklenili, da so ruske vojake ubili avtonomni droni, je za New Scientist dejal Kohanovski.
Več podrobnosti o preizkusu avtonomnih dronov – Kohanovski je poudaril, da ni šlo za drone njegovega podjetja Aero Center – sicer ni znanih. Ukrajinci, na primer, niso pojasnili, kako takšni droni, opremljeni s programom Terminator, izbirajo in napadejo tarče v primerjavi s človeškimi upravljavci dronov.
Ukrajinski droni so postali strah in trepet ruskih vojakov na fronti v Ukrajini.
Ukrajina uporabe povsem avtonomnih napadalnih dronov ne dovoljuje
Predstavniki ukrajinske obrambne industrije in ministrstva za obrambo so na tiskovni konferenci poudarili, da je uporaba umetne inteligence v zadnjem stadiju, torej pri pritisku na sprožilec oziroma ob napadu na človeško tarčo, v Ukrajini prepovedana.
Po njihovih navedbah imajo ključno vlogo pri odločanju namreč še vedno človeški upravljavci dronov, saj se s tem izrazito zmanjša tveganje za morebitni prijateljski ogenj, torej napad na lastne vojake, ali celo povzročitev morebitnih civilnih žrtev, še piše New Scientist.
Brezpilotni letalniki oziroma droni z delno avtonomnimi zmožnostmi so sicer že nekaj časa del arzenala tako ukrajinske kot ruske vojske. Takšni droni lahko samostojno poiščejo optimalno ali najmanj nevarno pot do cilja ali tarče in te tudi prepoznavajo, a končno odločitev o napadu tako rekoč vselej sprejmejo ljudje v ozadju – vsaj uradno.
Po navedbah ukrajinskega ministrstva za obrambo je Ukrajina razvila tehnološke in proizvodne zmogljivosti, ki ji vsak mesec omogočajo izvedbo več kot pet tisoč napadov z droni na ruske cilje na razdaljah, večjih od 20 kilometrov.
Glasna opozorila proti orožju, ki se samo odloča, koga ubiti
Tako imenovani ubijalski roboti, ki se sami odločajo, koga bodo odstranili s tega planeta, so sicer že več kot desetletje predmet polemik in opozoril, da človeštvo njihovega obstoja ne bi smelo dopustiti.
Svet Organizacije združenih narodov za človekove pravice je že leta 2013 izdal poročilo s pozivom h globalni zavezanosti prepovedi kakršnegakoli preizkušanja, sestavljanja, proizvodnje, preprodaje in ne nazadnje tudi uporabe tovrstnih robotov v oboroženem ali neoboroženem konfliktu.
Da orožje, ki lahko samo izbira in ubija tarče brez človeškega nadzora, ne bi smelo obstajati, že več let opozarja tudi generalni sekretar OZN António Guterres (vir).
Med najpogostejšimi opozorili in pomisleki strokovnjakov glede avtonomnega orožja, kot so droni, ki sami ubijajo tarče, so zmožnost samostojnega odločanja strojev o življenju in smrti ljudi, določanje odgovornosti za napake strojev ali celo za vojne zločine, tveganje za prijateljski ogenj ali civilne žrtve, začetek nove globalne oboroževalne tekme in dejstvo, da bi se avtonomni sistemi oborožitve lahko znašli v rokah teroristov ali kriminalnih združb.
Leta 2013 je več mednarodnih nevladnih organizacij zagnalo tudi tako imenovano kampanjo za zaustavitev ubijalskih robotov (Stop Killer Robots, vir).
S kampanjo je bilo kasneje, leta 2015, tesno povezano odprto pismo s pozivom k moratoriju na razvoj in uvedbo avtonomnega orožja (vir), ki ga je podpisalo na tisoče strokovnjakov s področja umetne inteligence, znanstvenikov in tehnoloških podjetnikov ter direktorjev, med drugim britanski fizik Stephen Hawking, soustanovitelj podjetja Apple Steve Wozniak, podjetnik Elon Musk in soustanovitelj Googlovega umetnointeligenčnega laboratorija DeepMind Demis Hassabis.
