umetna inteligenca
Sreda, 9. 8. 2017, 20.25
2 tedna
Pot do zanesljivih samovozečih avtomobilov ni preprosta
Nalepka na prometnem znaku popolnoma zmede samovozeči avtomobil
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
1,35
2
Že majhna sprememba na prometnem znaku zadošča, da ga senzorji avtonomnih vozil ne prepoznajo pravilno. Nalepka na znaku stop je dovolj, da ga samovozeči avto prevozi brez vsakega zaviranja.
Vroče-hladno: tako se izmenjujejo obetavne in manj obetavne novice o tem, kdaj bodo samovozeča vozila s svojimi senzorji, kamerami in detekcijskimi sistemi res pripravljena povsem samostojno premagati vse izzive običajnega prometa in se v kaosu vsakdanjega prometa vedno sposobna pravočasno in pravilno odločiti.
Pri preizkusu novih, sicer zelo obetavnih tehnologij in rešitev neizogibno prihrumijo tudi težave in izzivi, ki so velikokrat tako banalni, da na njih niti ne bi pomislili. Na primer nalepke in grafiti, s katerimi neodgovorni posamezniki maličijo prometne znake.
Za človeške možgane ni dvoma, da je to znak stop, a že ta za nas na videz majhna sprememba je za računalniški vid in razpoznavo nepremostljiva.
Ko stop postane znak za omejitev na 70 kilometrov na uro
Raziskovalci univerze ameriške zvezne države Washington so ugotovili, da že majhne nalepke, izpisane na domačih tiskalnikih, lahko zmotijo računalniški vid pri razpoznavi prometnih znakov.
Ko so jih nalepili na znak stop, so te popolnoma zmedle umetno inteligenco, katere algoritem razpoznave deluje bistveno drugače kot človeški možgani. Tako spremenjenega znaka stop sistemi zaznave na samovozečih avtomobilih niso več zaznali.
Raziskovalci omenjene univerze so med drugim pokazali, kako majhna nalepka na znaku stop, prav tako na (ameriškem) prometnem znaku za ovinek v desno, prepriča detekcijski sistem samovozečega vozila, da gre za omejitev hitrosti 45 milj (70 kilometrov) na uro.
Tako majhna sprememba z nalepko je bila potrebna, da je računalniški vid ta znak prepoznal kot omejitev hitrosti 45 milj (70 kilometrov) na uro.
Nevarnost niso samo hekerji, temveč tudi grafitarji
Takšne ranljivosti je seveda treba obravnavati enako resno kot zagotavljanje računalniške varnosti, ker je na oba načina mogoče zlorabiti ali sabotirati sistem. Razsežnosti nesreč, ki se lahko zgodijo, če avtonomna vozila napačno prepoznajo prometne znake, so nepredstavljive.
Na videz nedolžen grafit je v skoraj treh četrtinah primerov prav tako povzročil, da so ti sistemi znak stop prepoznali kot omenjeno hitrostno omejitev.
2