Nedelja, 10. 11. 2024, 7.53
3 tedne, 2 dneva
Umetna inteligenca v logistiki – intervju: Clemens Brugger, Wolt
"Preglednost algoritmov lahko pomaga izpodbijati predsodke v družbi"
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
0,34
Avstrijec Clemens Brugger v tekoči slovenščini zadnja tri leta vodi slovensko podružnico družbe Wolt.
V pogovoru za Siol.net direktor slovenske podružnice velikega tehnološko-logističnega podjetja med drugim pojasnjuje, kaj jim umetna inteligenca omogoča, kje v njihovem poslovanju ne bo nikoli nadomestila človeka, zakaj je pomembno, da so algoritmi transparentni, in kako algoritmi lahko pomagajo pri izboljšanju družbe, v kateri živimo.
Živimo v obdobju, ko je veliko govora o umetni inteligenci, tako o tem, kar že omogoča, kakor tudi o obetih za prihodnost, a tudi morebitnih tveganjih, ki bi jih lahko prinesla. V nekaterih panogah so umetno inteligenco vpeli v svoje poslovanje še nekoliko hitreje in obsežneje, logistika pa je prav gotovo ena izmed njih.
O izkušnjah z umetno inteligenco v svojem poslovanju je za Siol.net odgovarjal direktor družbe Wolt Slovenija Clemens Brugger, ki je na tem položaju zadnja tri leta. Avstrijec, ki je pred 15 leti svojo celinsko domovino predvsem zaradi ljubezni zamenjal s Slovenijo in zato tekoče govori slovensko, je pred prevzemom vodilnega mesta v slovenski podružnici Wolta dolga leta deloval v mednarodnih podjetjih in nato tudi kot samostojni svetovalec.
"Brez algoritmov ne bi bili niti blizu tega, kar smo danes."
Kako bi vi opisali umetno inteligenco?
Kot množico algoritmov, to pa so pravzaprav matematični postopki, ki se uporabljajo za reševanje problemov z upoštevanjem zaporedja korakov. Sistem umetne inteligence je potem strojno zasnovan sistem za delovanje z različnimi stopnjami avtonomije, ki se lahko prilagaja po uvedbi. Ta sistem ustvari rezultate, kot so napovedi, vsebine, priporočila ali odločitve, ki lahko vplivajo na fizična ali virtualna okolja.
Kako pomembna je inteligenca pri vašem poslovanju?
Wolt je tehnološko podjetje, zato je delo z algoritmi osnova za uspešno delovanje, umetna inteligenca pa izrednega pomena, saj z njo izboljšujemo kakovost življenja v mestih. Potrošnikom na primer pomaga, da se lažje povežejo z lokalnimi trgovci, trgovcem pomaga pri rasti prodaje in uspešnem poslovanju, medtem ko dostavnim partnerjem omogoča lažji dostop do novih delovnih priložnosti in dodatnih zaslužkov. Skratka, algoritmi izboljšujejo kakovost naših storitev za vse deležnike na platformi.
"Sistem umetne inteligence je trojno zasnovan sistem za delovanje z različnimi stopnjami avtonomije, ki se lahko prilagaja po uvedbi."
Ali bi bilo vaše poslovanje izvedljivo brez umetne inteligence?
Leta 2022 smo v vseh državah, v katerih delujemo, dostavili 150 milijonov naročil, kar pomeni, da smo vsako minuto dostavili nekaj sto naročil. To pomeni, da je lahko v danem trenutku odprtih več tisoč naročil, ki jih je treba dodeliti najprimernejšim dostavnim partnerjem. Brez najboljše tehnologije in vrhunskih algoritmov ne bi bilo mogoče dostaviti vseh teh naročil v 30 minutah. Brez algoritmov je nemogoče delovati na ravni, ki bi bila vsaj blizu tej, na kateri delujemo danes.
Ali Wolt svoje algoritme razvija centralizirano ali je v njih tudi kaj slovenskega znanja?
Razvoj naše tehnologije poteka centralizirano za vse države prek več kot 80 avtonomnih projektnih ekip, razporejenih po vsem svetu, večinoma pa so v naših tehnoloških središčih v Helsinkih, Berlinu, Tokiu, Stockholmu in Tel Avivu.
Ali takšen centralizirani razvoj lahko upošteva slovenske značilnosti in posebnosti?
Algoritmi so prilagojeni lokalnemu slovenskemu okolju in seveda delujejo s slovenskimi podatki, zato so rezultati in rešitve, ki jih ti matematični procesi ustvarijo, specifični za Slovenijo. Pomembno je tudi omeniti, da se človeški nadzor nad tehnologijo in rezultati, ki jih ustvari algoritem, izvaja lokalno v Sloveniji, in sicer s strani naših lokalnih operativnih in podpornih ekip. Podpora uporabnikom, trgovcem in dostavnim partnerjem je namreč ključnega pomena za dobro poslovanje.
"Naši algoritmi so prilagojeni lokalnemu slovenskemu okolju in seveda delujejo s slovenskimi podatki, zato so rezultati in rešitve, ki jih ti matematični procesi ustvarijo, specifični za Slovenijo."
Kaj pomeni preglednost delovanja algoritmov in zakaj je to pomembno?
Dr. Johann Laux z oxfordskega internetnega inštituta pojasnjuje, da je preglednost algoritmov pomembna na dva načina. Na individualni ravni uporabniku omogoča, da razume delovanje algoritmov in s tem pridobi razumevanje celotnega procesa. Prav tako mu razumevanje omogoča, da se odloči, ali bo določenemu algoritmu zaupal ali ne.
Na družbeni ravni pa preglednost algoritmov družbi omogoča, da razišče, ali algoritmi sistematično prikrajšajo določene skupine. Diskriminacija je namreč pogosto posledica podatkov, ki se vnesejo v algoritem. Podatki vsebujejo sledi diskriminacije, ki jih družba pozna že tisočletja. Ko so identificirani, lahko družba popravi svojo smer delovanja. Tako je pomembno, lahko bi rekel skoraj neizbežno, da podjetja prevzamejo odgovornost in omogočijo preglednost algoritmov.
"Diskriminacija je pogosto posledica podatkov, ki se vnesejo v algoritem. Podatki vsebujejo sledi diskriminacije, ki jih družba pozna že tisočletja."
Ali so algoritmi vedno nepristranski?
Algoritmi so tako nepristranski, kot so nepristranski podatki, s katerimi se hranijo. Tudi danes je v družbi veliko pristranskosti, ki se prenašajo v algoritme, če algoritemska preglednost ne omogoča ustrezne revizije dela algoritmov. Na primer, če imajo v družbi moški neupravičeno večje možnosti uspeha pri zaposlitvenih intervjujih in pri pogovorih uporabljajo določene besede, ki jih denimo ženske ne uporabljajo, ter se ob tem algoritmi učijo na podlagi njihovih razgovorov in življenjepisov, bo algoritem tem kriterijem in besedam pripisal večjo možnost uspeha.
Tako bo algoritem posledično prevzel to preferiranje, ki že obstaja v družbi. Po drugi strani pa lahko preglednost algoritmov pripomore k temu, da postanejo ti predsodki v družbi vidni in se začnejo spreminjati v manj pristranske.
Kaj bi bil primer uspešnega delovanja umetne inteligence pri vašem poslovanju?
Na primer lajšanje pomoči podpore prek klepeta z vnaprej določenimi izbirami, ki temeljijo na pogostih težavah in nam pomagajo bolje rešiti uporabnikov problem. To niso chatboti, te možnosti pa so odvisne od tega, ali ste uporabnik, dostavni partner ali restavracija in ali imate odprto naročilo oziroma dostavo ali ne. To izredno pripomore k zagotavljanju odlične uporabniške izkušnje, sodelavci na podpori pa se resnično osredotočijo na reševanje težav in posvetijo empatični komunikaciji na najvišji ravni.
Kako konkretno uporabnikom pomagajo algoritmi?
Uporabnikom algoritmi, če se pravilno uporabljajo in upravljajo, močno olajšajo življenje tako, da priporočajo ustrezne restavracije in trgovine ali predlagajo izdelke na blagajni, ki bi jih verjetno pozabili dodati, pa so bili na njihovem seznamu (in ki jih običajno kupijo skupaj z izdelki v trenutni košarici). Skratka, prednosti algoritmov so ogromne, vendar le ob ustreznem upravljanju in preglednosti.
"Prednosti algoritmov so ogromne, vendar le ob ustreznem upravljanju in preglednosti."
Katerih vidikov poslovanja umetna inteligenca ne bo nikoli prevzela?
Saj veste, kaj je rekel že Niels Bohr: "Napovedovanje je zelo težko, še posebej glede prihodnosti." O tem res težko presojam, saj tudi največji strokovnjaki še ne morejo napovedati, na katerih področjih bo umetna inteligenca v prihodnosti prinesla dodano vrednost.
… ampak vseeno poskusite.
Veliko pomembnejše od tega, kaj bo umetna inteligenca počela, je vprašanje, kako bo delovala. In na tem področju upravljanja umetne inteligence bo vedno prisoten človeški nadzor nad algoritmom, tako na individualni kot na družbeni ravni. Prav tako bo na področju podpore uporabnikom vedno prisoten človeški faktor, ki bo reševal izzive, medtem ko bodo algoritmi pri tem pomagali. Ne verjamem, da se bodo lahko algoritmi kdaj popolnoma samostojno odločali o pravilih svojega delovanja.
"Veliko pomembnejše od tega, kaj bo umetna inteligenca počela, je vprašanje, kako bo delovala."
Umetna inteligenca lahko spremlja navade in nakupe uporabnikov ter na podlagi tega prilagaja ponudbo – gre torej za osebne podatke. Kako jih varujete, kako jamčite varovanje zasebnosti?
Prizadevamo si, da je uporaba osebnih podatkov minimalna in je uporabljena le tam, kjer je to potrebno, da lahko zagotovimo vrhunsko storitev. Pomembno je poudariti, da se uporabniški podatki, ki jih algoritem uporablja za priporočanje, shranjujejo in obdelujejo prek naključno ustvarjenih identifikacijskih številk, kar zagotavlja anonimnost uporabnika. Osnova vsega je, da seveda spoštujemo zakonske predpise in pravice posameznikov ter zagotavljamo preproste, varne in zasebnosti prijazne načine za dostop do svojih podatkov.
Kaj so pri vašem poslovanju glavni razlogi za zagotavljanje transparentnosti algoritmov?
To je pomembna tema iz več razlogov: prvič, to je temeljna in najosnovnejša naloga našega poslovanja, da dostavljamo na najučinkovitejši način in vsem uporabnikom zagotovimo, da dobijo dostavo v 30 minutah. Drugič, naši dostavni partnerji so plačani na podlagi dostav, zato je to zanje zelo pomembno. In tretjič, to lepo kaže na potrebo po demistifikaciji nekaterih mitov o delovanju algoritmov.
"Ne verjamem, da se bodo lahko algoritmi kdaj popolnoma samostojno odločali o pravilih svojega delovanja."
Če pogledamo kar konkretno, kako algoritem določi, kdo bo opravil dostavo?
Algoritem za dodeljevanje nalog dostavnim partnerjem dejansko uporablja le štiri merila: ali je dostavni partner prijavljen ali ne, torej ali je pripravljen za dostavo ali ne, katero prevozno sredstvo uporablja (da se upoštevajo omejitve v prometu, kot so peš cone itd.), kje je dostavni partner in kakšne so posebne zmogljivosti dostavnega partnerja, na primer za dostavo večjih naročil.
Samo to?
Samo to. Za dodeljevanje nalog se ne uporablja nič več kot to kljub vsem govoricam, ki jih skoraj dnevno slišimo, kot so "algoritem preferira dostavnega partnerja, ki je opravil večje število dostav", ali "partnerja, ki je hitrejši", ali "ne dodeljuje nalog tistim, ki so pred tem zavrnili kakšno delovno nalogo", ali na podlagi osebnih lastnosti, kot je rasa ali kaj drugega. Nič od tega ne igra nobene vloge. Osebno menim, da ravno algoritem na tem področju zagotavlja kar se da nepristransko dodeljevanje nalog.
