umetna inteligenca
Sobota, 3. 10. 2026, 7.00
1 week, 2 days
Varnost in umetna inteligenca
Kako zaščitite svojo poslovno umetno inteligenco: ESET AI Security
Novi sloj zaščite v varnostni platformi ESET PROTECT, ESET AI Security, se posveča tveganjem pri uporabi agentske umetne inteligence, klepetalnikov in velikih jezikovnih modelov. ESET z inovacijami na področju umetnointeligenčne avtomatizacije procesov povečuje produktivnost varnostnih ekip pri zaznavanju in obravnavi incidentov.
Dandanes vsi vemo, da lahko umetna inteligenca pospeši delo, razbremeni zaposlene in izboljša poslovne procese. Poleg tega se že vsak zaveda, da ji ne moremo brez premisleka zaupati poslovnih skrivnosti ali neomejenega dostopa do informacijskih sistemov. Vsi bi radi izkoristili njene prednosti, vendar želja po večji učinkovitosti hitro trči ob vprašanja varnosti, zaupnosti podatkov in skladnosti.
Prav na prehodu iz preizkušanja v vsakodnevno uporabo se pokažejo najtežji izzivi. Ko pomočnik začne obdelovati pogodbe, uporabljati podatke strank ali samostojno izvajati naloge, potrebuje podjetje jasne odgovore: kdo nadzira njegove dostope, kam odhajajo informacije in kdo ukrepa ob sumljivem vedenju. V Sloveniji veliko podjetij že preizkuša UI, vendar takšna vprašanja zadržujejo prenose v produkcijo, kar posledično lahko vodi tudi v uporabo storitev UI mimo nadzora IT, do tako imenovane senčne umetne inteligence. Po drugi strani jih samo 22 odstotkov uporabo storitev UI preveri, preden jo dovoli v poslovne namene, kar seveda odpira neslutena tveganja.
Na takšne vrzeli opozarja tudi ESET, k se prek svoje globalne telemetrije iz dneva v dan srečuje z rastjo tovrstnih groženj. Podjetje je samo v prvem polletju 2026 analiziralo skoraj 900 tisoč takšnih komponent ter prepoznalo več deset tisoč sumljivih in več tisoč zlonamernih primerov.
Zaradi vse večjega razvoja groženj umetni inteligenci je ESET za leto 2026 napovedal kar 40-milijonsko naložbo v razvoj varnostnih rešitev za umetno inteligenco. Na podlagi te naložbe je ustvarilo prve nadgradnje, ki zajemajo zaščito uporabe UI in hkrati krepitev tehnologij za podporo varnostnim operacijam.
Možnost zlorabe je pokazala ranljivost EchoLeak v Microsoft 365 Copilot. Posebej oblikovana e-pošta je lahko v določenih okoliščinah povzročila odtekanje dela internih podatkov brez vednosti uporabnika. Microsoft je ranljivost odpravil, primer pa je pokazal, kako lahko pomočnik sledi podtaknjenim navodilom v vsebini, ki jo obdeluje.
ESET je odkril tudi PromptLock, eksperimentalno izsiljevalsko programsko opremo, ki uporablja jezikovni model za sprotno ustvarjanje skript. Te so namenjene obdelavi datotek, njihovemu odtujevanju in šifriranju. Ob odkritju ni šlo za aktivno napadalno kampanjo, temveč za razvojni primer uporabe UI v izsiljevalski programski opremi. Za podjetje bi uspešen napad takšne vrste pomenil dvojno škodo: izgubo dostopa do podatkov in tveganje njihovega razkritja.
PromptSpy pa je zlonamerna programska oprema za Android, ki uporablja Google Gemini za razumevanje uporabniškega vmesnika in pridobivanje navodil, kako ostati aktivna na napravi. Omogoča oddaljen nadzor telefona, zajem zaslona in prestrezanje podatkov za odklepanje. Na službenem telefonu bi to lahko ogrozilo poslovno komunikacijo in informacije, prikazane v aplikacijah.
Grožnje prihajajo tudi prek dodatkov za agente. ESET je v prvem polletju 2026 analiziral skoraj 900 tisoč takšnih komponent ter prepoznal več deset tisoč sumljivih in več tisoč zlonamernih primerov.
Kako ESET ščiti agente UI, dejavnosti UI in pogovore
ESET AI Security v okviru ESET PROTECT povezuje tri področja zaščite umetnointeligenčnih sistemov in storitev.
AI Agent Security pregleduje komponente ekosistema agentov, med drugim dodatke, kodo in zunanje vire. Zmanjšuje tveganje, da bi agent med izvajanjem legitimne naloge v poslovno okolje vnesel zlonameren element.
AI Behavioral Monitoring spremlja dejanja avtonomnih agentov in zaznava sumljivo vedenje, kot so neustrezni dostopi ali nevarne operacije. Preverjanje komponent tako dopolnjuje z nadzorom njihove uporabe.
AI Conversation Security ščiti interakcije uporabnikov s klepetalniki in velikimi jezikovnimi modeli. Preverja povezave in skripte v odgovorih, opozarja na občutljive podatke v pozivih in pregleduje oznake zaupnosti naloženih datotek.
Podpora varnostnim ekipam
Eset že več kot dve desetletji vlaga v razvoj strojnega učenja in umetne inteligence pri izvajanju varnostnih procesov. Podjetje je med prvimi z umetno inteligenco podprlo odkrivanje in odzivanje na kibernetske grožnje ter izvajanje upravljanih storitev kibernetske varnosti MDR.
Najnovejša pridobitev na tem področju je ESET LiveCortex, ki s pomočjo umetne inteligence izvaja korelacijo varnostnih dogodkov z različnih varnostnih območij in slojev zaščite ter v nadaljevanju izboljšuje odzivanje na resnične incidente.
V ESET LiveAI preimenovani ESET AI Advisor zagotavlja nove zmožnosti za sprotne kontekstne informacije, ki so namenjene remediaciji oziroma odpravljanju posledic incidentov. Varnostnim ekipam pomagata razumeti dogajanje ter načrtovati in sprejemati ustrezne ukrepe, s katerimi ali zamejijo ali blokirajo incident ter v čim krajšem času povrnejo sisteme v stanje pred incidentom.
Zagotovo se strinjate, da mora umetna inteligenca spremljati vsak nov dostop, ki ga omogočite umetni inteligenci.
ESET AI Security v okviru platforme ESET PROTECT pomaga obvladovati tveganja zlonamernih komponent in sumljivega vedenja UI-agentov ter klepetalnikov in velikih jezikovnih modelov. Na tak način z večjim zaupanjem izkoristite zmožnosti UI ter pospešite uvajanje inovacij v svojih poslovnih in proizvodnih procesih.
Glede na vse večje potrebe po storitvah umetne inteligence in vse večje grožnje čim prej preverite, kje je vaše podjetje danes izpostavljeno in katera zaščita ESET PROTECT ustreza vašemu načinu uporabe UI. Poskrbite, da prihranek časa ne preraste v kršitve varnosti podatkov in prekinitve poslovanja, v zmanjšanje zaupanja poslovnih strank in izgubo prihodkov.
Naročnik oglasne vsebine je SI SPLET d. o. o.
