Google Threat Intelligence Group (GTIG) in Mandiant sta 16. novembra 2026 objavila četrtletno poročilo o zlorabah umetne inteligence. Njegov naslov je že sporočilo: zlonamerna uporaba AI agentov je »prestopila pomemben prag«. Napadalci AI ne uporabljajo več le kot pomočnika pri pisanju kode. Uporabljajo ga kot samostojnega izvajalca napadov.
Prvi popolnoma avtonomen napad
Google je na izpostavljenem strežniku napadalcev našel ogrodje z imenom exploit_agent. Povezano je bilo z več jezikovnimi modeli in je delovalo brez človeka. Spremljalo je objave varnostnih popravkov za priljubljene spletne aplikacije in primerjalo kodo pred popravkom in po njem. Ko je odkrilo verjetno ranljivost, je pripravilo napad in ga samodejno izvedlo.
V prejšnjem poročilu je Google opisoval le delno avtomatizirane poskuse. Zdaj je prvič zaznal napadalce, ki iskanje in izkoriščanje ranljivosti v celoti prepustijo AI.
Od popravka do napada v nekaj dneh
Po Googlovi oceni je napadalcem lahko učinkoviteje z AI napadati že znane ranljivosti kot iskati nove. Vsak objavljen popravek namreč razkrije, kje je bila napaka. Podjetja, ki popravkov ne namestijo hitro, so zato vse bolj izpostavljena. Med januarjem in avgustom 2026 se je število razkritih ranljivosti in njihovih izkoriščanj skoraj podvojilo.
Primer so ranljivosti v strežnikih PaperCut za upravljanje tiskanja, razkrite konec avgusta 2026. Raziskovalci so z AI delujoč napad pripravili v enem dnevu. Štiri dni po razkritju je napadalec, ki si je verjetno pomagal z AI, izvedel napade na več sto organizacij. V enem okolju je v nekaj minutah prišel do skrbniških pravic v omrežju.
Orodja za varnostno testiranje v rokah napadalcev
Napadalci zlorabljajo odprtokodna orodja za avtomatizirano preverjanje varnosti, med njimi ARTEX, CAIRN, PentAGI in CyberStrikeAI. Z njimi avtomatizirajo posamezne faze resničnih vdorov. CAIRN je Google zaznal pri vdoru v ameriški letalsko-vesoljski sektor, PentAGI pa pri sistematičnem iskanju ranljivosti v organizacijah po Aziji.
Google izpostavlja tudi dobro novico: samostojni agenti puščajo veliko sledi. Podjetja, ki spremljajo dogajanje v svojih sistemih, jih zato lažje zaznajo. Google ob tem opozarja, da bodo z razvojem orodij napadi postajali vse bolj prikriti.
AI orodja v podjetju so nova tarča
Napadi ne ciljajo le na strežnike, ampak tudi na AI orodja, ki jih podjetja že uporabljajo:
- Skupina, verjetno povezana s Severno Korejo, je v kriptopodjetjih spremenila nastavitvene datoteke AI pomočnika za programiranje. Ob vsakem zagonu orodja se je prenesel zlonamerni program, ki napadalcem odpre stranska vrata v sistem.
- Napadalci kradejo dostope do plačanih AI storitev v oblaku in jih preprodajajo naprej (t. i. LLMjacking). Račun plača podjetje: v posameznih primerih je lažna poraba v enem dnevu presegla 100.000 dolarjev, v najhujših je skupaj dosegla milijon dolarjev.
- Kitajska platforma za lažno predstavljanje (phishing) Jieyou je dodala AI pomočnika. Manj vešči napadalci z njim kar z navadnimi navodili prilagajajo prevarantske strani in vabe.
Kaj to pomeni za vaše podjetje
Poročilo opisuje napade na velike organizacije, a sporočilo velja za vsa podjetja. AI ni več le orodje, ki ga uvajamo. Je tudi nov vir tveganja, ki ga moramo upravljati enako resno kot druga poslovna tveganja.
Začnete lahko že ta teden:
- Preverite čas do namestitve popravkov. Koliko dni mine, preden popravek namestite na sistemih, dostopnih z interneta? Okno se krajša na nekaj dni.
- Popišite, kje se AI že uporablja. Vprašajte vodje oddelkov, katera orodja uporabljajo in kdo hrani dostopne ključe.
- Omejite, kaj sme AI narediti. Za vsako orodje zapišite, katere podatke sme brati in katera dejanja sme izvajati. Pomembna dejanja naj potrdi človek.
- Določite odziv na zaplet. Zaposleni mora vedeti, komu prijavi sumljiv dogodek in kdo lahko orodje ustavi.
PRIDRUŽITE SE NAŠEMU BREZPLAČNEMU WEBINARJU
Praktični webinar o tem, kako AI v podjetju uporabljati nadzorovano: od podatkov, ki jih smemo vnesti, do odziva, ko gre kaj narobe.
Koristi AI so očitne, tveganja manj. Zaposleni ga že uporabljajo za povzetke, e-pošto, analize in pripravo dokumentov, pogosto še preden podjetje zanj sprejme pravila.
Četrtek, 26. novembra 2026, od 9.00 do 10.30, prek Zooma. Udeležba je brezplačna.
Webinar je namenjen vodstvu ter odgovornim za tveganja, varnost, IT in podatke.
OBRAZEC ZA PRIJAVO NA BREZPLAČNI WEBINAR
POMEMBNO: Če vam prijava preko obrazca ne deluje (npr. zaradi varnostnih omejitev v vaši organizaciji), nam pošljite mail s prijavo na [email protected].
Vir: Google Threat Intelligence Group, GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold, 16. 11. 2026. Avtorji: Aurora Blum, Kelli Vanderlee, Jess Xia in David Mainor.


