Microsoft je objavio svoje najnovije izvješće Cyber Pulse, koje daje konkretan uvid u nove kibernetičke rizike koji se mogu pojaviti tijekom svakodnevnog obavljanja radnih zadataka. Jedan od najozbiljnijih izazova koji se ističe jest upravljanje: AI agenti šire se brže nego što ih mnoge organizacije mogu vidjeti ili nadzirati, a taj nedostatak vidljivosti postaje sve veći poslovni rizik.

Stvaranje AI agenata više nije ograničeno na tehničke timove

U Microsoftovu ekosustavu korisnici razvijaju i implementiraju AI agente na svim ključnim platformama, od Fabric i Foundry do Copilot Studija i Agent Buildera, što odražava velik iskorak prema automatizaciji rada temeljenoj na umjetnoj inteligenciji.

Izrada agenata više nije rezervirana samo za tehničke uloge, odnosno ICT odjele. Danas zaposlenici na raznim funkcijama stvaraju i koriste agente u svakodnevnom radu. Microsoftovi podaci pokazuju da više od 80 % kompanija s liste Fortune 500 koristi aktivne agente izrađene putem low-code/no-code alata. Kako se primjena agenata širi, a prilike za transformaciju rastu, sada je pravi trenutak za uspostavu temeljnih kontrola.

AI agenti brzo se šire regijama i industrijama

Usvajanje i korištenje AI agenata ubrzano raste na globalnoj razini: Europa, Bliski istok i Afrika čine 42 % aktivnih AI agenata, slijede SAD (29 %), Azija (19 %) te ostatak Amerika (10 %).

Rast je najizraženiji u visoko reguliranim i operativno složenim industrijama. Nakon razvoja softvera i tehnologije (16 %), proizvodnja čini 13 % globalne uporabe AI agenata, slijede financijske usluge (11 %) i maloprodaja (9 %). U tim se sektorima AI agenti sve više koriste za izradu prijedloga, analizu financijskih podataka, trijažu sigurnosnih upozorenja, automatizaciju repetitivnih procesa i otkrivanje uvida brzinom stroja.

(Press)

Slijepa točka i rizik "dvostrukog agenta"

Izvješće upozorava da brza implementacija AI agenata može prestići sigurnosne i druge sustave upravljanja, povećavajući rizik od shadow AI-ja. Agenti s prevelikim ovlastima ili pod utjecajem pogrešnih ulaznih podataka mogu biti zloupotrijebljeni i pretvoreni u nenamjerne "dvostruke agente".

Baš kao i kod ljudskih zaposlenika, AI agenti trebaju jasne uloge, ograničene privilegije i kontinuirani nadzor kako ne bi postali ranjivost. Prema Cyber Pulse izvješću, već 29 % zaposlenika poseže za neodobrenim AI agentima u obavljanju radnih zadataka.

"U Hrvatskoj i diljem regije AI agenti brzo postaju digitalne kolege u svakodnevnim poslovnim operacijama. No bez jasnih pravila, vidljivosti i odgovornosti oni mogu postati ozbiljan sigurnosni rizik. Inovacije i sigurnost moraju napredovati istom brzinom. Organizacije koje primjenjuju Zero Trust principe, potpunu vidljivost i centralizirano upravljanje AI agentima, kao što to čine s ljudima i sustavima, smanjit će rizik, ojačati povjerenje i biti bolje pozicionirane u odnosu na konkurenciju, i to na sve reguliranijem i digitalnijem europskom tržištu, pa i šire", rekao je Tomislav Vračić, regionalni direktor za tehnologiju u Microsoftu.

Upravljanje AI-jem kao odgovornost liderstva

Prema Microsoftovu Data Security Indexu, samo 47 % organizacija uvodi specifične sigurnosne kontrole za GenAI, što ukazuje na priliku da organizacije osiguraju potrebnu vidljivost za sigurno uvođenje AI-ja.

Upravljanje AI-jem ne može biti isključivo u domeni IT-a, niti sigurnost AI-ja može biti odgovornost samo rukovoditelja za sigurnost informacija (CISO-a). To je zajednička odgovornost koja obuhvaća pravni sektor, HR, podatkovne timove, poslovno vodstvo i uprave. Kada se AI rizik tretira kao ključni rizik poslovanja, uz financijski, operativni i regulatorni rizik, organizacije mogu poslovati brže i sigurnije.

Od upravljanja rizikom do prednosti u odnosu na konkurenciju

Ovo je iznimno važno razdoblje za kompanije koje Microsoft naziva "frontier" kompanijama, odnosno organizacijama koje pomiču granice i trenutačno koriste AI za modernizaciju upravljanja, smanjenje prekomjernog dijeljenja podataka te uvođenje sigurnosnih kontrola koje omogućuju odgovornu upotrebu AI-ja.

Cyber Pulse izvješće zaključuje kako sigurnost i inovacije nisu suprotstavljene sile, već se međusobno osnažuju. Kvalitetno upravljanje gradi transparentnost, a transparentnost postaje ključna konkurentska prednost.

Organizacije koje odmah djeluju smanjit će rizik, ubrzati inovacije, zaštititi povjerenje korisnika i izgraditi otpornost u samu strukturu svojih AI-jem pokretanih poslovnih sustava.

Povezane vijesti

• Nova tipka dolazi na Microsoftove tipkovnice
• Nvidia prva dosegnula tržišnu vrijednost od četiri bilijuna dolara
• AI mijenja geopolitičku igru: SAD i Kina vode hladni rat 2.0 u utrci za digitalnu dominaciju