Većina organizacija misli da razumiju rizik umjetne inteligencije. Znaju da zaposlenici unose osjetljive podatke u ChatGPT. Imaju politike o odobrenim alatima umjetne inteligencije. Neke su čak uvele poslovne kopilote i programe upravljanja umjetnom inteligencijom.
No, prema novom istraživanju tvrtke LayerX, to nije mjesto gdje se pojavljuju najveće slijepe točke umjetne inteligencije. Izvješće otkriva mnogo složeniju stvarnost. Većina organizacija provodi vrijeme brinući se o nekolicini AI aplikacija, a pritom potpuno zaboravljaju kako se umjetna inteligencija zapravo koristi.
Rizik umjetne inteligencije u poduzeću nije ravnomjerno raspoređen među korisnicima ili platformama. Umjesto toga, koncentriran je među malom skupinom naprednih korisnika umjetne inteligencije, nekolicinom dominantnih platformi umjetne inteligencije i brzorastućim ekosustavom alata umjetne inteligencije koji često djeluju izvan tradicionalnih kontrola vidljivosti i upravljanja.
Problem više nije nekoliko pojedinačnih AI aplikacija. Problem je u svemu oko njih.
Umjetna inteligencija je svugdje. Ali većina ljudi je jedva koristi.
Jedan od najiznenađujućih nalaza istraživanja jest da su usvajanje umjetne inteligencije i ovisnost o umjetnoj inteligenciji dvije vrlo različite stvari. Dok je gotovo polovica poslovnih korisnika koristila alate umjetne inteligencije tijekom protekle godine, samo 18% ih je koristilo tjedno.
To znači da većina povremeno koristi umjetnu inteligenciju za sažimanje dokumenta, pisanje e-pošte ili odgovaranje na pitanje. Samo relativno mali postotak dosljedno koristi umjetnu inteligenciju kao dio svog svakodnevnog rada.
Na prvi pogled to zvuči umirujuće. Manje korištenja trebalo bi značiti manji rizik. Osim što podaci ne pokazuju da je tako.
Rizik umjetne inteligencije koncentriran je među malom skupinom naprednih korisnika umjetne inteligencije
Aktivnost umjetne inteligencije u poduzećima uvelike je koncentrirana među malom skupinom zaposlenika. Dok je polovica korisnika imala 12 ili manje razgovora s umjetnom inteligencijom, gornjih 5% generiralo je najmanje 144 razgovora. Također su puno dublje komunicirali s umjetnom inteligencijom, u prosjeku s 18 upita po razgovoru u usporedbi sa samo 2 za prosječnog korisnika.
To stvara novu klasu „naprednih korisnika umjetne inteligencije“ koji se uvelike oslanjaju na umjetnu inteligenciju u svojim svakodnevnim tijekovima rada i često koriste više platformi umjetne inteligencije. Oni ne krše nužno pravila ili se ponašaju nepromišljeno. Oni jednostavno integriraju umjetnu inteligenciju u daleko više aspekata svog rada od svih ostalih.
Rezultat je da je rizik umjetne inteligencije vrlo neravnomjeran. Relativno mali broj zaposlenika sada čini nesrazmjeran udio aktivnosti umjetne inteligencije, izloženosti osjetljivim podacima i korištenju umjetne inteligencije na više platformi.
ChatGPT i dalje dominira umjetnom inteligencijom u poduzećima, ali Copilot smanjuje jaz
Unatoč stalnim naslovima o novim modelima i nadolazećim konkurentima, ChatGPT ostaje dominantna AI platforma unutar većine poduzeća. Čini 36% korisnika AI-a u poduzećima i više od 55% svih AI razgovora.
Copilot M365 brzo raste, dosegnuvši 29% prihvaćanja i gotovo četvrtinu razgovora o umjetnoj inteligenciji u poduzećima. Rast Copilota signalizira nešto važno: korištenje umjetne inteligencije u poduzećima počinje se dijeliti između kontrolirane umjetne inteligencije izvorne za poduzeća i umjetne inteligencije koju pokreću potrošači. No, osim ta dva lidera, većina platformi umjetne inteligencije zaostaje unatoč pažnji koju dobivaju.
Istovremeno, ne stvaraju sve AI platforme iste izazove upravljanja. Copilot M365 brzo raste, ali većina korištenja događa se unutar korporativno upravljanih Microsoftovih okruženja gdje organizacije zadržavaju jaču vidljivost i kontrolu. Gemini predstavlja drugačiji profil rizika. Mnogi zaposlenici još uvijek koriste potrošačku verziju putem osobnih računa, stvarajući potencijalne slijepe točke oko rukovanja podacima, zadržavanja i praksi obuke modela.
Pouka je jednostavna: usvajanje platforme govori samo dio priče. Ne nosi svako usvajanje umjetne inteligencije u poduzećima istu razinu rizika. Alati umjetne inteligencije za potrošače kojima se pristupa putem osobnih računa stvaraju daleko veće slijepe točke u upravljanju nego platforme umjetne inteligencije kojima upravljaju poduzeća.
Shadow AI evoluirao je izvan okvira neodobrenih chatbotova
Kad većina ljudi čuje "Shadow AI", zamišljaju nekoga tko potajno koristi neodobrenog chatbota. Ta je definicija već zastarjela.
Moderni „Shadow AI“ je daleko neuredniji. Zaposlenici rutinski kombiniraju više AI alata unutar istog tijeka rada. Prebacuju se između chatbotova, AI tražilica, asistenata za kodiranje, ugrađenih kopilota i AI-pokretanih SaaS značajki ovisno o tome što pokušavaju postići. Rezultat je AI ekosustav koji je sve teže inventirati od SaaS-a.
Ne radi se o jednoj lažnoj aplikaciji, već o rastućem nizu AI alata koje sigurnosni timovi često teško vide, prate ili kontroliraju.
Korištenje umjetne inteligencije u poduzećima je puno osobnije nego što mislite
Gotovo polovica aktivnosti umjetne inteligencije u poduzećima događa se putem osobnih identiteta, a ne putem računa kojima upravljaju tvrtke. Ovo otkriće nas je najviše iznenadilo.
Zaposlenici koriste osobne ChatGPT račune. Osobne Gemini račune. Ponekad čak koriste osobne AI licence dok su prijavljeni s korporativnim identitetima. Iz perspektive upravljanja, to je noćna mora. Organizacije gube uvid u politike zadržavanja, mogućnost revizije, kontrole usklađenosti i način na koji ovi AI alati obrađuju poslovne podatke.
To znači da izazov umjetne inteligencije u poduzećima više nije samo upravljanje AI aplikacijama. Sve se više radi o upravljanju osobnom upotrebom umjetne inteligencije unutar njih.
Osjetljivi podaci već teku u AI alate
Naše istraživanje je pokazalo da više od 6% poslovnih razgovora o umjetnoj inteligenciji već sadrži osjetljive podatke. Zaposlenici svakodnevno dijele osobne podatke, financijske informacije i tehničke podatke sa sustavima umjetne inteligencije.
DeepSeek je pokazao najveću stopu izloženosti osjetljivih podataka s 12.63% razgovora. ChatGPT je slijedio s 8.38%. Copilot M365 je pokazao znatno nižu stopu izloženosti s 3.65%.
Pitanje više nije hoće li zaposlenici dijeliti osjetljive podatke s AI sustavima. Već to čine. Pravi izazov je razumjeti gdje se to događa, koliko često i putem kojih identiteta i platformi.
Površina rizika umjetne inteligencije raste izvan prozora za chat s AI proširenjem i konektorima
Izvješće također ističe dva brzorastuća AI kanala koje mnoge organizacije danas jedva prate: AI proširenja preglednika i AI konektore.
Oko 15% poslovnih korisnika već koristi barem jedno AI proširenje preglednika. Gotovo 75% tih proširenja zahtijeva visoka ili kritična dopuštenja preglednika. Više od 16% već ima poznate ranjivosti. Istovremeno, AI konektori sve više izravno povezuju AI sustave s poslovnim aplikacijama poput SharePointa, GitHuba, Slacka, Atlassiana i Google Workspacea.
To znači da AI sustavi više nisu ograničeni na zaposlenike koji ručno lijepe informacije u prozore chatbotova. Sve više im se odobrava izravan pristup podacima poduzeća, dokumentima, platformama za suradnju i internim spremištima znanja. To temeljno mijenja prirodu rizika umjetne inteligencije u poduzeću.
Što učiniti u vezi s tim
Prvi korak je vidljivost. Ne možete upravljati korištenjem umjetne inteligencije ako ne možete vidjeti. Zatim se organizacije moraju usredotočiti na to gdje je rizik umjetne inteligencije zapravo koncentriran: napredni korisnici umjetne inteligencije, neupravljana osobna upotreba umjetne inteligencije i sustavi umjetne inteligencije s izravnim pristupom podacima poduzeća. Cilj nije blokirati umjetnu inteligenciju, već razumjeti kako se koristi i primijeniti kontrole tamo gdje su najvažnije.
Sve smo to objedinili, uključujući podatke, analize platformi, analizu izloženosti osjetljivih podataka i praktične preporuke, u našem Izvješće o stanju korištenja umjetne inteligencije za 2026. godinu.
Preuzmite potpuno izvješće ovdje.
