Izvješće o stanju korištenja umjetne inteligencije za 2026.

Sažetak

#1

Iako je umjetna inteligencija posvuda, većina korisnika su ležerni

Iako je gotovo polovica zaposlenika u poduzećima u prosjeku koristila umjetnu inteligenciju na radnom mjestu, samo relativno mali broj to čini redovito. Samo 18% korisnika u poduzećima koristi umjetnu inteligenciju tjedno, a taj broj stalno raste tijekom vremenskog razdoblja: 30% mjesečno, 40% tromjesečno i 48% na duljem vremenskom okviru. To znači da, iako otprilike polovica korisnika "dodiruje" alate umjetne inteligencije, manje od petine korisnika to čini dosljedno, a većina korisnika su, zapravo, povremeni.

#2

Iako su zabrinutosti oko sigurnosti umjetne inteligencije široko rasprostranjene, rizik je koncentriran u malom broju naprednih korisnika

Aktivnost umjetne inteligencije u poduzećima vrlo je neujednačena. Dok je polovica zaposlenika koristila alate umjetne inteligencije s 12 ili manje razgovora, gornjih 5% korisnika umjetne inteligencije u poduzećima ima 144 ili više razgovora. Ista dinamika vrijedi i za upute unutar razgovora: 50% korisnika obično piše samo 1-2 upute po razgovoru, dok gornjih 5% piše 18. To stvara malu populaciju "naprednih korisnika umjetne inteligencije" koji potiču nesrazmjeran udio korištenja umjetne inteligencije u poduzećima, a posljedično i rizik od umjetne inteligencije.

#3

Iako je ChatGPT (još uvijek) kralj umjetne inteligencije u poduzeću, Copilot M365 ga sustiže

ChatGPT i dalje dominira korištenjem umjetne inteligencije u poduzećima. Iako ChatGPT koristi 36% poslovnih korisnika, on i dalje pokreće 55% razgovora u poduzeću. To znači da ga zaposlenici koji koriste ChatGPT koriste češće od drugih alata. Ipak, Copilot M365 brzo smanjuje jaz, s 29% prihvaćanja od strane korisnika i gotovo 24% razgovora. Druge platforme, poput Geminija, Claudea i Deepseeka, također se koriste u poduzećima, ali značajno zaostaju u pogledu prihvaćanja umjetne inteligencije u poduzećima.

#4

Unatoč svim raspravama o sigurnosti umjetne inteligencije, osobna upotreba umjetne inteligencije i dalje čini gotovo polovicu potrošnje umjetne inteligencije.

47% poslovnih AI razgovora odvija se putem osobnih identiteta, a ne korporativnih računa. To znači da su potpuno izvan dosega sigurnosti poslovne AI. Štoviše, 14.39% razgovora odvija se putem osobnih AI licenci, što znači da se podaci još uvijek obučavaju. To stvara velike slijepe točke u pogledu vidljivosti, upravljanja, usklađenosti i zadržavanja podataka.

#5

Izlaganje osjetljivih podataka putem umjetne inteligencije već je rašireno

Više od 6% razgovora o umjetnoj inteligenciji u poduzećima sadrži osjetljive podatke. ChatGPT, posebno, ima visoku stopu izloženosti osjetljivih podataka (8.38%), što ga čini najvećim pojedinačnim kanalom izloženosti podataka o umjetnoj inteligenciji u poduzećima. Pitanje više nije hoće li zaposlenici dijeliti osjetljive podatke s umjetnom inteligencijom; pitanje je koliko često, gdje i putem kojih identiteta se to događa.

#6

AI ekstenzije su kanal za korištenje AI-a koji većina sigurnosnih timova ne uspijeva vidjeti

AI proširenja preglednika brzo se šire u poslovnim okruženjima, posebno u malim i srednjim organizacijama gdje otprilike 15% zaposlenika već koristi barem jedno AI proširenje. Gotovo 75% AI proširenja ima visoke ili kritične razine dopuštenja, a 16.31% već ima poznate CVE-ove, što AI proširenja čini nesrazmjerno rizičnijima u usporedbi sa širim ekosustavom proširenja.

12x5% najboljih korisnika generira više AI razgovora

2.3xKorisnici ChatGPT-a su aktivniji od korisnika Copilota M365

Više od 1 od 12ChatGPT razgovori sadrže osjetljive podatke

75%zahtjev za visoka/kritična dopuštenja

Manje od 1 od 5

Poslovni korisnici komuniciraju s umjetnom inteligencijom na tjednoj bazi.

Srednji korisnik: 12 razgovora

Top 5% korisnika: 144+ razgovora.

47% osobni identiteti / 53% korporativni identiteti

Sva upotreba putem osobnih računa (izvan korporativnog identiteta). Sva upotreba putem korporativno upravljanih računa.

85.61% Enterprise licence / 14.39% osobne licence

Upravljano i regulirano. Koristi se putem korporativnog identiteta.

15% zaposlenika koristi AI ekstenzije

Proširenja preglednika temeljena na umjetnoj inteligenciji usvajaju se u velikim razmjerima u cijelom poduzeću.

75% zahtjeva visoke/kritične dozvole

Većina ekstenzija zahtijeva širok pristup podacima, web-stranicama i aktivnosti korisnika.

16.31% već ima poznate CVE-ove

Značajan dio AI ekstenzija ima objavljene ranjivosti.

ChatGPT nije samo najprihvaćenija AI platforma

Najšire se koristi.

Gotovo polovica aktivnosti umjetne inteligencije u poduzećima događa se izvan korporativnog upravljanja.

Čak i unutar korporativnih identiteta, ~1 od 7 interakcija umjetne inteligencije pokreće osobna licenca. Umjetna inteligencija u sjeni živi ispod površine.

Najbrže rastući AI kanal ujedno je i najmanje vidljiv i najrizičniji.

Proširenja umjetne inteligencije kombiniraju brzo usvajanje, povećane privilegije i poznate ranjivosti stvarajući veliku slijepu točku u sigurnosti poduzeća.

Preporuke CISO-a

#1 Počnite s preglednikom - tu se događa većina korištenja umjetne inteligencije

Umjetna inteligencija više nije ograničena na kartice ChatGPT-a. Zaposlenici sve više komuniciraju s umjetnom inteligencijom putem ugrađenih kopilota, SaaS aplikacija, AI proširenja, AI alata za pretraživanje i konektora, od kojih većina radi izravno unutar preglednika. Dok glavne platforme poput ChatGPT-a i Copilota dominiraju upotrebom, veći jaz u vidljivosti sve više dolazi od rastućeg dugačkog repa manjih AI alata koje sigurnosni timovi ne nadziru. Organizacije moraju započeti upravljanje umjetnom inteligencijom tamo gdje se većina AI aktivnosti zapravo događa: u pregledniku.

#2 Identificirajte i pratite visokorizične napredne korisnike umjetne inteligencije

Aktivnost umjetne inteligencije visoko je koncentrirana među malim postotkom naprednih korisnika. Sigurnosni timovi trebali bi identificirati intenzivne korisnike umjetne inteligencije i primijeniti adaptivno praćenje i kontrole na temelju njihovog volumena interakcije, osjetljivosti podataka i obrazaca korištenja platforme.

#3 Prelazak s "Blokiraj ili dopusti" na ugrađene AI zaštitne ograde za sprječavanje izlaganja podataka

Potpuno blokiranje umjetne inteligencije više nije realno, a pristup "dopusti sve" jednako je rizičan. Organizacijama je potreban nadzor u stvarnom vremenu i zaštitne ograde u stvarnom vremenu koje provjeravaju upite, prijenose, odgovore i korisničke radnje dok se događaju, omogućujući zaposlenicima produktivno korištenje umjetne inteligencije, a istovremeno sprječavajući izlaganje osjetljivih podataka, kršenja pravila i rizične interakcije u stvarnom vremenu.

Korištenje umjetne inteligencije u poduzećima je uobičajeno, ali stope korištenja variraju

Gotovo svaki peti zaposlenik redovito koristi AI asistente na tjednoj bazi, dok ih preko 30% koristi mjesečno, 40% ih koristi tromjesečno, a gotovo polovica poslovnih korisnika (47%) koristi AI alate tijekom duljeg vremenskog razdoblja. To pokazuje da AI više nije ograničen na rane korisnike ili izolirane tehničke timove. Međutim, većina korisnika nisu dnevni/tjedni korisnici, već AI koriste ležernije.

!

Zašto je to važno: Korištenje umjetne inteligencije sada je uobičajeno u cijelom poduzeću, ali za većinu zaposlenika još uvijek je povremeno i nestrukturirano, a ne dio njihovog svakodnevnog tijeka rada. To stvara težak problem upravljanja: umjetna inteligencija je dovoljno raširena da je tvrtke realno ne mogu blokirati, ali budući da je korištenje fragmentirano i često povremeno, veliki dio se događa izvan centraliziranog nadzora i vidljivosti.

Korištenje AI alata u poduzećima kroz vremenska razdoblja

18.24%Tjedni

30.47%Mjesečno

40.57%tromjesečni

47.67%>Tromjesečno

ChatGPT ostaje najkorišteniji AI alat, ali Copilot M365 ga sustiže

ChatGPT je nedvojbeni lider u korištenju umjetne inteligencije u poduzećima, kako u prihvaćanju tako i u angažmanu. Iako oko 36% korisnika u poduzećima komunicira s ChatGPT-om, on pokreće preko 55% svih AI razgovora. Ovaj jaz između prihvaćanja od strane korisnika i udjela u razgovorima pokazuje da su korisnici ChatGPT-a znatno aktivniji i angažiraniji od korisnika drugih AI platformi.

Microsoftova ponuda Copilot M365 usmjerena na poduzeća slijedi s 29% korisnika i 23% razgovora, što odražava široko prihvaćanje u poduzećima, ali niži intenzitet interakcije. Gemini i Claude pokazuju umjereno prihvaćanje s nižim udjelima razgovora u odnosu na korisnike. DeepSeek ostaje izuzetno ograničen u prihvaćanju u poduzećima, s 0.42% korisnika i 0.26% razgovora.

AI platforma	Raspodjela korisnika umjetne inteligencije u poduzeću po platformi	Raspodjela AI razgovora poslovnih korisnika po platformi
ChatGPT	36.19%	55.08%
Kopilot M365	29.57%	23.61%
Blizanci	13.02%	10.43%
Claude	11.93%	6.47%
Gemini Enterprise	5.18%	2.07%
Ko-pilot	3.69%	2.08%
DeepSeek	0.42%	0.26%

Štoviše, Microsoft pokazuje znatno jaču standardizaciju umjetne inteligencije u poduzećima od Googlea. Copilot M365 bilježi daleko veću primjenu od samostalne potrošačke Copilot ponude, s 29% korisnika u usporedbi sa samo 3% za Copilot. Gemini pokazuje suprotan trend, gdje se potrošačka verzija (13%) koristi daleko više od Gemini Enterprise (5%). To sugerira da su Microsoftovi korisnici skloniji djelovati unutar poduzećima upravljanih okruženja umjetne inteligencije, dok se mnogi Gemini korisnici i dalje oslanjaju na puteve pristupa umjetnoj inteligenciji za potrošače izvan centraliziranog upravljanja.

AI platforme: korisnici u odnosu na razgovore

!

Zašto je to važno: Unatoč stalnoj pompi oko novih AI platformi, korištenje AI-a u poduzećima i dalje je uvelike koncentrirano oko ChatGPT-a i Copilota M365. Većina ostalih alata, uključujući Gemini (uključujući Geminijevu Enterprise verziju), Claude i DeepSeek, i dalje zaostaje u pogledu prihvaćanja i angažmana u poduzećima.

Korištenje umjetne inteligencije u poduzećima potiče mali broj naprednih korisnika

Prosječni korisnik u poduzeću ima preko 36 AI razgovora, ali korištenje je uvelike neravnomjerno među zaposlenicima. Dok donjih 50% korisnika ima samo 12 ili manje razgovora, gornjih 5% korisnika generira 144 razgovora. Ova iskrivljena raspodjela korištenja naglašava koliko je korištenje AI-a u poduzeću zapravo neravnomjerno i pokazuje da relativno mala skupina zaposlenika potiče nesrazmjernu količinu aktivnosti AI-a u poduzeću.

Dubina razgovora je također značajna: interakcije umjetne inteligencije u prosjeku sadrže 5 upita po razgovoru, dok prvih 5% razgovora sadrži najmanje 18 upita. Ovo je vrlo zanimljiv nalaz koji ukazuje na to da su za većinu povremenih korisnika interakcije umjetne inteligencije jednostavan jednokratni upit (ne mnogo drugačiji od korištenja tražilice), a za napredne korisnike to su proširene interakcije u više koraka.

Raspodjela AI razgovora po korisniku

12Broj razgovora za korisnike iz 50. percentila

36Prosječan broj AI razgovora po korisniku

144Broj razgovora za korisnike iz 95. percentila

Raspodjela AI upita po razgovoru

2Broj upita za 50. percentil razgovora

5.09Prosječan broj upita po razgovoru

18Broj upita za 95. percentil razgovora

!

Zašto je to važno: Rizik umjetne inteligencije u poduzeću nije ravnomjerno raspoređen među zaposlenicima. Umjesto toga, organizacije svjedoče pojavi "naprednih korisnika umjetne inteligencije" koji se uvelike oslanjaju na alate umjetne inteligencije kao dio svojih svakodnevnih radnih procesa. Iz perspektive sigurnosti i upravljanja, ovi korisnici postaju nesrazmjerno važni jer također predstavljaju najveću koncentraciju potencijalne izloženosti osjetljivim podacima i neupravljanih interakcija umjetne inteligencije.

Pravi problem nije korištenje umjetne inteligencije, već osjetljivi podaci koji izlaze iz umjetne inteligencije

Znate li koje podatke vaši zaposlenici puštaju u AI alate?

U prosjeku, korisnici u poduzećima imaju preko 36 AI razgovora. Međutim, 6.48% svih AI razgovora u poduzećima sadržavalo je osjetljive podatke.

!

Zašto je to važno: Svaki AI razgovor koji sadrži osjetljive informacije stvara potencijalni rizik koji uključuje:

Curenje intelektualnog vlasništva
Regulatorna izloženost
Kršenja pravila o prebivalištu podataka
Izloženost podataka kupaca
Nekontrolirano treniranje modela

Kombinacija masovnog usvajanja umjetne inteligencije i kontinuiranog dijeljenja osjetljivih podataka stvara novi kanal curenja podataka u poduzeću s kojim se treba nositi.

Osobni podaci pojavljuju se u 5.81% svih AI razgovora, što ih čini daleko najčešće izloženom kategorijom osjetljivih podataka. To uključuje informacije poput imena zaposlenika, adresa e-pošte, telefonskih brojeva, evidencije kupaca i drugih osobnih podataka (PII).

Za usporedbu, financijski podaci pojavljuju se u 0.96% razgovora i uključuju stavke poput podataka o plaćama, bankovnih podataka, brojeva kreditnih kartica i financijskih prognoza. Podaci vezani uz IT i sigurnost pojavljuju se u 0.94% razgovora i uključuju osjetljive tehničke informacije poput IP adresa, SSH ključeva, API tokena itd.

Razgovori umjetne inteligencije koji sadrže osjetljive podatke, po kategoriji

5.81%osoblje

0.96%Finansijski

0.94%IT i sigurnost

!

Zašto je to važno: Iako se stope razgovora u kojima se dijele osjetljive informacije mogu činiti niskima, sama veličina i volumen korištenja umjetne inteligencije u poduzećima stvaraju široku površinu prijetnji. To stvara rastuće rizike za privatnost, usklađenost i regulatorne rizike, posebno kako se primjena umjetne inteligencije širi u odjelima koji rukuju osjetljivim korisničkim i poslovnim informacijama.

Stope izloženosti osjetljivih podataka znatno se razlikuju između AI platformi.

DeepSeek pokazuje najveću stopu izloženosti, s 12.63% razgovora koji sadrže osjetljive podatke, a slijede ChatGPT (8.38%) i Copilot (8.31%). Claude (6.43%) i Gemini Enterprise (6.14%) nalaze se u sredini, dok Copilot M365 pokazuje najnižu stopu izloženosti s 3.65%.

AI platforma	Razgovori o umjetnoj inteligenciji koje vode poslovni korisnici, a koji sadrže osjetljive podatke, po platformi
DeepSeek	12.63%
ChatGPT	8.38%
Ko-pilot	8.31%
Claude	6.43%
Gemini Enterprise	6.14%
Blizanci	4.50%
Kopilot M365	3.65%

!

Zašto je to važno: Ne koriste se sve AI platforme na isti način ili pod istim uvjetima upravljanja. Alati AI-a orijentirani na potrošače obično imaju veće stope izloženosti osjetljivim podacima, dok platforme integrirane u poduzeća poput Copilota M365 izgleda djeluju u kontroliranijim okruženjima. To naglašava potrebu za upravljanjem AI-om specifičnim za platformu, jer se profil rizika može značajno razlikovati ovisno o tome gdje zaposlenici komuniciraju s AI-om.

ChatGPT čini 55.08% svih poslovnih AI razgovora, a istovremeno pokazuje visoku stopu izloženosti osjetljivih podataka od 8.38%, što ga čini najvećim pojedinačnim kanalom za dijeljenje osjetljivih podataka na AI platformama. Copilot M365 predstavlja drugi najveći volumen razgovora s 23.61%, ali ima znatno nižu stopu izloženosti od 3.65%, dok DeepSeek pokazuje najveću ukupnu stopu izloženosti od 12.63% unatoč minimalnom usvajanju.

Razgovori u odnosu na osjetljive razgovore po platformi

!

Zašto je to važno: Rizik nije uzrokovan samo stopom izloženosti, već i količinom korištenja. Čak i platforme s umjerenim postotkom izloženosti mogu postati glavni kanali curenja podataka poduzeća kada je količina razgovora izuzetno visoka.

Većina korištenja umjetne inteligencije u poduzećima događa se putem osobnih računa, stvarajući nevidljive praznine u upravljanju

Gotovo polovica svih razgovora o umjetnoj inteligenciji u poduzećima (47.11%) odvija se putem osobnih identiteta, a ne putem računa kojima upravlja tvrtka (52.89%). To znači da se veliki dio aktivnosti umjetne inteligencije u poduzećima može odvijati izvan izravne kontrole organizacije.

52.89%Raspodjela identiteta u AI aplikacijama: Korporativno naspram osobnog - % razgovora koji koriste korporativni identitet

47.11%Raspodjela identiteta u AI aplikacijama: Korporativno naspram osobnog - % razgovora koji koriste osobni identitet

85.61%Razgovori koji koriste korporativne identitete: Enterprise vs. Personal License - % razgovora koji koriste korporativnu licencu

14.39%Razgovori koji koriste korporativne identitete: Enterprise vs. osobna licenca - % razgovora koji koriste osobnu licencu

Uz to, 14.39% razgovora koji koriste korporativne identitete e-pošte vezano je uz osobne AI licence.

Takvi primjeri stvaraju lažni osjećaj sigurnosti, jer zaposlenici mogu misliti da koriste korporativni račun, budući da se prijava vrši korištenjem korporativnog identiteta. Međutim, to se zapravo ne razlikuje od korištenja osobnih računa, budući da organizacije nemaju kontrolu nad time kako se podaci pohranjuju, zadržavaju, upravljaju ili potencijalno dijele s trećim stranama, a ti se podaci i dalje koriste za obuku modela.

Također ističe koliko često zaposlenici miješaju radne pretplate s potrošačkim AI pretplatama i neupravljanim AI okruženjima.

Iako ukupni podaci pokazuju da su osobna i poslovna upotreba gotovo podjednako podijeljene, raščlamba po platformama pokazuje značajna odstupanja. Dok neke platforme, poput ChatGPT-a, Claudea, Copilota i Deepseeka, dominiraju osobnom upotrebom s preko 60% razgovora na svakoj vezanih uz osobne račune, druge platforme usmjerene na poduzeća, poput Gemini Enterprisea i Copilota M365, koriste se gotovo u potpunosti putem korporativno upravljanih računa, čineći 98.15% odnosno 90.55% razgovora.

Korporativni i nekorporativni identitet prema platformi

Platforma	% razgovora koji koriste korporativni identitet	% razgovora koji koriste nekorporativni identitet
ChatGPT	38.14%	61.86%
Blizanci	62.15%	37.85%
Gemini Enterprise	98.15%	1.85%
Claude	38.91%	61.09%
Ko-pilot	36.08%	63.92%
Kopilot M365	90.55%	9.45%
DeepSeek	0.17%	99.83%

!

Zašto je to važno: Alati umjetne inteligencije sve se više kombiniraju s alatima za produktivnost, a posebno s Microsoft M365 (Copilot) i Google Workspaceom (Gemini). Međutim, dok se većina korištenja Copilota u organizacijama koristi poslovno orijentiranom varijantom Copilota M365 (vidi podatke u prethodnim poglavljima) i obavlja se pomoću korporativnih identiteta, većina korištenja Geminija pokreće se besplatnom verzijom Geminija (onom koja nije Enterprise) i dominiraju osobni računi. To stvara slijepu točku za organizacije na koju utječe vrsta alata koje koriste zaposlenici i računi koje koriste za pristup njima.

Problem umjetne inteligencije u poduzećima više nije jedna platforma, već stotine manjih

Dok se 70.44% korisnika oslanja na jednog AI asistenta, gotovo 30% koristi više AI platformi, uključujući 21.16% koji koriste dva alata i preko 8% koji koriste tri ili više. To pokazuje da korištenje AI unutar poduzeća postaje sve fragmentiranije po platformama, a ne standardizirano oko jednog odobrenog rješenja.

Broj AI alata koje koriste poslovni korisnici

70.44%1 alat

21.16%2 alata

7.1%3 alata

1.3%4+ alata

!

Zašto je to važno: Korištenje umjetne inteligencije na više platformi stvara sve veću složenost upravljanja, jer svaki AI asistent uvodi različite modele, politike, prakse rukovanja podacima i sigurnosne kontrole. Kako zaposlenici raspoređuju tijekove rada na više AI alata, organizacije se suočavaju s rastućim prazninama u vidljivosti i većom površinom za izloženost osjetljivih podataka.

Poslovni korisnici u prosjeku koriste 2.24 AI aplikacije, dok prosječni korisnik koristi 2 AI alata. Prvih 5% korisnika koristi 6 ili više AI aplikacija, što pokazuje da se manja skupina zaposlenika oslanja na široku paletu AI alata kao dio svojih radnih procesa.

Korištenje umjetne inteligencije više nije koncentrirano oko jednog odobrenog asistenta. Kako zaposlenici koriste više aplikacija umjetne inteligencije, organizacije se suočavaju s rastućim izazovima u vezi s vidljivošću, upravljanjem, dosljednošću podataka i izloženošću osjetljivim podacima u sve fragmentiranijem ekosustavu umjetne inteligencije.

Raspodjela AI aplikacija po korisniku

250. percentil AI aplikacija po korisniku

2.24Prosječan broj AI aplikacija po korisniku

695. percentil AI aplikacija po korisniku

Iako se većina korištenja umjetne inteligencije koncentrira oko nekoliko alata, podaci ukazuju na rastući dugi rep AI alata unutar poduzeća, gdje zaposlenici sve više usvajaju nišne ili sekundarne AI aplikacije uz mainstream platforme. To stvara problem skrivene umjetne inteligencije, što organizacijama otežava održavanje vidljivosti, provođenje politika upravljanja i kontrolu kretanja osjetljivih podataka kroz rastući AI ekosustav.

20 najpopularnijih AI aplikacija

AIChatGPT

AIGoogle Dev

AIKopilot M365

AImicrosoft

AIBlizanci

AIPredumišljaj

AIKaggle

AIAzure.com

AIClaude

AIdeepseek

AICanva

AIHarvey AI

AIZbunjenost

AISimpatičan

AIGoogle

AIDuboki AI

AIVercel

AIwordtune

AIOtter.ai

AIZagrljeno lice

Od 100 najpopularnijih AI aplikacija, ChatGPT je bio najkorišteniji AI alat. Iako je većina korištenja AI koncentrirana oko 4-5 najboljih alata, podaci ukazuju na rastući dugi rep AI alata unutar poduzeća, gdje zaposlenici sve više usvajaju nišne ili sekundarne AI aplikacije uz mainstream platforme. To stvara problem „Shadow AI“, što organizacijama otežava održavanje vidljivosti, provođenje politika upravljanja i kontrolu kretanja osjetljivih podataka kroz rastući AI ekosustav.

Raspodjela korištenja umjetne inteligencije u 30 najpopularnijih aplikacija umjetne inteligencije

AI proširenja su kanal korištenja AI-a za koji poduzeća ne znaju

Korištenje AI ekstenzija sve je češće u poduzećima, a male i srednje organizacije pokazuju najveću primjenu, oko 15% korisnika koristi barem jednu AI ekstenziju. Dok veće organizacije ostaju konzervativnije ili regulirane, s otprilike 10% korisnika koji ih koriste.

% korisnika s instaliranim AI proširenjem

14.55%Malo poduzeće <1,000 zaposlenika

17.70%Srednje veliko poduzeće 1,000-2,500 zaposlenika

9.53%Veliko poduzeće >2,500 zaposlenika

Gotovo 75% proširenja preglednika zahtijeva visoke ili kritične razine dopuštenja (56.4% visoke, 16.7% kritične), dok samo 1.4% radi s niskim dopuštenjima.

Instalirana AI proširenja prema opsegu dopuštenja

56.4%visok

25.6%Srednji

16.7%Kritično

1.4%Nizak

!

Zašto je to važno: Proširenja s povišenim dopuštenjima mogu pristupiti osjetljivim podacima preglednika i aktivnosti korisnika, što znači da zlonamjerno ili kompromitovano proširenje može lako otkriti osjetljive informacije ili preuzeti korisničke sesije.

AI ekstenzije pokazuju viši profil sigurnosnog rizika. 16.31% AI ekstenzija ima poznate CVE-ove, u usporedbi s 10.8% među svim ekstenzijama. AI ekstenzije nose znatno viši profil rizika s većom izloženošću ranjivostima i povišenim dozvolama, što povećava rizik od izlaganja podataka i zlouporabe. Viša stopa CVE-a u AI ekstenzijama znači da zahtijevaju strožu provjeru, praćenje i upravljanje prije implementacije u poslovnim okruženjima.

	Sva proširenja	Samo AI proširenja
% ekstenzija s poznatim CVE-ovima	10.80%	16.31%
% proširenja s pristupom kolačićima	6.67%	18.19%
% proširenja s pristupom skriptiranju	15.40%	41.91%

Štoviše, AI ekstenzije gotovo 3 puta češće zahtijevaju pristup kolačićima od prosječnog proširenja preglednika. Također, 41.91% AI ekstenzija zahtijeva pristup skriptiranju, u usporedbi s 15.4% svih ekstenzija.

To znači da proširenja umjetne inteligencije uvode nesrazmjerno veće rizike za privatnost, sigurnost i pristup podacima te zahtijevaju strože upravljanje, pregled i kontinuirano praćenje u poslovnim okruženjima.

AI konektori povezuju AI s novim prijetnjama

AI konektore koristi relativno mali dio zaposlenika, s 0.16% korisnika koji komuniciraju s barem jednim AI tijekom rada omogućenim konektorima. Međutim, korisnici koji usvajaju konektore obično povezuju više poslovnih aplikacija, u prosjeku 4.5 konektora po korisniku. Najčešće integracije izravno povezuju AI platforme s poslovno kritičnim sustavima kao što su SharePoint, Microsoft 365, Atlassian, Google Workspace, GitHub, Slack i Figma.

!

Zašto je to važno: AI konektori dramatično proširuju ono što AI platforme mogu pristupiti izvan jednostavnih brzih interakcija. Umjesto da zaposlenici ručno dijele podatke, konektori mogu pružiti AI alatima izravan pristup e-porukama, dokumentima, platformama za suradnju, spremištima koda, internim bazama znanja i SaaS aplikacijama. To stvara mnogo veću i trajniju površinu za napade u poduzećima, gdje osjetljivi poslovni podaci mogu kontinuirano teći između poslovnih sustava i vanjskih AI platformi.

Popis 10 najboljih konektora

primjena	konektor
ChatGPT	SharePoint
ChatGPT	Outlook e
ChatGPT	microsoft
ChatGPT	Atlassian
ChatGPT	Microsoft (uživo)
ChatGPT	Google
ChatGPT	GitHub
ChatGPT	Canva
ChatGPT	Zatišje
ChatGPT	figma

Ključne preporuke

Podaci u ovom izvješću pokazuju da se korištenje umjetne inteligencije u poduzećima širi brže nego što većina organizacija može kontrolirati. Umjetna inteligencija više nije ograničena na nekoliko odobrenih alata ili izoliranih korisnika. Zaposlenici sada komuniciraju s umjetnom inteligencijom putem osobnih računa, ugrađenih kopilota, proširenja preglednika, konektora i brzorastućeg ekosustava aplikacija umjetne inteligencije. Kako bi smanjile izloženost i ponovno stekle vidljivost, organizacije bi trebale usvojiti slojevit pristup upravljanju umjetnom inteligencijom usmjeren na identitete, izloženost podataka i praćenje u stvarnom vremenu.

#1

Prestanite se fokusirati samo na "odobrenu umjetnu inteligenciju"; vaš najveći rizik je dugi rep

Većina organizacija usredotočena je na upravljanje ChatGPT-om ili Copilotom, ali podaci pokazuju da je stvarni jaz u vidljivosti rastući ekosustav sekundarnih AI alata, ugrađenih asistenata, AI tražilica, proširenja preglednika i konektora koji se tiho šire po poduzeću. Najveći propusti u upravljanju AI-om neće doći od popularnih AI alata, već od desetaka manjih AI alata za koje sigurnosni timovi čak ni ne znaju da ih zaposlenici koriste.

#2

Identificirajte i pratite visokorizične napredne korisnike umjetne inteligencije

Većina zaposlenika koristi umjetnu inteligenciju ležerno. Pravi rizik koncentriran je među vrlo malom skupinom teških korisnika umjetne inteligencije koji vode više razgovora, koriste više platformi umjetne inteligencije i sudjeluju u dubljim interakcijama s više promptova. Sigurnosni timovi trebali bi kontinuirano identificirati teške korisnike umjetne inteligencije i primjenjivati adaptivno praćenje na temelju volumena interakcije, raznolikosti platformi i obrazaca izloženosti osjetljivim podacima.

#3

Blokiranje umjetne inteligencije nije strategija; budućnost sigurnosti umjetne inteligencije su ugradbene ograde

Razmjeri korištenja umjetne inteligencije u poduzećima pokazuju da potpuno blokiranje umjetne inteligencije više nije praktično, ali također pokazuju da neograničena upotreba umjetne inteligencije stvara jednako ozbiljan rizik. Organizacije koje uspiju odmaknut će se od binarnih politika "blokiraj vs. dopusti" i prema inline upravljanju umjetnom inteligencijom: praćenju interakcija u stvarnom vremenu, razumijevanju konteksta i dinamičkoj primjeni kontrola bez ometanja produktivnosti.

#4

Ograničite korištenje osobnih računa i tretirajte osobne licence na korporativnim računima kao Active Shadow AI

Neupravljani osobni AI računi i osobne AI licence izlažu osjetljive poslovne tijekove rada nekontroliranim AI okruženjima. Provođenje korporativnih AI identiteta i blokiranje korištenja osobnih računa pomaže u osiguravanju da AI interakcije, upiti i tokovi podataka ostanu vidljivi, regulirani i zaštićeni sigurnosnim kontrolama poduzeća.

#5

Primjena ciljanih sigurnosnih kontrola na AI proširenja i konektore

Proširenja i konektori preglednika s umjetnom inteligencijom mogu izravno izložiti poslovne sustave vanjskim platformama umjetne inteligencije. Organizacije bi trebale kontinuirano provjeravati ove integracije radi dopuštenja, ranjivosti, opsega pristupa podacima i promjena u ponašanju tijekom vremena.

Kako vam LayerX može pomoći

AI

Vidljivost u svu umjetnu inteligenciju

Otkrijte sve AI alate, preglednike i aplikacije u upotrebi i ostvarite potpuni uvid u sve aktivnosti korisnika i agenata unutar njih.

AI

Kontrolirajte pristup alatima umjetne inteligencije

Ograničite korištenje shadow AI aplikacija i osigurajte pristup odobrenim AI aplikacijama pomoću korporativnih računa.

AI

Spriječite curenje podataka umjetne inteligencije

Uvedite sigurnosne ograde umjetne inteligencije u zadnjim fazama procesa kako biste spriječili korisnike da dijele osjetljive podatke s GenAI alatima.

AI

Kontrola ulaza i izlaza umjetne inteligencije

Pratite i kontrolirajte podatke koji ulaze i izlaze iz alata umjetne inteligencije kako biste spriječili unos ili otkrivanje osjetljivih ili povjerljivih podataka

LayerX je jedina platforma za kontrolu korištenja umjetne inteligencije koja vam omogućuje kontrolu svakog upita, akcije agenta i razmjene podataka u bilo kojoj aplikaciji, pregledniku i IDE-u, bez promjene mrežne arhitekture ili ometanja korisničkog iskustva.

Nudi sveobuhvatan uvid u sve AI alate, AI ugrađene SaaS-ove, AI preglednike i korištenje AI aplikacija, bez obzira tko ih koristi ili na kojem uređaju.

Štoviše, LayerX ide korak dalje kako bi pružio potpunu vidljivost svakog AI razgovora na svim glavnim AI platformama, bilježeći i upute i odgovore. To sigurnosnim timovima daje potpuni uvid u podatke dijeljene s AI alatima, zajedno s kontekstom potrebnim za otkrivanje izloženosti, ubrzanje istraga i osiguranje usklađenosti s propisima.

Također prati korisničke radnje poput pregledavanja, pokušaja prijave, unosa podataka i prijenosa datoteka, identificirajući kojim se alatima pristupa, tko im pristupa i putem kojih računa (korporativnih ili osobnih). To organizacijama omogućuje otkrivanje neovlaštenog dijeljenja podataka i provedbu politika kako bi se spriječilo curenje podataka iz ovlaštenih alata umjetne inteligencije i drugih aplikacija umjetne inteligencije u sjeni.

Štoviše, LayerX omogućuje organizacijama izravno otkrivanje i provođenje pravila na tim aplikacijama u zadnjim fazama obrade. Organizacije mogu definirati pravila na temelju identiteta korisnika, statusa uređaja, kategorije web-mjesta, osjetljivosti podataka itd., kako bi stvorile prilagođena sigurnosna pravila s nizom opcija provođenja, od samog praćenja, preko upozorenja korisnika prilagodljivim porukama, maskiranja osjetljivih podataka do potpunog blokiranja njihovih radnji.

Da biste saznali više o tome kako vam LayerX može pomoći u upravljanju i zaštiti korištenja umjetne inteligencije u vašoj organizaciji, posjetite www.layerxsecurity.com i zakažite demonstraciju već danas!