Večina organizacij meni, da razumejo tveganje, povezano z umetno inteligenco. Vedo, da zaposleni v ChatGPT vnašajo občutljive podatke. Imajo pravilnike glede odobrenih orodij umetne inteligence. Nekatere so celo uvedle poslovne pilote in programe upravljanja umetne inteligence.

Toda glede na novo raziskavo podjetja LayerX se največje slepe pege umetne inteligence ne pojavljajo prav tam. Poročilo razkriva veliko bolj zapleteno resničnost. Večina organizacij se ukvarja s peščico aplikacij umetne inteligence, medtem ko popolnoma spregleda, kako se umetna inteligenca dejansko uporablja. 

Tveganje, povezano z umetno inteligenco v podjetjih, ni enakomerno porazdeljeno med uporabniki ali platformami. Namesto tega je skoncentrirano med majhno skupino naprednih uporabnikov umetne inteligence, peščico prevladujočih platform umetne inteligence in hitro rastočim ekosistemom orodij umetne inteligence, ki pogosto delujejo zunaj tradicionalnih nadzornih mehanizmov za preglednost in upravljanje.

Problem ni več v nekaj posameznih aplikacijah umetne inteligence. Gre za vse okoli njih.

Umetna inteligenca je povsod. Vendar je večina ljudi komaj uporablja.

Ena najbolj presenetljivih ugotovitev raziskave je, da sta sprejemanje umetne inteligence in odvisnost od umetne inteligence dve zelo različni stvari. Medtem ko je skoraj polovica poslovnih uporabnikov v preteklem letu uporabljala orodja umetne inteligence, jih je le 18 % uporabljalo le tedensko.

To pomeni, da večina občasno uporablja umetno inteligenco za povzemanje dokumenta, pisanje e-pošte ali odgovor na vprašanje. Le relativno majhen odstotek jih umetno inteligenco uporablja dosledno kot del svojega vsakdanjega dela.

Na prvi pogled se to sliši pomirjujoče. Manjša uporaba bi morala pomeniti manjše tveganje. Vendar podatki ne kažejo tega.

Tveganje umetne inteligence je skoncentrirano med majhno skupino uporabnikov umetne inteligence

Dejavnost umetne inteligence v podjetjih je močno skoncentrirana med majhno skupino zaposlenih. Medtem ko je imela polovica uporabnikov 12 ali manj pogovorov z umetno inteligenco, je zgornjih 5 % ustvarilo vsaj 144 pogovorov. Z umetno inteligenco so tudi veliko bolj intenzivno komunicirali, v povprečju so imeli 18 pozivov na pogovor v primerjavi s samo dvema za povprečnega uporabnika.

To ustvarja nov razred »naprednih uporabnikov umetne inteligence«, ki se v svojih vsakodnevnih delovnih procesih močno zanašajo na umetno inteligenco in pogosto uporabljajo več platform umetne inteligence. Ne kršijo nujno pravilnika ali se vedejo nepremišljeno. Preprosto umetno inteligenco integrirajo v veliko več vidikov svojega dela kot vsi ostali.

Posledica tega je, da je tveganje, povezano z umetno inteligenco, zelo neenakomerno. Relativno majhno število zaposlenih zdaj predstavlja nesorazmeren delež dejavnosti, povezanih z umetno inteligenco, izpostavljenosti občutljivim podatkom in uporabe umetne inteligence na različnih platformah.

ChatGPT še vedno prevladuje na področju umetne inteligence v podjetjih, vendar Copilot zmanjšuje vrzel

Kljub nenehnim novicam o novih modelih in nastajajoči konkurenci ChatGPT ostaja prevladujoča platforma umetne inteligence v večini podjetij. Predstavlja 36 % uporabnikov umetne inteligence v podjetjih in več kot 55 % vseh pogovorov z umetno inteligenco.

Copilot M365 hitro raste, dosega 29-odstotno stopnjo uporabe in skoraj četrtino pogovorov o umetni inteligenci v podjetjih. Rast platforme Copilot kaže na nekaj pomembnega: uporaba umetne inteligence v podjetjih se začenja deliti med nadzorovano umetno inteligenco, ki je izvorno namenjena podjetjem, in umetno inteligenco, ki jo poganjajo potrošniki. Toda poleg teh dveh vodilnih platform večina platform umetne inteligence ostaja v zaostanku kljub pozornosti, ki jo prejemajo.

Hkrati pa vse platforme umetne inteligence ne ustvarjajo enakih izzivov pri upravljanju. Copilot M365 hitro raste, vendar se večina uporabe dogaja v korporativno upravljanih okoljih Microsoft, kjer organizacije ohranjajo večjo preglednost in nadzor. Gemini predstavlja drugačen profil tveganja. Mnogi zaposleni še vedno uporabljajo potrošniško različico prek osebnih računov, kar ustvarja morebitne slepe pege pri praksah ravnanja s podatki, njihovega shranjevanja in usposabljanja modelov.

Lekcija je preprosta: uvedba platforme pove le del zgodbe. Ni vsako uvajanje umetne inteligence v podjetjih nosi enako stopnjo tveganja. Orodja umetne inteligence za potrošnike, do katerih dostopajo prek osebnih računov, ustvarjajo veliko večje slepe pege pri upravljanju kot platforme umetne inteligence, ki jih upravljajo podjetja.

Senčna umetna inteligenca se je razvila onkraj neodobrenih klepetalnih robotov

Ko večina ljudi sliši izraz »senčna umetna inteligenca«, si predstavljajo nekoga, ki na skrivaj uporablja neodobrenega klepetalnega robota. Ta definicija je že zastarela.

Sodobna »senčna umetna inteligenca« je veliko bolj neurejena. Zaposleni rutinsko združujejo več orodij umetne inteligence znotraj istega delovnega procesa. Preklapljajo med klepetalnimi roboti, iskalniki umetne inteligence, pomočniki za kodiranje, vgrajenimi sodelavci in funkcijami SaaS, ki jih poganja umetna inteligenca, odvisno od tega, kaj poskušajo doseči. Rezultat je ekosistem umetne inteligence, ki ga je vse težje inventarizirati kot SaaS.

Ne gre za eno samo prevarantsko aplikacijo, temveč za vse večji dolg rep orodij umetne inteligence, ki jih varnostne ekipe pogosto težko vidijo, sledijo ali nadzorujejo. 

Uporaba umetne inteligence v podjetjih je veliko bolj osebna, kot si mislite

Skoraj polovica dejavnosti umetne inteligence v podjetjih se zgodi prek osebnih identitet in ne prek računov, ki jih upravljajo podjetja. Ta ugotovitev nas je najbolj presenetila.

Zaposleni uporabljajo osebne račune ChatGPT. Osebne račune Gemini. Včasih celo uporabljajo osebne licence za umetno inteligenco, medtem ko so prijavljeni s korporativnimi identitetami. Z vidika upravljanja je to nočna mora. Organizacije izgubljajo pregled nad politikami hrambe, možnostjo revizije, nadzorom skladnosti in načinom, kako ta orodja umetne inteligence obravnavajo poslovne podatke. 

To pomeni, da izziv umetne inteligence v podjetjih ni več le upravljanje aplikacij umetne inteligence, temveč vse bolj upravljanje osebne uporabe umetne inteligence znotraj njih.

Občutljivi podatki že tečejo v orodja umetne inteligence 

Naša raziskava je pokazala, da več kot 6 % pogovorov o umetni inteligenci v podjetjih že vsebuje občutljive podatke. Zaposleni vsak dan delijo osebne podatke, finančne informacije in tehnične podatke s sistemi umetne inteligence. 

DeepSeek je pokazal najvišjo stopnjo izpostavljenosti občutljivih podatkov, in sicer 12.63 % pogovorov. ChatGPT mu je sledil z 8.38 %. Copilot M365 je pokazal bistveno nižjo stopnjo izpostavljenosti, in sicer 3.65 %.

Vprašanje ni več, ali bodo zaposleni delili občutljive podatke s sistemi umetne inteligence. To že počnejo. Pravi izziv je razumeti, kje se to dogaja, kako pogosto in prek katerih identitet in platform.

Površina tveganja umetne inteligence se širi onkraj oken za klepet z razširitvijo in povezovalniki umetne inteligence

Poročilo izpostavlja tudi dva hitro rastoča kanala umetne inteligence, ki ju številne organizacije danes komajda spremljajo: razširitve brskalnikov z umetno inteligenco in priključke z umetno inteligenco.

Približno 15 % poslovnih uporabnikov že uporablja vsaj eno razširitev brskalnika z umetno inteligenco. Skoraj 75 % teh razširitev zahteva visoka ali kritična dovoljenja brskalnika. Več kot 16 % jih ima že znane ranljivosti. Hkrati konektorji umetne inteligence vse bolj neposredno povezujejo sisteme umetne inteligence s poslovnimi aplikacijami, kot so SharePoint, GitHub, Slack, Atlassian in Google Workspace.

To pomeni, da sistemi umetne inteligence niso več omejeni na to, da zaposleni ročno vnašajo informacije v okna klepetalnih robotov. Vse pogosteje jim je odobren neposreden dostop do poslovnih podatkov, dokumentov, platform za sodelovanje in internih skladišč znanja. To bistveno spreminja naravo tveganja umetne inteligence v podjetjih.

Kaj storiti glede tega

Prvi korak je preglednost. Ne morete nadzorovati uporabe umetne inteligence, če je ne vidite. Nato se morajo organizacije osredotočiti na področja, kjer je tveganje umetne inteligence dejansko skoncentrirano: uporabniki z visoko stopnjo znanja, neupravljana osebna uporaba umetne inteligence in sistemi umetne inteligence z neposrednim dostopom do podatkov podjetja. Cilj ni blokirati umetno inteligenco, temveč razumeti, kako se uporablja, in uporabiti nadzorne ukrepe tam, kjer so najpomembnejši.

Vse to, vključno s podatki, razčlenitvami platform, analizo izpostavljenosti občutljivim podatkom in praktičnimi priporočili, smo združili v našem Poročilo o stanju uporabe umetne inteligence 2026.

Prenesti celotno poročilo tukaj.