Většina organizací si myslí, že chápe rizika spojená s umělou inteligencí. Vědí, že zaměstnanci vkládají citlivá data do ChatGPT. Mají zavedené zásady týkající se schválených nástrojů umělé inteligence. Některé dokonce zavedly podnikové kopiloty a programy pro správu a řízení umělé inteligence.
Ale podle nového výzkumu společnosti LayerX se největší slepá místa v oblasti umělé inteligence neobjevují právě zde. Zpráva odhaluje mnohem složitější realitu. Většina organizací tráví čas starostmi o hrstku aplikací umělé inteligence, zatímco zcela nechápou, jak se umělá inteligence ve skutečnosti používá.
Riziko spojené s podnikovou umělou inteligencí není rovnoměrně rozloženo mezi uživatele nebo platformy. Místo toho je koncentrováno mezi malou skupinu pokročilých uživatelů umělé inteligence, hrstku dominantních platforem umělé inteligence a rychle rostoucí ekosystém nástrojů umělé inteligence, které často fungují mimo tradiční kontroly viditelnosti a správy.
Problém už není v několika jednotlivých aplikacích umělé inteligence. Je to všechno kolem nich.
Umělá inteligence je všude. Ale většina lidí ji sotva používá.
Jedním z nejpřekvapivějších zjištění výzkumu je, že přijetí umělé inteligence a závislost na ní jsou dvě velmi odlišné věci. Zatímco téměř polovina firemních uživatelů v uplynulém roce interagovala s nástroji umělé inteligence, pouze 18 % je používalo týdně.
To znamená, že většina lidí používá umělou inteligenci příležitostně k shrnutí dokumentu, napsání e-mailu nebo zodpovězení otázky. Pouze relativně malé procento používá umělou inteligenci důsledně jako součást své každodenní práce.
Na první pohled to zní uklidňujícím způsobem. Menší používání by mělo znamenat menší riziko. Jenže to data neukazují.
Riziko umělé inteligence je koncentrováno v malé skupině pokročilých uživatelů umělé inteligence
Aktivita v oblasti umělé inteligence v podnicích je silně koncentrována mezi malou skupinou zaměstnanců. Zatímco polovina uživatelů vedla 12 nebo méně konverzací s umělou inteligencí, horních 5 % vygenerovalo alespoň 144 konverzací. Interagovali také s umělou inteligencí mnohem hlouběji, v průměru 18 výzev na konverzaci ve srovnání s pouhými 2 u průměrného uživatele.
To vytváří novou třídu „power users“ (silných uživatelů umělé inteligence), kteří se na umělou inteligenci ve svých každodenních pracovních postupech značně spoléhají a často používají více platforem umělé inteligence. Nemusí tím nutně porušovat zásady ani se chovat bezohledně. Prostě integrují umělou inteligenci do mnohem více aspektů své práce než kdokoli jiný.
Výsledkem je, že riziko spojené s umělou inteligencí je velmi nerovnoměrné. Relativně malý počet zaměstnanců nyní představuje neúměrný podíl aktivit v oblasti umělé inteligence, vystavení citlivým datům a používání umělé inteligence napříč platformami.
ChatGPT stále dominuje podnikové umělé inteligenci, ale Copilot zmenšuje mezeru
Navzdory neustálým titulkům o nových modelech a vznikající konkurenci zůstává ChatGPT dominantní platformou umělé inteligence ve většině podniků. Představuje 36 % uživatelů umělé inteligence v podnikech a více než 55 % všech konverzací s umělou inteligencí.
Copilot M365 rychle roste a dosahuje 29% míry přijetí a téměř čtvrtiny konverzací o umělé inteligenci v podnikech. Růst Copilotu signalizuje něco důležitého: využívání umělé inteligence v podnikech se začíná dělit mezi řízenou podnikovou nativní umělou inteligenci a umělou inteligenci řízenou spotřebiteli. Kromě těchto dvou lídrů však většina platforem umělé inteligence zůstává pozadu, a to i přes pozornost, které se jim dostává.
Zároveň ne všechny platformy umělé inteligence vytvářejí stejné problémy v oblasti správy a řízení. Copilot M365 rychle roste, ale většina používání probíhá v prostředích Microsoft spravovaných korporacemi, kde si organizace zachovávají lepší přehled a kontrolu. Gemini představuje odlišný rizikový profil. Mnoho zaměstnanců stále používá spotřebitelskou verzi prostřednictvím osobních účtů, což vytváří potenciální slabá místa v oblasti manipulace s daty, jejich uchovávání a trénování modelů.
Ponaučení je jednoduché: přijetí platformy vypovídá jen část příběhu. Ne každé přijetí umělé inteligence v podnicích s sebou nese stejnou úroveň rizika. Nástroje umělé inteligence pro spotřebitele, ke kterým se přistupuje prostřednictvím osobních účtů, vytvářejí mnohem větší slepá místa v řízení než platformy umělé inteligence spravované podniky.
Stínová umělá inteligence se vyvinula za hranice neschválených chatbotů
Když většina lidí slyší „stínovou umělou inteligenci“, představí si někoho, kdo tajně používá neschváleného chatbota. Tato definice je již zastaralá.
Moderní „stínová umělá inteligence“ je mnohem chaotičtější. Zaměstnanci běžně kombinují více nástrojů umělé inteligence v rámci jednoho pracovního postupu. Přepínají mezi chatboty, vyhledávači s umělou inteligencí, asistenty kódování, integrovanými kopiloty a funkcemi SaaS s umělou inteligencí v závislosti na tom, čeho se snaží dosáhnout. Výsledkem je ekosystém umělé inteligence, který je stále obtížnější inventarizovat než SaaS.
Nejde o jednu nepoctivou aplikaci, ale o rostoucí dlouhý řetězec nástrojů umělé inteligence, které bezpečnostní týmy často jen s obtížemi vidí, sledují nebo spravují.
Využívání umělé inteligence v podnicích je mnohem osobnější, než si myslíte
Téměř polovina aktivit v oblasti umělé inteligence v podnicích probíhá prostřednictvím osobních identit, nikoliv prostřednictvím účtů spravovaných firmou. Toto zjištění nás překvapilo nejvíce.
Zaměstnanci používají osobní účty ChatGPT. Osobní účty Gemini. Někdy dokonce používají osobní licence AI, když jsou přihlášeni pomocí firemních identit. Z hlediska správy a řízení je to noční můra. Organizace ztrácejí přehled o zásadách uchovávání dat, auditovatelnosti, kontrolních mechanismech dodržování předpisů a o tom, jak tyto nástroje AI nakládají s podnikovými daty.
To znamená, že výzva podnikové umělé inteligence se již netýká jen řízení aplikací umělé inteligence. Stále více se jedná o řízení osobního používání umělé inteligence v rámci nich.
Citlivá data již proudí do nástrojů umělé inteligence
Náš výzkum zjistil, že více než 6 % podnikových konverzací o umělé inteligenci již obsahuje citlivá data. Zaměstnanci sdílejí se systémy umělé inteligence osobní údaje, finanční informace a technické údaje každý den.
DeepSeek vykázal nejvyšší míru vystavení citlivým datům s 12.63 % konverzací. ChatGPT následoval s 8.38 %. Copilot M365 vykázal výrazně nižší míru vystavení s 3.65 %.
Otázkou už není, zda zaměstnanci budou sdílet citlivá data se systémy umělé inteligence. Už to dělají. Skutečnou výzvou je pochopit, kde se to děje, jak často a prostřednictvím jakých identit a platforem.
Rizika umělé inteligence se rozšiřují za hranice oken chatu s rozšířením a konektory umělé inteligence
Zpráva také zdůrazňuje dva rychle rostoucí kanály umělé inteligence, které dnes mnoho organizací sotva sleduje: rozšíření prohlížečů s umělou inteligencí a konektory s umělou inteligencí.
Přibližně 15 % firemních uživatelů již používá alespoň jedno rozšíření prohlížeče s umělou inteligencí. Téměř 75 % těchto rozšíření vyžaduje vysoká nebo kritická oprávnění prohlížeče. Více než 16 % z nich má již známé zranitelnosti. Zároveň konektory umělé inteligence stále častěji propojují systémy umělé inteligence přímo s podnikovými aplikacemi, jako jsou SharePoint, GitHub, Slack, Atlassian a Google Workspace.
To znamená, že systémy umělé inteligence se již neomezují pouze na ruční vkládání informací zaměstnanci do oken chatbotů. Stále častěji jim je udělován přímý přístup k podnikovým datům, dokumentům, platformám pro spolupráci a interním úložištím znalostí. To zásadně mění povahu rizik spojených s umělou inteligencí v podniku.
Co s tím dělat
Prvním krokem je viditelnost. Nemůžete řídit používání umělé inteligence, pokud to nevidíte. Dále se organizace musí zaměřit na to, kde se riziko umělé inteligence skutečně koncentruje: u náročných uživatelů umělé inteligence, nespravovaného osobního používání umělé inteligence a u systémů umělé inteligence s přímým přístupem k podnikovým datům. Cílem není blokovat umělou inteligenci, ale pochopit, jak se používá, a zavést kontrolní mechanismy tam, kde jsou nejdůležitější.
Toto vše, včetně dat, rozdělení platforem, analýzy expozice citlivým datům a praktických doporučení, jsme shrnuli v našem Zpráva o stavu využívání umělé inteligence za rok 2026.
Stáhněte si úplnou zprávu zde.
