Повечето организации смятат, че разбират риска, свързан с изкуствения интелект. Те знаят, че служителите въвеждат чувствителни данни в ChatGPT. Те имат политики относно одобрените инструменти с изкуствен интелект. Някои дори са внедрили корпоративни копилоти и програми за управление на изкуствения интелект.

Но според ново проучване на LayerX, това не е мястото, където се появяват най-големите слепи петна в областта на изкуствения интелект. Докладът разкрива много по-сложна реалност. Повечето организации прекарват времето си в притеснения за няколко приложения на изкуствения интелект, като напълно пропускат как всъщност се използва изкуственият интелект. 

Рискът, свързан с ИИ в предприятията, не е разпределен равномерно между потребителите или платформите. Вместо това той е концентриран между малка група опитни потребители на ИИ, шепа доминиращи ИИ платформи и бързо развиваща се екосистема от ИИ инструменти, които често работят извън традиционните контроли за видимост и управление.

Проблемът вече не е в няколко отделни приложения с изкуствен интелект. Проблемът е във всичко около тях.

Изкуственият интелект е навсякъде. Но повечето хора едва го използват.

Едно от най-изненадващите открития в изследването е, че приемането на изкуствен интелект и зависимостта от него са две много различни неща. Докато почти половината от корпоративните потребители са взаимодействали с инструменти за изкуствен интелект през последната година, само 18% са ги използвали седмично.

Това означава, че повечето използват ИИ от време на време, за да обобщят документ, да напишат имейл или да отговорят на въпрос. Само относително малък процент използват ИИ постоянно като част от ежедневната си работа.

На пръв поглед това звучи успокояващо. По-малкото използване би трябвало да означава по-малък риск. Само че данните не показват това.

Рискът, свързан с изкуствения интелект, е концентриран сред малка група потребители с опит в областта на изкуствения интелект.

Активността, свързана с изкуствен интелект в предприятията, е силно концентрирана сред малка група служители. Докато половината от потребителите са провели 12 или по-малко разговора с изкуствен интелект, първите 5% са генерирали поне 144 разговора. Те също така са взаимодействали с изкуствен интелект много по-задълбочено, като са получавали средно по 18 подкани на разговор в сравнение със само 2 за средностатистическия потребител.

Това създава нов клас „енергийни потребители на ИИ“, които разчитат в голяма степен на ИИ в ежедневните си работни процеси и често използват множество ИИ платформи. Те не е задължително да нарушават правилата или да се държат безразсъдно. Те просто интегрират ИИ в много повече аспекти от работата си от всички останали.

Резултатът е, че рискът, свързан с изкуствения интелект, е силно неравномерен. Сравнително малък брой служители сега представляват непропорционален дял от дейностите, свързани с изкуствен интелект, излагането на чувствителни данни и използването на изкуствен интелект между платформи.

ChatGPT все още доминира в корпоративния изкуствен интелект, но Copilot запълва празнината

Въпреки постоянните заглавия за нови модели и нововъзникващи конкуренти, ChatGPT остава доминиращата платформа за изкуствен интелект в повечето предприятия. Тя представлява 36% от потребителите на изкуствен интелект в предприятията и повече от 55% от всички разговори с изкуствен интелект.

Copilot M365 се разраства бързо, достигайки 29% приемане и близо една четвърт от разговорите за ИИ в предприятията. Ръстът на Copilot сигнализира за нещо важно: използването на ИИ в предприятията започва да се разделя между управляван ИИ, ориентиран към предприятията, и ИИ, ориентиран към потребителите. Но освен тези два лидера, повечето ИИ платформи остават назад, въпреки вниманието, което получават.

В същото време не всички платформи с изкуствен интелект създават едни и същи предизвикателства пред управлението. Copilot M365 се разраства бързо, но по-голямата част от употребата се осъществява в корпоративно управлявани среди на Microsoft, където организациите запазват по-силна видимост и контрол. Gemini представлява различен рисков профил. Много служители все още използват потребителската версия чрез лични акаунти, което създава потенциални слепи петна по отношение на практиките за обработка на данни, съхранение и обучение на модели.

Урокът е прост: приемането на платформата разказва само част от историята. Не всяко приемане на ИИ в предприятията носи еднакво ниво на риск. Потребителските инструменти за ИИ, достъпни чрез лични акаунти, създават далеч по-големи слепи петна в управлението, отколкото платформите за ИИ, управлявани от предприятия.

Сенчестият изкуствен интелект е еволюирал отвъд неодобрените чатботове

Когато повечето хора чуят „Shadow AI“, те си представят някой тайно да използва неодобрен чатбот. Това определение вече е остаряло.

Съвременният „Shadow AI“ е далеч по-хаотичен. Служителите рутинно комбинират множество инструменти с изкуствен интелект в рамките на един и същ работен процес. Те превключват между чатботове, търсачки с изкуствен интелект, асистенти за кодиране, вградени помощници и SaaS функции, задвижвани от изкуствен интелект, в зависимост от това какво се опитват да постигнат. Резултатът е екосистема от изкуствен интелект, която става все по-трудна за инвентаризиране от SaaS.

Това не е едно злонамерено приложение, а нарастваща дълга опашка от инструменти за изкуствен интелект, които екипите по сигурността често се затрудняват да видят, проследят или управляват. 

Използването на изкуствен интелект в предприятията е много по-лично, отколкото си мислите

Близо половината от корпоративната активност, свързана с изкуствен интелект, се осъществява чрез лични самоличности, а не чрез корпоративно управлявани акаунти. Това откритие ни изненада най-много.

Служителите използват лични ChatGPT акаунти. Лични Gemini акаунти. Понякога те дори използват лични AI лицензи, докато са влезли с корпоративни идентичности. От гледна точка на управлението, това е кошмар. Организациите губят видимост върху политиките за съхранение, възможността за одит, контрола за съответствие и начина, по който корпоративните данни се обработват от тези AI инструменти. 

Това означава, че предизвикателството пред корпоративния ИИ вече не е само в управлението на ИИ приложенията. То все повече се отнася до управлението на личното използване на ИИ в тях.

Чувствителни данни вече се вливат в инструментите за изкуствен интелект 

Нашето проучване установи, че повече от 6% от корпоративните разговори с изкуствен интелект вече съдържат чувствителни данни. Служителите споделят лична информация, финансова информация и технически данни със системите с изкуствен интелект всеки ден. 

DeepSeek показа най-висок процент на излагане на чувствителни данни - 12.63% от разговорите. ChatGPT следваше с 8.38%. Copilot M365 показа значително по-нисък процент на излагане - 3.65%.

Въпросът вече не е дали служителите ще споделят чувствителни данни със системи с изкуствен интелект. Те вече го правят. Истинското предизвикателство е да се разбере къде се случва това, колко често и чрез кои идентичности и платформи.

Рисковата повърхност на AI се разраства отвъд прозорците за чат с AI разширение и конектори

Докладът също така подчертава два бързоразвиващи се канала с изкуствен интелект, които много организации едва следят днес: разширенията на браузъра с изкуствен интелект и конекторите с изкуствен интелект.

Около 15% от корпоративните потребители вече използват поне едно разширение за браузър с изкуствен интелект. Близо 75% от тези разширения изискват високи или критични разрешения за достъп до браузъра. Повече от 16% вече имат известни уязвимости. В същото време, конекторите за изкуствен интелект все по-често свързват системи с изкуствен интелект директно с корпоративни приложения като SharePoint, GitHub, Slack, Atlassian и Google Workspace.

Това означава, че системите с изкуствен интелект вече не се ограничават до служителите, които ръчно поставят информация в прозорците на чатботове. Те все по-често получават директен достъп до корпоративни данни, документи, платформи за сътрудничество и вътрешни хранилища за знания. Това коренно променя естеството на риска, свързан с изкуствения интелект в предприятията.

Какво да правим с това

Първата стъпка е видимостта. Не можеш да управляваш използването на ИИ, което не можеш да видиш. След това организациите трябва да се съсредоточат върху това къде всъщност е концентриран рискът, свързан с ИИ: потребители с опит в областта на ИИ, неуправляемо лично използване на ИИ и системи с ИИ с директен достъп до корпоративни данни. Целта не е да се блокира ИИ, а да се разбере как се използва и да се приложат контроли там, където са най-важни.

Събрахме всичко това заедно, включително данните, разбивките на платформите, анализа на излагането на чувствителни данни и практическите препоръки, в нашата Доклад за състоянието на използването на изкуствен интелект за 2026 г..

Изтеглете пълния текст на доклада тук.