Большинство организаций считают, что понимают риски, связанные с ИИ. Они знают, что сотрудники вставляют конфиденциальные данные в ChatGPT. У них есть политики в отношении утвержденных инструментов ИИ. Некоторые даже внедрили корпоративные программы поддержки и управления ИИ.
Однако, согласно новому исследованию LayerX, самые большие «слепые пятна» в области ИИ проявляются не в этом. Отчет раскрывает гораздо более сложную реальность. Большинство организаций тратят время на беспокойство по поводу нескольких приложений ИИ, совершенно не понимая, как ИИ на самом деле используется.
Риски, связанные с ИИ в корпоративной среде, распределяются неравномерно между пользователями или платформами. Вместо этого они сосредоточены среди небольшой группы опытных пользователей ИИ, нескольких доминирующих платформ ИИ и быстро растущей экосистемы инструментов ИИ, которые часто работают вне традиционных механизмов контроля и управления.
Проблема заключается уже не в нескольких отдельных приложениях ИИ. Она затрагивает всё вокруг.
Искусственный интеллект повсюду. Но большинство людей им почти не пользуются.
Один из самых неожиданных результатов исследования заключается в том, что внедрение ИИ и зависимость от ИИ — это две совершенно разные вещи. Хотя почти половина корпоративных пользователей взаимодействовала с инструментами ИИ в течение последнего года, только 18% использовали их еженедельно.
Это означает, что большинство используют ИИ лишь изредка, чтобы составить краткое изложение документа, написать электронное письмо или ответить на вопрос. Лишь относительно небольшой процент использует ИИ постоянно в своей повседневной работе.
На первый взгляд, это звучит обнадеживающе. Меньшее использование должно означать меньший риск. Но данные этого не подтверждают.
Риски, связанные с ИИ, сосредоточены в небольшой группе опытных пользователей ИИ.
Активность ИИ в корпоративной среде в значительной степени сосредоточена среди небольшой группы сотрудников. В то время как половина пользователей провела не более 12 диалогов с ИИ, 5% лучших сгенерировали не менее 144 диалогов. Они также взаимодействовали с ИИ гораздо глубже, в среднем отправляя 18 запросов на диалог по сравнению с всего 2 у среднестатистического пользователя.
Это создает новый класс «опытных пользователей ИИ», которые широко используют ИИ в своей повседневной работе и часто применяют несколько платформ ИИ. Они не обязательно нарушают правила или ведут себя безрассудно. Они просто интегрируют ИИ в гораздо большее количество аспектов своей работы, чем все остальные.
В результате риски, связанные с ИИ, распределяются крайне неравномерно. Относительно небольшое число сотрудников теперь несет непропорционально большую долю ответственности за деятельность, связанную с ИИ, утечку конфиденциальных данных и использование ИИ на разных платформах.
ChatGPT по-прежнему доминирует в сфере корпоративного ИИ, но Copilot сокращает отставание.
Несмотря на постоянные заголовки о новых моделях и появлении конкурентов, ChatGPT остается доминирующей платформой ИИ в большинстве предприятий. На нее приходится 36% корпоративных пользователей ИИ и более 55% всех диалогов с использованием ИИ.
Платформа Copilot M365 быстро растет, достигнув 29% охвата и почти четверти обсуждений в сфере ИИ в корпоративной среде. Рост Copilot свидетельствует о важном явлении: использование ИИ в корпоративной среде начинает разделяться на управляемый ИИ, разработанный специально для предприятий, и ИИ, внедряемый потребителями. Но помимо этих двух лидеров, большинство платформ ИИ остаются позади, несмотря на уделяемое им внимание.
В то же время, не все платформы ИИ создают одинаковые проблемы управления. Copilot M365 быстро развивается, но большая часть его использования приходится на корпоративные среды Microsoft, где организации сохраняют более высокий уровень прозрачности и контроля. Gemini представляет собой иной профиль рисков. Многие сотрудники по-прежнему используют потребительскую версию через личные учетные записи, что создает потенциальные «слепые зоны» в отношении обработки данных, их хранения и методов обучения моделей.
Урок прост: внедрение платформы — это лишь часть истории. Не все корпоративные внедрения ИИ сопряжены с одинаковым уровнем риска. Инструменты ИИ для потребителей, доступ к которым осуществляется через личные учетные записи, создают гораздо больше проблем с управлением, чем корпоративные платформы ИИ.
Теневой ИИ вышел за рамки несанкционированных чат-ботов.
Когда большинство людей слышат о «теневом ИИ», они представляют себе кого-то, кто тайно использует неодобренный чат-бот. Это определение уже устарело.
Современный «теневой ИИ» гораздо сложнее. Сотрудники регулярно комбинируют несколько инструментов ИИ в рамках одного рабочего процесса. Они переключаются между чат-ботами, поисковыми системами на основе ИИ, помощниками по программированию, встроенными помощниками и функциями SaaS на базе ИИ в зависимости от того, чего они пытаются достичь. В результате получается экосистема ИИ, которую становится сложнее контролировать, чем SaaS.
Речь идёт не об одном вредоносном приложении, а о растущем числе инструментов искусственного интеллекта, которые командам безопасности часто трудно обнаружить, отследить или контролировать.
Использование ИИ в корпоративной среде гораздо более индивидуально, чем вы думаете.
Почти половина активности в сфере корпоративного ИИ осуществляется через личные учетные записи, а не через корпоративные аккаунты. Этот вывод удивил нас больше всего.
Сотрудники используют личные учетные записи ChatGPT. Личные учетные записи Gemini. Иногда они даже используют личные лицензии на ИИ, войдя в систему под корпоративными учетными записями. С точки зрения управления, это кошмар. Организации теряют контроль над политиками хранения данных, возможностью аудита, средствами контроля соответствия требованиям и тем, как корпоративные данные обрабатываются этими инструментами ИИ.
Это означает, что задача корпоративного ИИ заключается уже не только в управлении приложениями ИИ. Всё чаще она сводится к управлению использованием ИИ отдельными пользователями внутри этих приложений.
Конфиденциальные данные уже поступают в инструменты искусственного интеллекта.
Наше исследование показало, что более 6% корпоративных разговоров с использованием ИИ уже содержат конфиденциальные данные. Сотрудники ежедневно делятся личной информацией, финансовыми данными и техническими данными с системами ИИ.
DeepSeek показал самый высокий уровень утечки конфиденциальных данных — 12.63% разговоров. За ним следует ChatGPT с показателем 8.38%. Copilot M365 продемонстрировал значительно более низкий уровень утечки — 3.65%.
Вопрос уже не в том, будут ли сотрудники делиться конфиденциальными данными с системами искусственного интеллекта. Они уже это делают. Настоящая проблема заключается в понимании того, где это происходит, как часто и через какие учетные записи и платформы.
Благодаря расширениям и коннекторам для ИИ, область рисков, связанных с ИИ, расширяется за пределы окон чата.
В отчете также выделены два быстрорастущих канала развития ИИ, за которыми многие организации сегодня практически не следят: расширения для браузеров на основе ИИ и коннекторы для ИИ.
Примерно 15% корпоративных пользователей уже используют как минимум одно расширение для браузера, использующее ИИ. Почти 75% этих расширений запрашивают важные или критически важные разрешения браузера. Более 16% уже имеют известные уязвимости. В то же время, коннекторы для ИИ все чаще напрямую связывают системы ИИ с корпоративными приложениями, такими как SharePoint, GitHub, Slack, Atlassian и Google Workspace.
Это означает, что системы искусственного интеллекта больше не ограничиваются ручным вставками информации сотрудниками в окна чат-ботов. Им все чаще предоставляется прямой доступ к корпоративным данным, документам, платформам для совместной работы и внутренним хранилищам знаний. Это коренным образом меняет характер рисков, связанных с корпоративным ИИ.
Что с этим делать
Первый шаг — это обеспечение прозрачности. Невозможно контролировать использование ИИ, если вы этого не видите. Далее организациям необходимо сосредоточиться на том, где действительно сосредоточены риски, связанные с ИИ: опытные пользователи ИИ, неконтролируемое использование ИИ в личных целях и системы ИИ с прямым доступом к корпоративным данным. Цель состоит не в том, чтобы блокировать ИИ, а в том, чтобы понять, как он используется, и применять меры контроля там, где они наиболее важны.
Мы собрали все это воедино, включая данные, анализ сбоев платформы, анализ утечки конфиденциальных данных и практические рекомендации, в нашем документе. Отчет о состоянии использования ИИ до 2026 года.
Скачать полный отчет здесь.
