Теневое SaaS-открытие Речь идёт о категории рисков безопасности, возникающих при взаимодействии сотрудников предприятия, агентов ИИ или автоматизированных рабочих процессов с инструментами ИИ, приложениями SaaS и веб-сервисами через браузер. Большинство этих взаимодействий невидимы для традиционных средств контроля безопасности, работающих на сетевом уровне и уровне конечных устройств. Риск реализуется именно в рамках браузерной сессии, и именно здесь должны осуществляться меры по его устранению.
Что такое обнаружение теневых SaaS-продуктов и почему это важно для корпоративной безопасности?
Shadow Saas Discovery находится на стыке внедрения ИИ и корпоративной безопасности. По мере того, как организации внедряют ChatGPT, Microsoft Copilot, Claude, Grammarly и сотни встроенных в ИИ SaaS-инструментов, возникает новый класс рисков в точке взаимодействия сотрудников с этими инструментами.
Традиционные системы безопасности были разработаны для другого мира. Сетевые средства контроля видят соединение. Агенты конечных точек видят процесс. Ни то, ни другое не видит, что происходит внутри браузерной сессии, когда сотрудник вставляет исходный код в GitHub Copilot или отправляет список клиентов в ChatGPT. Эта «слепая зона» — основная проблема.
45% сотрудников предприятий активно используют инструменты ИИ. Команды безопасности, которые не уделили должного внимания этому аспекту, управляют рисками, связанными с ИИ, с помощью инструментов, которые не видят взаимодействия, которое они пытаются контролировать.
Как обнаружение теневых SaaS-продуктов влияет на организации, использующие инструменты искусственного интеллекта, такие как ChatGPT и Microsoft Copilot?
ChatGPT, Microsoft Copilot и Gemini теперь являются стандартными инструментами для специалистов, работающих с информацией в юридическом, финансовом, инженерном и операционном отделах. Каждое взаимодействие создает потенциальную угрозу безопасности.
77% сотрудников вставляют данные в подсказки GenAI. Данные, передаваемые в ходе этих взаимодействий, включают исходный код, записи о клиентах, финансовые прогнозы и персональные данные. Они передаются как обычный HTTPS-трафик на разрешенные домены. Сетевая защита от утечки данных (DLP) видит одобренное соединение. Защита от утечки данных на конечных устройствах (DLP) рассматривает браузер как единый процесс. Ни одна из систем не видит данные, передаваемые внутри сессии.
Последствия для соблюдения нормативных требований очевидны. Группа безопасности, не имеющая доступа к информации, которую сотрудники предоставляют в Copilot, не сможет продемонстрировать аудитору контроль над этим каналом передачи данных. Политика без технического обеспечения не является контролем.
С какими наиболее распространенными угрозами обнаружения теневых SaaS-продуктов сегодня сталкиваются команды безопасности?
Наиболее часто встречающиеся угрозы, с которыми сталкиваются специалисты, делятся на три категории.
Эксфильтрация данных с помощью подсказок ИИ. Сотрудники вставляют конфиденциальные данные в инструменты искусственного интеллекта, не имея намерения их разглашать. Результат тот же: Конфиденциальные данные покидают организацию. через канал, который система безопасности не может отслеживать. 89% входов в систему с использованием ИИ обходят корпоративный контроль.
Немедленное введение препарата. Злоумышленники внедряют вредоносные инструкции в документы, веб-страницы или электронные письма, которые считываются инструментами искусственного интеллекта. Модель следует внедренным инструкциям, а не намерениям пользователя. В корпоративных средах, использующих инструменты для исследований или электронной почты с поддержкой ИИ, это не требует специального доступа.
Теневой ИИ и несанкционированные учетные записи. В большинстве корпоративных сред доступ к инструментам ИИ осуществляется через личные учетные записи, которые ИТ-отдел никогда не создавал. Политики управления, разработанные для корпоративных учетных записей, не обеспечивают защиту в случаях, когда сотрудники используют личные учетные записи ChatGPT, Grammarly или Copilot на корпоративных устройствах.
Где в корпоративной среде выполняются операции обнаружения рисков, связанных с теневыми SaaS-продуктами?
Самый простой ответ, которому сопротивляются большинство команд по обеспечению безопасности, заключается в следующем: внутри сессии браузера.
Сетевые инструменты находятся вне сессии. Они видят метаданные трафика, а не контент. Инструменты для работы с конечными точками рассматривают браузер как единый процесс. Они видят активность файловой системы, а не то, что пользователь вводит в текстовое поле. Инструменты идентификации подтверждают аутентификацию. Они не видят, что происходит в аутентифицированной сессии.
В этом пробеле разворачивается каждый крупный сценарий риска обнаружения теневых SaaS-сервисов. Сотрудник, вставляющий данные клиента в ChatGPT, находится в браузере. Разработчик, отправляющий ключи API помощнику по программированию, находится в браузере. Финансовый аналитик, загружающий бюджетную модель в инструмент искусственного интеллекта, находится в браузере. Агент ИИ, читающий документ, содержащий внедренные инструкции, находится в браузере.
Сессия браузера — это не просто одна из многих поверхностей атаки. Для корпоративных рисков, связанных с ИИ, это основная из них.
Как командам безопасности создать действительно эффективную программу обнаружения теневых SaaS-продуктов?
Надежная программа обнаружения теневых SaaS-сервисов начинается с обеспечения видимости. Команды безопасности не могут управлять тем, чего не видят. Это означает мониторинг взаимодействия инструментов ИИ на уровне сессий, а не просто ведение журналов подключений к доменам ИИ на сетевом уровне.
После обеспечения прозрачности следующим шагом является классификация. Не все данные, передаваемые инструментам ИИ, несут одинаковый риск. Исходный код отличается от общедоступной записи в блоге. Персональные данные клиентов отличаются от общего исследовательского запроса. Классификация позволяет группам безопасности применять поэтапные меры контроля, а не бинарные решения «разрешить/заблокировать», которые пользователи обычно обходят стороной.
Варианты применения мер принуждения должны отражать то, как организация фактически использует ИИ. Мониторинг только для взаимодействий с низким уровнем риска. Предупреждения пользователей с обоснованием для сообщений со средним уровнем риска. Автоматическое редактирование или блокировка для данных с высоким уровнем риска. Цель — обеспечить беспрепятственное применение мер принуждения для 95% взаимодействий, которые являются безопасными, и точное вмешательство для 5%, которые таковыми не являются.
Циклы проверки завершают программу. Модели использования инструментов ИИ быстро меняются. Политика, разработанная для инструментов, используемых сегодня, упустит из виду инструмент, запущенный вчера днем.
Как меры контроля на уровне браузера решают проблемы обнаружения теневых SaaS-продуктов?
Большинство угроз, связанных с обнаружением теневых SaaS-сервисов, реализуются внутри браузерной сессии. Для борьбы с ними необходимо применять меры контроля на этом уровне, а не выше или ниже него.
LayerX функционирует как Корпоративный браузер Расширение, обеспечивающее видимость и контроль в реальном времени над взаимодействием с инструментами ИИ на уровне сессии. Оно отслеживает, что сотрудники вставляют в ChatGPT, Copilot, Claude и Gemini. Когда контент соответствует классификаторам конфиденциальных данных или поведенческим моделям, LayerX может предупредить пользователя, скрыть конфиденциальный элемент или полностью запретить отправку, не блокируя при этом доступ к инструменту ИИ.
Для защиты от теневого ИИ LayerX обеспечивает непрерывное обнаружение всех используемых в организации приложений ИИ, включая инструменты, которые ИТ-отдел никогда не одобрял, и личные учетные записи, используемые для доступа к санкционированным инструментам. Группы безопасности могут точно видеть, какие инструменты запущены, кто их использует и какие данные проходят через каждую сессию.
Для агентного ИИ LayerX — единственная платформа безопасности, обеспечивающая видимость и контроль над браузерами для агентного ИИ, включая ChatGPT Atlas, Perplexity Comet и Dia. Поскольку агенты ИИ выполняют автономные действия внутри браузера, LayerX предоставляет поверхность контроля, которая делает эти действия наблюдаемыми и управляемыми.
Что означает обнаружение теневых SaaS-сервисов для управления ИИ и соблюдения нормативных требований?
Нормативно-правовые рамки догоняют корпоративные риски, связанные с ИИ. Закон ЕС об ИИ, стандарт NIST AI RMF и ISO 42001 рассматривают управление рисками ИИ на уровне политики. MITRE ATLAS предоставляет техническую таксономию, которая сопоставляет конкретные методы атак на ИИ с конкретными мерами контроля. Вместе они создают поверхность соответствия, которую группам безопасности все чаще необходимо демонстрировать в плане защиты.
Для руководителей служб информационной безопасности (CISO) на брифингах практическое требование простое: можете ли вы показать, какие данные проходят через ваши инструменты ИИ, какие средства контроля регулируют этот поток и что происходит при нарушении политики? Организации, не имеющие доступа к информации о взаимодействии ИИ на уровне отдельных сессий, не могут ответить на эти вопросы с помощью доказательств.
Направление остается неизменным во всех рамках. Управление ИИ Переход от политики к техническому обеспечению. Команды безопасности, которые занимаются разработкой контроль использования ИИ Теперь, опираясь на прозрачность на уровне сессий, мы будем опережать требования, которые еще находятся в стадии доработки.
Часто задаваемые вопросы
Распространяется ли обнаружение теневых SaaS-сервисов на браузерные инструменты искусственного интеллекта?
Для корпоративных команд безопасности вопрос о том, применима ли функция обнаружения теневых SaaS-сервисов к браузерным инструментам ИИ, подразумевает понимание взаимодействий на уровне сессии, происходящих в браузере, когда сотрудники используют инструменты ИИ. Традиционные средства контроля сети и конечных устройств не могут отслеживать эти взаимодействия. Применение политик на уровне браузера, например, с помощью расширения Enterprise Browser Extension от LayerX, устраняет этот пробел, отслеживая и применяя политики в точке взаимодействия.
Какие инструменты помогают в обнаружении теневых SaaS-продуктов в корпоративных средах?
Для команд по обеспечению безопасности предприятий инструменты, помогающие в обнаружении теневых SaaS-сервисов в корпоративных средах, включают в себя понимание взаимодействий на уровне сессий, происходящих в браузере, когда сотрудники используют инструменты искусственного интеллекта. Традиционные средства контроля сети и конечных устройств не могут отслеживать эти взаимодействия. Применение политик на уровне браузера, например, с помощью расширения Enterprise Browser Extension от LayerX, устраняет этот пробел, отслеживая и применяя политики в точке взаимодействия.
Как обнаружение теневых SaaS-продуктов связано с предотвращением потери данных?
Для команд, занимающихся корпоративной безопасностью, вопрос о том, как обнаружение теневых SaaS-устройств связано с предотвращением потери данных, включает в себя понимание взаимодействий на уровне сессий, происходящих в браузере, когда сотрудники используют инструменты искусственного интеллекта. Традиционные средства контроля сети и конечных устройств не могут отслеживать эти взаимодействия. Применение политик на уровне браузера, например, с помощью расширения Enterprise Browser Extension от LayerX, устраняет этот пробел, отслеживая и обеспечивая соблюдение политик в точке взаимодействия.
