О расширениях GenAI

Расширения браузера GenAI — это инструменты, которые интегрируют возможности генеративного ИИ непосредственно в процесс просмотра. Это означает, что пользователи могут напрямую взаимодействовать с ИИ, не покидая веб-страницу, что ускоряет и повышает эффективность рабочих процессов. Эти инструменты помогают писать, генерировать код, отвечать на вопросы или автоматизировать повторяющиеся задачи. Они интуитивно понятны, просты в использовании и повышают производительность пользователей. Однако они могут представлять серьезную угрозу безопасности, поскольку они получают доступ к конфиденциальным данным просмотра и передают их внешним службам ИИ. 

Риски безопасности расширений GenAI

• Утечка данных: прямой доступ к конфиденциальному веб-контенту, такому как CRM или электронная почта, приводит к утечкам
• Обход средств безопасности:обойти брандмауэр/сетевые инструменты, ограничивающие использование GenAI
• Недостаточные разрешения: корпоративная информация может обрабатываться/использоваться на некорпоративных счетах
• Неконтролируемая обработка данных: данные обрабатываются на удаленных серверах LLM, и организация не знает, кто имеет к ним доступ 
• Обучение на степень магистра права: Конфиденциальные данные, используемые при обучении LLM, могут быть непреднамеренно запомнены и раскрыты во время вывода модели, что приведет к раскрытию данных.