С нарастващата популярност на генериращите AI приложения като ChatGPT и Bard, специалистите по сигурността трябва да предприемат мерки за пълно справяне с рискове за сигурността свързани с тези платформи. Такива рискове включват потенциално споделяне на чувствителни данни от служители, експлоатация на Bard за злонамерени дейности от нападатели и последиците от потенциален пробив в собствените системи на Bard.

Това ръководство изследва тези рискове, както и практики и решения за тяхното смекчаване, като същевременно позволява на служителите да продължат да се наслаждават на предимствата на производителността на генеративния AI. Препоръчваме да прегледате препоръките в това ръководство и да актуализирате съответно стратегията си за сигурност.

Дефиниране на Bard Security

Терминът „Bard Security“ обхваща всички мерки и протоколи за защита срещу рискове, свързани с използването на Bard. Тези рискове могат да бъдат категоризирани в три основни типа:

  1. Рискове, произтичащи от взаимодействието на служителя с Bard.
  2. Рискове, свързани със злонамерени участници, използващи Bard.
  3. Рискове, свързани с директна атака срещу системите на Bard.

Рисковете за сигурността при използването на Bard

1. Злоупотреба от служители: изтичане на данни

Служителите взаимодействат с Bard чрез въвеждане или поставяне на информация. Вмъкването на чувствителна информация, като изходен код към лична идентифицируема информация (PII), може да доведе до непреднамерено изтичане на данни. Това е така, защото тези чувствителни данни потенциално могат да бъдат съхранени или обработени от Bard и след това достъпни от трети страни.

Например данните може да се използват за обучение на Bard и да се появят в бъдещите му отговори или нападателите могат да получат достъп до Bard и да използват данните за Фишинг или ransomware. Последствията от такива нарушения на данните включват финансови, правни и репутационни щети за бизнеса.

2. Заплахи от външни нападатели

Нападателите могат да използват Bard за своите злонамерени дейности, което означава, че организациите не са имунизирани срещу заплахи за сигурността, свързани с Bard, дори когато техните служители не използват активно платформата. Нападателите могат да използват Bard за:

  • Атаки чрез социално инженерство – Писане на достоверни съобщения и имейли на различни езици.
  • Разработване на зловреден софтуер – Генериране на код, който се използва за злонамерени цели.
  • Събиране на информация – Получаване на информация за системи и архитектури.
  • И още

Сложността на Bard в генерирането на убедителен, контекстуално подходящ текст и код го прави мощен инструмент в ръцете на киберпрестъпниците.

3. Директни атаки срещу Бард

И накрая, пробив в сигурността на Bard може да доведе до неоторизиран достъп до чувствителни потребителски данни и метаданни, което да доведе до нарушения на поверителността и пробиви в данните.

Рискове, свързани с разширенията на Bard

Използването на разширения на Bard увеличава гореспоменатите рискове за сигурността. Разширенията на Bard могат да въведат уязвимости и да представляват заплаха за поверителността на данните, особено ако тези разширения не са разработени със строги стандарти за сигурност. Например, злонамерените разширения могат да въведат злонамерен код в браузъра на потребителя, да ексфилтрират данни, да предоставят на нападателите достъп до данни за самоличност като пароли, бисквитки и MFA токени и др.

Внедряване на най-добрите практики за сигурност на Bard

За да се противопоставим на тези рискове, ние се застъпваме за редица практики, които можете да приложите във вашите организации:

  • Разработване на ясни политики за използване – Определете кое изобщо не трябва да се споделя, например изходен код, бизнес планове, интелектуална собственост и др.
  • Цялостни програми за обучение и повишаване на осведомеността – Обучете служителите за рисковете от споделянето на чувствителни данни с Bard и как да разпознават генерираните от AI фишинг съобщения.
  • Приемане на корпоративни браузъри – Предотвратете служителите да поставят или въвеждат чувствителни данни в Bard, като използват корпоративен браузър. Браузърът ще ви позволи да дефинирате ясни правила за използване и ще предупреждава или блокира напълно, когато дадена политика е нарушена.
  • Мониторинг и блокиране на рискови разширения - Открийте и деинсталирайте злонамерени разширения и анализирайте съществуващи разширения, за да идентифицирате и предотвратите достъп до чувствителни данни.
  • Укрепване на цялостния контрол на сигурността – Подобрете защитата си срещу фишинг, злонамерен софтуер и рансъмуер, като поддържате актуален софтуер и стабилни мерки за сигурност на крайната точка.

Представяме ви Bard DLP от LayerX

LayerX предлага иновативно корпоративно решение за браузър за защита срещу рискове от излагане на данни, свързани с Bard и други генеративни AI инструменти. Като позволява на организациите да дефинират и защитават своите чувствителни данни, LayerX гарантира сигурност без компромис с производителността или потребителското изживяване.

С LayerX потребителите могат да картографират и дефинират данните, които искат да защитят, като изходен код или интелектуална собственост. Когато служителите използват Bard, се прилагат контроли като изскачащи предупреждения или блокиране, за да се гарантира, че няма да бъдат разкрити защитени данни. Ако е необходимо, LayerX може напълно да блокира използването на Bard. LayerX също така предпазва от злонамерени разширения на браузъра, като гарантира сигурно изживяване при сърфиране.

За повече информация, кликнете тук.