GenAI и поверителност на данните: Рискове и пропуски в съответствието

Интегрирането на генеративния изкуствен интелект (Generative AI) в корпоративните работни процеси отключи безпрецедентна производителност. От изготвянето на имейли до анализа на сложни набори от данни, тези инструменти променят начина, по който функционират бизнесите. Тази ефективност обаче идва с цена, въвеждайки нов и сложен набор от предизвикателства пред сигурността. За главните директори по информационна сигурност (CISO) и ИТ лидерите централният конфликт е ясен: как да дадете възможност на работната си сила да използва тези мощни инструменти, без да излагате организацията на катастрофално изтичане на данни? Това въвежда значителни опасения за поверителността на данните, свързани с изкуствения интелект, които не могат да бъдат игнорирани. Самата природа на моделите с големи езици (LLM), които обработват и се учат от потребителски вход, създава директен канал за извличане на чувствителни корпоративни данни, често без злонамерени намерения от страна на служителя.

Средните разходи за нарушения на данните, показващи, че инцидентите, свързани с изкуствен интелект, струват значително повече от традиционните нарушения

Разбирането на пресечната точка между изкуствения интелект и поверителността на данните вече не е по избор; то е основен компонент на съвременната стратегия за киберсигурност. Лекотата, с която служителите могат да копират и поставят собствен код, лична информация на клиенти или вътрешни финансови данни в публична платформа GenAI, представлява критична уязвимост. Тази статия изследва специфичните рискове за поверителността на данните, свързани с генеративния изкуствен интелект, разглежда належащите пропуски в съответствието с разпоредби като GDPR, HIPAA и CCPA и очертава приложими стратегии за защита на вашата организация в ерата на изкуствения интелект.

Механиката на излагането на данни в генеративния изкуствен интелект

За да се разбере пълният обхват на рисковете за поверителността на данните, свързани с изкуствения интелект, е важно да се разбере как тези модели боравят с информацията. Проблемът не е само в еднократното въвеждане на данни; става въпрос за жизнения цикъл на тези данни, след като напуснат контролираната от вас среда. Когато служител подаде запитване, съдържащо чувствителна информация, възникват два основни риска. Първо, данните могат да бъдат използвани за обучение на бъдещи версии на модела. Много публични инструменти на GenAI включват клаузи в условията си за ползване, които им дават правото да използват потребителски входни данни за усъвършенстване на модела. Това означава, че вашите поверителни бизнес стратегии или данни за клиентите могат да бъдат вградени в самия модел, потенциално достъпни за други потребители в бъдещи отговори.

Този сценарий подчертава един от най-значимите рискове за поверителността при събирането на данни с изкуствен интелект: неволното предоставяне на собствени данни на трети страни. Представете си разработчик, който поставя фрагмент от собствен изходен код в инструмент на GenAI, за да го дебъгва. След обработката му, този код може да бъде абсорбиран от LLM. По-късно, потребител от конкурентна компания, който иска подобна функция, може да получи отговор, генериран от вашия уникален код. Тази форма на изтичане на данни е едва доловима, трудна за проследяване и представлява пряка заплаха за интелектуалната собственост. Вторият основен риск е свързан със самата история на подканите. Ако акаунтът на служител е компрометиран или ако доставчикът на GenAI претърпи нарушение на данните, всяка въведена заявка може да бъде разкрита. Това създава подробен дневник на чувствителни дейности, от изготвяне на поверителни правни документи до анализ на вътрешни данни за ефективността на служителите, всички достъпни за нападателя.

По-задълбочен поглед върху опасенията за поверителност на данните, свързани с генеративния изкуствен интелект

Потенциалът за изтичане на данни не е единична, монолитна заплаха. Той се проявява по няколко начина, всеки от които представлява уникални предизвикателства за екипите по сигурността. Най-неотложният от проблемите с поверителността на данните, свързани с изкуствения интелект, е неволното споделяне на данни от добронамерени служители. Те не се опитват да причинят вреда; те просто се опитват да бъдат по-ефективни. Анализатор може да използва инструмент на GenAI, за да обобщи отчет, съдържащ непублична финансова информация, или маркетинг мениджър може да качи списък с имейл адреси на клиенти, за да изготви целенасочена кампания. Според тях те просто използват инструмент. В действителност те извършват високорисков трансфер на данни извън периметъра на сигурност на организацията.

Разпределение на зрелостта на управлението на ИИ в предприятията, показващо, че повечето организации нямат цялостен надзор върху ИИ

Друг критичен проблем е възходът на „Shadow AI“ – несанкционираното използване на GenAI приложения от служителите. Въпреки че ИТ отделът може да е проверил и одобрил специфичен инструмент за изкуствен интелект от корпоративен клас, служителите неизбежно ще се обърнат към други, по-удобни публични платформи. Това създава огромни пропуски в видимостта. Екипите по сигурност не могат да защитят това, което не могат да видят, и без цялостен одит на цялото използване на SaaS и изкуствен интелект в цялото предприятие е невъзможно ефективно да се прилагат политиките за сигурност. Тези ненаблюдавани канали се превръщат в основни вектори за изтичане на данни, като напълно заобикалят съществуващите контроли за предотвратяване на загуба на данни (DLP). Тези проблеми с поверителността на данните, свързани с изкуствен интелект, се утежняват от факта, че традиционните решения за сигурност, като мрежово базирани защитни стени или CASB, често нямат достатъчно прецизност, за да разграничат санкционираното от несанкционираното използване на изкуствен интелект в браузъра, където тези дейности се извършват предимно.

Заплетената мрежа от съответствие на GenAI

Навигирането в регулаторния пейзаж е един от най-сложните аспекти на управлението на използването на GenAI. Основните принципи на основните закони за поверителност на данните са установени много преди широкото приемане на LLM, което създава значителни предизвикателства пред съответствието с GenAI. Тези рамки са изградени върху концепции за минимизиране на данните, ограничаване на целите и съгласие на потребителя; принципи, които често противоречат на начина, по който функционират моделите на GenAI.

Да разгледаме Общия регламент относно защитата на данните (ОРЗД). Той предоставя на гражданите на ЕС „правото да бъдат забравени“ (член 17), което им позволява да поискат изтриване на личните си данни. Как една организация изпълнява това искане, ако служител вече е поставил данните на този гражданин в LLM на трета страна? Често е невъзможно да се проследи и изтрие тази конкретна точка от данни, след като тя е била абсорбирана в обучителния набор на модела. Следователно, едно единствено запитване може да постави организацията в нарушение на ОРЗД, рискувайки глоби до 4% от годишния ѝ глобален оборот. Липсата на прозрачност относно това как и къде се съхраняват данните от доставчиците на GenAI прави демонстрирането на съответствие почти невъзможно.

Изисквания за съответствие с регулаторните органи, показващи значителния финансов риск от нарушения на поверителността на данните

По подобен начин, Законът за преносимост и отчетност на здравното осигуряване (HIPAA) в Съединените щати налага строги правила за обработката на защитена здравна информация (PHI). Ако медицински специалист използва публичен инструмент GenAI, за да обобщи бележките на пациентите или да изготви съобщение, той предава PHI на несъответстваща трета страна, което представлява явно нарушение на HIPAA. Законът за поверителност на потребителите в Калифорния (CCPA) представя свой собствен набор от предизвикателства, изисквайки от бизнеса да бъде прозрачен относно данните, които събира, и как те се използват. Непрозрачният характер на много модели с изкуствен интелект затруднява предоставянето на ясните оповестявания, изисквани от закона, което допълнително усложнява картината на съответствието.

Може ли изкуственият интелект да бъде част от решението?

Въпреки че предизвикателствата са значителни, заслужава да се отбележи и развиващата се роля на изкуствения интелект в защитата на личните данни. Това може да изглежда парадоксално, но инструменти, задвижвани от изкуствен интелект, също се разработват за идентифициране и класифициране на чувствителни данни, откриване на аномално поведение на потребителите и автоматизиране на реакциите при заплахи. Например, алгоритмите за машинно обучение могат да бъдат обучени да разпознават модели, съответстващи на изтичане на данни, като например потребител, който внезапно се опитва да качи голям обем лична информация в уеб услуга. Тези системи могат да предоставят предупреждения в реално време, които позволяват на екипите по сигурността да се намесят, преди да се случи сериозно нарушение.

Освен това, изкуственият интелект може да помогне на организациите да картографират своя информационен пейзаж, като идентифицират къде се намира чувствителна информация в обширни мрежи и облачни приложения. Това автоматизирано откриване и класификация е основна стъпка във всяка надеждна стратегия за защита на данните. Чрез използването на изкуствен интелект за борба с рисковете, засилени от изкуствен интелект, организациите могат да изградят по-динамична и адаптивна система за сигурност. Разчитането само на тези решения обаче е недостатъчно. Защитата трябва да бъде разположена възможно най-близо до източника на риска: браузъра на потребителя, където действително се осъществява взаимодействието с инструментите на GenAI.

Проактивен подход към сигурността с изкуствен интелект с LayerX

Същността на проблема се крие в пресечната точка на потребителя, браузъра и уеб приложението. Именно тук се случва излагането на данни и точно тук трябва да се прилагат мерки за сигурност. LayerX директно адресира най-належащите проблеми с поверителността на данните, свързани с генеративния изкуствен интелект, като предоставя подробна видимост и контрол върху цялата потребителска активност в браузъра, без да е необходимо инсталирането на друг натрапчив агент. Като се фокусира върху браузъра като критична точка на взаимодействие, LayerX може ефективно да разграничава безопасното от рисковото поведение във всяко уеб или SaaS приложение, включително GenAI платформи.

LayerX позволява на организациите да картографират цялото използване на GenAI в цялото предприятие, като хвърля светлина върху Shadow AI и предоставя подробен списък на това кои инструменти се използват от кого. Оттам екипите по сигурност могат да внедрят политики за управление, базирани на риска. Например, може да се зададе политика, която да предотвратява поставянето на данни, класифицирани като PII или „Поверително“, в публичен инструмент на GenAI, като същевременно им позволява да използват инструмента за задачи, които не са чувствителни. Този подробен контрол гарантира, че производителността не е възпрепятствана, но рискът се управлява активно. Ако потребител се опита да извърши действие с висок риск, LayerX може или да блокира действието изцяло, или да покаже персонализирано предупредително съобщение, като го информира за корпоративната политика в реално време. Този подход помага за предотвратяване както на неволно, така и на злонамерено изтичане на данни при източника им, като запълва пропуските в съответствието, оставени отворени от традиционните решения за сигурност, и директно смекчава основните заплахи за поверителността на данните, свързани с изкуствения интелект, пред които е изправено съвременното предприятие.