Състояние на употребата на изкуствен интелект

Доклад за състоянието на използването на изкуствен интелект за 2026 г.

Данни от реалния свят за това как предприятията използват инструменти с изкуствен интелект, как потребителите участват в разговори и къде се крие истинският риск

Резюме

Въпреки че изкуственият интелект е навсякъде, повечето потребители са небрежни

Въпреки че средно почти половината от служителите в предприятията са използвали ИИ на работното място, само сравнително малък брой го правят редовно. Само 18% от корпоративните потребители използват ИИ седмично и този брой нараства постоянно през периода: 30% на месечна база, 40% на тримесечна база и 48% в по-дълъг период от време. Това означава, че докато около половината от потребителите „докосват“ инструментите с ИИ, по-малко от една пета от потребителите го правят редовно и повечето потребители всъщност са случайни.

Въпреки че опасенията за сигурността на изкуствения интелект са широко разпространени, рискът е концентриран в малък брой опитни потребители.

Активността на корпоративния ИИ е силно неравномерна. Докато половината от служителите са използвали инструменти с ИИ с 12 или по-малко разговора, първите 5% от корпоративните потребители на ИИ имат 144 или повече разговора. Същата динамика важи и за подканите в рамките на разговорите: 50% от потребителите обикновено пишат само 1-2 подкани на разговор, докато първите 5% пишат 18. Това създава малка популация от „силни потребители на ИИ“, които водят до непропорционален дял от използването на ИИ в предприятието и в резултат на това риск, свързан с ИИ.

Въпреки че ChatGPT (все още) е кралят на изкуствения интелект в корпоративния сектор, Copilot M365 го настига

ChatGPT продължава да доминира в използването на изкуствен интелект в предприятията. Въпреки че ChatGPT се използва от 36% от корпоративните потребители, той все още е причина за 55% от разговорите в предприятието. Това означава, че служителите, които използват ChatGPT, са склонни да го използват по-активно от други инструменти. Въпреки това, Copilot M365 бързо намалява разликата, с 29% приемане от потребителите и близо 24% от разговорите. Други платформи, като Gemini, Claude и Deepseek, също се използват в предприятията, но изостават значително по отношение на приемането на изкуствен интелект в предприятията.

Въпреки всички дискусии относно сигурността на изкуствения интелект, личното използване на изкуствен интелект все още представлява близо половината от потреблението на изкуствен интелект.

47% от корпоративните разговори с изкуствен интелект се осъществяват чрез лични самоличности, а не чрез корпоративни акаунти. Това означава, че те са напълно извън обхвата на корпоративната сигурност с изкуствен интелект. Освен това, 14.39% от разговорите, извършени с помощта на корпоративна самоличност, са чрез лични лицензи за изкуствен интелект, което означава, че данните все още се обучават върху тях. Това създава големи слепи зони по отношение на видимостта, управлението, съответствието и запазването на данни.

Излагането на чувствителни данни чрез изкуствен интелект вече е широко разпространено

Повече от 6% от разговорите с изкуствен интелект в предприятията съдържат чувствителни данни. ChatGPT, по-специално, има висок процент на излагане на чувствителни данни (8.38%), което го прави най-големият канал за излагане на данни с изкуствен интелект в предприятията. Въпросът вече не е дали служителите ще споделят чувствителни данни с изкуствен интелект; въпросът е колко често, къде и чрез какви самоличности се случва това.

Разширенията на изкуствения интелект са каналът за потребление на изкуствен интелект, който повечето екипи по сигурност не успяват да видят

Разширенията за браузъри с изкуствен интелект се разпространяват бързо в корпоративните среди, особено в малки и средни организации, където приблизително 15% от служителите вече използват поне едно разширение с изкуствен интелект. Близо 75% от разширенията с изкуствен интелект получават високи или критични нива на разрешения, а 16.31% вече имат известни CVE (Compatible Vehicles - вируси, свързани с вируса), което прави разширенията с изкуствен интелект непропорционално рискови в сравнение с по-широката екосистема от разширения.

12xТоп 5% потребители генерират повече разговори с изкуствен интелект

2.3xПотребителите на ChatGPT са по-активни от потребителите на Copilot M365

Повече от 1 на 12Разговорите в ChatGPT съдържат чувствителна информация

75%заявка за високи/критични разрешения

По-малко от 1 на 5

Корпоративните потребители взаимодействат с изкуствен интелект ежеседмично.

Среден потребител: 12 разговора

Топ 5% потребители: 144+ разговора.

47% Лични идентичности / 53% Корпоративни идентичности

Цялото използване чрез лични акаунти (извън корпоративната идентичност). Цялото използване чрез корпоративно управлявани акаунти.

85.61% Корпоративни лицензи / 14.39% Лични лицензи

Управлява се и се регулира. Използва се чрез корпоративна идентичност.

15% от служителите използват разширения с изкуствен интелект

Разширенията за браузъри с изкуствен интелект се внедряват мащабно в цялото предприятие.

75% изискват високи/критични разрешения

Повечето разширения изискват широк достъп до данни, уебсайтове и потребителска активност.

16.31% вече са имали известни случаи на превентивно насилие (CVE)

Значителна част от разширенията на изкуствен интелект имат публикувани уязвимости.

ChatGPT не е просто най-възприетата платформа за изкуствен интелект

Той е най-широко използваният.

Близо половината от дейностите, свързани с изкуствен интелект в предприятията, се случват извън корпоративното управление.

Дори в рамките на корпоративните идентичности, ~1 от 7 взаимодействия с изкуствен интелект се захранват от лични лицензи. Сянката на изкуствения интелект живее под повърхността.

Най-бързо развиващият се канал за изкуствен интелект е и най-малко видимият и най-рисковият.

Разширенията с изкуствен интелект съчетават бързо приемане, повишени привилегии и известни уязвимости, създавайки сериозно сляпо петно в корпоративната сигурност.

Препоръки на CISO

#1 Започнете с браузъра - там се случва най-много използване на изкуствен интелект

Изкуственият интелект вече не се ограничава само до раздели на ChatGPT. Служителите все по-често взаимодействат с изкуствен интелект чрез вградени копилоти, SaaS приложения, разширения на изкуствен интелект, инструменти за търсене и конектори, повечето от които работят директно в браузъра. Докато големи платформи като ChatGPT и Copilot доминират в употребата, по-голямата разлика във видимостта все повече идва от нарастващия брой по-малки инструменти с изкуствен интелект, които екипите по сигурност не наблюдават. Организациите трябва да започнат управление на изкуствения интелект там, където всъщност се извършва по-голямата част от дейността, свързана с изкуствен интелект: браузъра.

#2 Идентифицирайте и наблюдавайте високорискови потребители на изкуствен интелект

Активността, свързана с изкуствен интелект, е силно концентрирана сред малък процент от опитните потребители. Екипите по сигурността трябва да идентифицират активните потребители на изкуствен интелект и да прилагат адаптивно наблюдение и контрол въз основа на обема на взаимодействие, чувствителността на данните и моделите на използване на платформата.

#3 Преминаване от „Блокиране или разрешаване“ към вградени предпазни мерки, основани на изкуствен интелект, за предотвратяване на излагането на данни

Пълното блокиране на ИИ вече не е реалистично, а подходът „позволи всичко“ е също толкова рискован. Организациите се нуждаят от вградено наблюдение и предпазни мерки в реално време, които проверяват подканите, качванията, отговорите и потребителските действия в момента на тяхното извършване, позволявайки на служителите да използват ИИ продуктивно, като същевременно предотвратяват излагането на чувствителни данни, нарушения на правилата и рискови взаимодействия в реално време.

Използването на изкуствен интелект в предприятията е масово, но нивата на използване варират

Близо 1 на 5 служители редовно взаимодейства с асистенти с изкуствен интелект седмично, докато над 30% ги използват месечно, 40% взаимодействат с тях на тримесечна база, а почти половината от корпоративните потребители (47%) взаимодействат с инструменти с изкуствен интелект за по-дълъг период от време. Това показва, че изкуственият интелект вече не е ограничен до ранни потребители или изолирани технически екипи. Повечето потребители обаче не са ежедневни/седмични потребители, а използват изкуствен интелект по-небрежно.

Защо това е важно: Използването на изкуствен интелект вече е често срещано в цялото предприятие, но за повечето служители то все още е от време на време и неструктурирано, а не е част от ежедневния им работен процес. Това създава труден проблем с управлението: изкуственият интелект е достатъчно широко разпространен, че компаниите не могат реално да го блокират, но тъй като използването му е фрагментирано и често небрежно, голяма част от него се случва извън централизирания надзор и видимост.

Използване на инструменти с изкуствен интелект в предприятията през различни периоди от време

18.24%седмично

30.47%Месечно

40.57%Тримесечен

47.67%>На тримесечие

ChatGPT остава най-използваният инструмент с изкуствен интелект, но Copilot M365 го запълва

ChatGPT е явният лидер в използването на изкуствен интелект в предприятията, както по отношение на внедряването, така и по отношение на ангажираността. Въпреки че около 36% от корпоративните потребители взаимодействат с ChatGPT, той е двигател на над 55% от всички разговори с изкуствен интелект. Тази разлика между внедряването от страна на потребителите и дела на разговорите показва, че потребителите на ChatGPT са значително по-активни и ангажирани от потребителите на други платформи с изкуствен интелект.

Следва Copilot M365, ориентиран към предприятията, с 29% потребители и 23% от разговорите, което отразява широкото приемане от страна на предприятията, но по-ниската интензивност на взаимодействието. Gemini и Claude показват умерено приемане с по-нисък дял на разговорите спрямо потребителите. DeepSeek остава изключително ограничен в приемането от страна на предприятията, с 0.42% от потребителите и 0.26% от разговорите.

AI платформа	Разпределение на потребителите на корпоративни AI по платформа	Разпределение на разговорите с корпоративни потребители с изкуствен интелект по платформа
ChatGPT	36.19%	55.08%
Втори пилот М365	29.57%	23.61%
Близнаци	13.02%	10.43%
Claude	11.93%	6.47%
Gemini Enterprise	5.18%	2.07%
втори пилот	3.69%	2.08%
DeepSeek	0.42%	0.26%

Освен това, Microsoft показва значително по-силна стандартизация на корпоративния ИИ от Google. Copilot M365 се радва на много по-високо ниво на приемане от самостоятелното потребителско предложение на Copilot, с 29% потребители в сравнение със само 3% за Copilot. Gemini показва обратната тенденция, където потребителската версия (13%) се използва много повече от Gemini Enterprise (5%). Това предполага, че потребителите на Microsoft е по-вероятно да работят в корпоративни среди с ИИ, докато много потребители на Gemini все още разчитат на потребителски пътища за достъп до ИИ извън централизираното управление.

AI платформи: Потребители срещу разговори

Защо това е важно: Въпреки постоянния шум около новите AI платформи, използването на AI в предприятията остава силно концентрирано около ChatGPT и Copilot M365. Повечето други инструменти, включително Gemini (включително Enterprise версията на Gemini), Claude и DeepSeek, все още изостават по отношение на приемането и ангажираността на предприятията.

Използването на изкуствен интелект в предприятията се обуславя от малък брой опитни потребители

Средностатистическият корпоративен потребител има над 36 разговора с изкуствен интелект, но използването им е силно неравномерно между служителите. Докато долните 50% от потребителите имат само 12 или по-малко разговора, горните 5% от потребителите генерират 144 разговора. Това неравномерно разпределение на използването подчертава колко неравномерно е всъщност използването на изкуствен интелект в предприятията и показва, че относително малка група служители движи непропорционално количество активност, свързана с изкуствен интелект в предприятието.

Дълбочината на разговора също е значителна: взаимодействията с изкуствен интелект съдържат средно 5 подкани на разговор, докато първите 5% от разговорите съдържат поне 18 подкани. Това е много интересно откритие, което показва, че за повечето случайни потребители взаимодействията с изкуствен интелект са просто еднократно запитване (не много по-различно от използването на лента за търсене), а за напредналите потребители те са разширени многоетапни взаимодействия.

Разпределение на разговорите с изкуствен интелект на потребител

12# разговори за потребители от 50-ия персентил

36Среден брой разговори с изкуствен интелект на потребител

144# разговори за потребители от 95-ия персентил

Разпределение на AI подканите за всеки разговор

2# подкани за 50-ия персентил от разговорите

5.09Среден брой подкани на разговор

18# подкани за 95-ия персентил от разговорите

Защо това е важно: Рискът, свързан с ИИ в предприятията, не е равномерно разпределен между служителите. Вместо това, организациите наблюдават появата на „енергийни потребители на ИИ“, които разчитат в голяма степен на инструментите на ИИ като част от ежедневните си работни процеси. От гледна точка на сигурността и управлението, тези потребители стават непропорционално важни, защото те също така представляват най-високата концентрация на потенциално излагане на чувствителни данни и неуправлявани взаимодействия с ИИ.

Истинският проблем не е използването на изкуствен интелект, а чувствителните данни, изтичащи от изкуствения интелект.

Знаете ли какви данни вашите служители изтичат в инструменти с изкуствен интелект?

Средно корпоративните потребители имат над 36 разговора с изкуствен интелект. Въпреки това, 6.48% от всички разговори с изкуствен интелект в предприятията съдържат чувствителни данни.

Защо това е важно: Всеки разговор с изкуствен интелект, съдържащ чувствителна информация, създава потенциален риск, включващ:

Изтичане на интелектуална собственост
Регулаторна експозиция
Нарушения на условията за местоживеене на данни
Излагане на данни на клиентите
Неконтролирано обучение на модели

Комбинацията от масово внедряване на изкуствен интелект и непрекъснато споделяне на чувствителни данни създава нов канал за изтичане на корпоративни данни, който трябва да се обработи.

Личните данни се появяват в 5.81% от всички разговори с изкуствен интелект, което ги прави най-често излаганата категория чувствителни данни. Това включва информация като имена на служители, имейл адреси, телефонни номера, записи на клиенти и друга лична информация (PII).

За сравнение, финансовите данни се появяват в 0.96% от разговорите и включват елементи като информация за заплати, банкови данни, номера на кредитни карти и финансови прогнози. Данните, свързани с ИТ и сигурността, се появяват в 0.94% от разговорите и включват чувствителна техническа информация като IP адреси, SSH ключове, API токени и др.

Разговори с изкуствен интелект, съдържащи чувствителни данни, по категория

5.81%Персонален

0.96%Финансови

0.94%ИТ и сигурност

Защо това е важно: Въпреки че честотата на разговорите, споделящи чувствителна информация, може да изглежда ниска, огромният мащаб и обем на използването на изкуствен интелект в предприятията създават широка повърхност за заплахи. Това създава нарастващи рискове за поверителността, съответствието и регулаторните въпроси, особено с разширяването на внедряването на изкуствен интелект в отделите, обработващи чувствителна потребителска и бизнес информация.

Степента на излагане на чувствителни данни се различава съществено между платформите с изкуствен интелект.

DeepSeek показва най-висок процент на експозиция, с 12.63% от разговорите, съдържащи чувствителни данни, следван от ChatGPT (8.38%) и Copilot (8.31%). Claude (6.43%) и Gemini Enterprise (6.14%) попадат в средата, докато Copilot M365 показва най-нисък процент на експозиция от 3.65%.

AI платформа	Разговори с изкуствен интелект от корпоративни потребители, съдържащи чувствителни данни, по платформа
DeepSeek	12.63%
ChatGPT	8.38%
втори пилот	8.31%
Claude	6.43%
Gemini Enterprise	6.14%
Близнаци	4.50%
Втори пилот М365	3.65%

Защо това е важно: Не всички платформи с изкуствен интелект се използват по един и същ начин или при едни и същи условия на управление. Инструментите с изкуствен интелект, ориентирани към потребителите, са склонни да показват по-високи нива на излагане на чувствителни данни, докато интегрираните в предприятията платформи като Copilot M365 изглежда работят в по-контролирани среди. Това подчертава необходимостта от специфично за платформата управление на изкуствения интелект, тъй като рисковият профил може да варира значително в зависимост от това къде служителите взаимодействат с изкуствения интелект.

ChatGPT представлява 55.08% от всички корпоративни разговори с изкуствен интелект, като същевременно показва висок процент на излагане на чувствителни данни от 8.38%, което го прави най-големият канал за споделяне на чувствителни данни в AI платформи. Copilot M365 представлява втория по големина обем на разговорите с 23.61%, но има значително по-нисък процент на излагане от 3.65%, докато DeepSeek показва най-високия процент на излагане като цяло с 12.63%, въпреки минималното му приемане.

Разговори срещу чувствителни разговори по платформа

Защо това е важно: Рискът се определя не само от процента на излагане на риск, но и от обема на използване. Дори платформи с умерен процент на излагане на риск могат да се превърнат в основни канали за изтичане на корпоративни данни, когато обемът на разговорите е изключително висок.

Повечето използване на изкуствен интелект в предприятията се осъществява чрез лични акаунти, което създава невидими пропуски в управлението

Почти половината от всички разговори с изкуствен интелект в предприятията (47.11%) се осъществяват чрез лични самоличности, а не чрез корпоративно управлявани акаунти (52.89%). Това означава, че голяма част от дейността, свързана с изкуствен интелект в предприятията, може да се случва извън прекия контрол на организацията.

52.89%Разпределение на идентичността в приложения с изкуствен интелект: Корпоративно спрямо лично - % от разговорите, използващи корпоративна идентичност

47.11%Разпределение на самоличността в приложения с изкуствен интелект: Корпоративно спрямо лично - % от разговорите, използващи лична самоличност

85.61%Разговори, използващи корпоративни идентичности: Корпоративен срещу Личен лиценз - % от разговорите, използващи корпоративен лиценз

14.39%Разговори, използващи корпоративни идентичности: Корпоративен лиценз срещу Личен лиценз - % от разговорите, използващи Личен лиценз

Освен това, 14.39% от разговорите, които използват корпоративни имейл идентификации, са обвързани с лични лицензи за изкуствен интелект.

Такива случаи създават фалшиво чувство за сигурност, тъй като служителите може да мислят, че използват корпоративен акаунт, тъй като входът е с корпоративна идентичност. На практика обаче това не се различава от използването на лични акаунти, тъй като организациите нямат контрол върху това как данните се съхраняват, задържат, управляват или потенциално споделят с доставчици от трети страни, и тези данни все още се използват за обучение на модели.

Той също така подчертава колко често служителите смесват работа с потребителски абонаменти за изкуствен интелект и неуправлявани среди с изкуствен интелект.

Въпреки че общите данни показват, че личното и корпоративното потребление са разпределени почти поравно, разпределението по платформи показва значително отклонение. Докато някои платформи, като ChatGPT, Claude, Copilot и Deepseek, са доминирани от лично потребление, като над 60% от разговорите във всяка от тях са свързани с лични акаунти, други платформи, фокусирани върху предприятията, като Gemini Enterprise и Copilot M365, се използват почти изцяло чрез корпоративно управлявани акаунти, като представляват съответно 98.15% и 90.55% от разговорите.

Корпоративна срещу некорпоративна идентичност по платформа

платформа	% от разговорите, използващи корпоративна идентичност	% от разговорите, използващи некорпоративна идентичност
ChatGPT	38.14%	61.86%
Близнаци	62.15%	37.85%
Gemini Enterprise	98.15%	1.85%
Claude	38.91%	61.09%
втори пилот	36.08%	63.92%
Втори пилот М365	90.55%	9.45%
DeepSeek	0.17%	99.83%

Защо това е важно: Инструментите с изкуствен интелект все по-често се комбинират с инструменти за продуктивност, и по-специално с Microsoft M365 (Copilot) и Google Workspace (Gemini). Въпреки това, докато по-голямата част от употребата на Copilot в организациите използва ориентирания към предприятия вариант Copilot M365 (вижте данните в предишните глави) и се извършва с помощта на корпоративни идентичности, по-голямата част от употребата на Gemini се дължи на безплатната версия Gemini (тази, която не е Enterprise) и е доминирана от лични акаунти. Това създава сляпо петно за организациите, което е повлияно от вида инструменти, използвани от служителите, и акаунтите, които използват за достъп до тях.

Проблемът с корпоративния изкуствен интелект вече не е само една платформа, а стотици по-малки.

Докато 70.44% от потребителите разчитат на един-единствен ИИ асистент, близо 30% използват множество ИИ платформи, включително 21.16%, използващи два инструмента, и над 8%, използващи три или повече. Това показва, че използването на ИИ в предприятията става все по-фрагментирано между платформите, вместо да бъде стандартизирано около едно-единствено одобрено решение.

Брой инструменти за изкуствен интелект, използвани от корпоративни потребители

70.44%1 инструмент

21.16%2 инструмента

7.1%3 инструмента

1.3%4+ инструмента

Защо това е важно: Използването на изкуствен интелект на множество платформи създава нарастваща сложност на управлението, тъй като всеки асистент с изкуствен интелект въвежда различни модели, политики, практики за обработка на данни и контроли за сигурност. Тъй като служителите разпределят работните процеси в множество инструменти с изкуствен интелект, организациите се сблъскват с нарастващи пропуски в видимостта и по-голяма повърхност за излагане на чувствителни данни.

Корпоративните потребители взаимодействат средно със 2.24 приложения с изкуствен интелект, докато средният потребител използва 2 инструмента с изкуствен интелект. Най-добрите 5% от потребителите взаимодействат с 6 или повече приложения с изкуствен интелект, което показва, че по-малка група служители разчитат на широк набор от инструменти с изкуствен интелект като част от своите работни процеси.

Използването на изкуствен интелект вече не е концентрирано около един одобрен асистент. Тъй като служителите използват множество приложения с изкуствен интелект, организациите са изправени пред нарастващи предизвикателства, свързани с видимостта, управлението, съгласуваността на данните и излагането на чувствителни данни в рамките на все по-фрагментирана екосистема от изкуствен интелект.

Разпределение на приложенията с изкуствен интелект на потребител

250-ти персентил на приложенията с изкуствен интелект на потребител

2.24Среден брой приложения с изкуствен интелект на потребител

695-ти персентил на приложенията с изкуствен интелект на потребител

Въпреки че по-голямата част от употребата на ИИ е концентрирана около няколко инструмента, данните сочат нарастващ дълъг набор от инструменти за ИИ в предприятието, където служителите все по-често възприемат нишови или вторични ИИ приложения, наред с масовите платформи. Това създава проблем със сенчестия ИИ, което затруднява организациите да поддържат видимост, да прилагат политики за управление и да контролират как чувствителните данни се движат в разширяващата се ИИ екосистема.

Топ 20 на най-популярните приложения с изкуствен интелект

AIChatGPT

AIРазработчици на Google

AIВтори пилот М365

AIMicrosoft

AIБлизнаци

AIПреднамереност

AIKaggle

AIAzure.com

AIClaude

AIdeepseek

AICanva

AIХарви AI

AIнедоумение

AIмил

AIGoogle

AIДълбок AI

AIВерсел

AIwordtune

AIOtter.ai

AIПрегърнато лице

От 100-те най-популярни приложения за изкуствен интелект, ChatGPT е най-използваният инструмент за изкуствен интелект. Въпреки че по-голямата част от употребата на изкуствен интелект е концентрирана около първите 4-5 инструмента, данните сочат нарастващ дълъг списък от инструменти за изкуствен интелект в предприятието, където служителите все по-често приемат нишови или вторични приложения за изкуствен интелект, наред с масовите платформи. Това създава проблем със „скрития изкуствен интелект“, което затруднява организациите да поддържат видимост, да прилагат политики за управление и да контролират как чувствителните данни се движат в разширяващата се екосистема от изкуствен интелект.

Разпределение на използването на изкуствен интелект в топ 30 приложения на изкуствен интелект

Разширенията на изкуствения интелект са каналът за използване на изкуствен интелект, за който предприятията не знаят

Използването на разширения с изкуствен интелект се засилва в предприятията, като малките и средните организации показват най-високо внедряване, като около 15% от потребителите използват поне едно разширение с изкуствен интелект. Докато по-големите организации остават по-консервативни или регулирани, като приблизително 10% от потребителите ги използват.

% потребители с инсталирано разширение с изкуствен интелект

14.55%Малко предприятие <1,000 служители

17.70%Средно голямо предприятие 1,000-2,500 служители

9.53%Голямо предприятие >2,500 служители

Близо 75% от разширенията на браузъра изискват високи или критични нива на разрешения (56.4% високи, 16.7% критични), докато само 1.4% работят с ниски разрешения.

Инсталирани разширения с изкуствен интелект по обхват на разрешенията

56.4%Високо

25.6%Среден

16.7%критичен

1.4%ниско

Защо това е важно: Разширенията с повишени разрешения могат да имат достъп до чувствителни данни от браузъра и потребителска активност, което означава, че злонамерено или компрометирано разширение може лесно да разкрие чувствителна информация или да поеме контрола над потребителските сесии.

Разширенията с изкуствен интелект показват по-висок профил на риск за сигурността. 16.31% от разширенията с изкуствен интелект имат известни CVE (уязвимости за вируси, свързани с контроверзи), в сравнение с 10.8% за всички разширения. Разширенията с изкуствен интелект носят значително по-висок рисков профил с по-голяма изложеност на уязвимости и повишени разрешения, което увеличава риска от излагане на данни и злоупотреба. По-високият процент CVE в разширенията с изкуствен интелект означава, че те изискват по-строга проверка, наблюдение и управление, преди да бъдат внедрени в корпоративни среди.

	Всички разширения	Само AI разширения
% от разширенията с известни CVE	10.80%	16.31%
% от разширенията с достъп до „бисквитки“	6.67%	18.19%
% от разширенията с достъп до скриптове	15.40%	41.91%

Освен това, разширенията с изкуствен интелект са почти 3 пъти по-склонни да изискват достъп до „бисквитки“ от средното разширение за браузър. Също така, 41.91% от разширенията с изкуствен интелект изискват достъп до скриптове, в сравнение с 15.4% от всички разширения.

Това означава, че разширенията на изкуствения интелект въвеждат непропорционално по-високи рискове за поверителността, сигурността и достъпа до данни и изискват по-строго управление, преглед и текущо наблюдение в корпоративни среди.

AI конекторите свързват AI с нови заплахи

AI конекторите се използват от сравнително малка част от служителите, като 0.16% от потребителите взаимодействат с поне един AI работен процес, активиран с конектори. Потребителите, които внедряват конектори, обаче са склонни да свързват множество корпоративни приложения, средно по 4.5 конектора на потребител. Най-често срещаните интеграции свързват AI платформи директно с критични за бизнеса системи като SharePoint, Microsoft 365, Atlassian, Google Workspace, GitHub, Slack и Figma.

Защо това е важно: AI конекторите драстично разширяват достъпа на AI платформите отвъд простите бързи взаимодействия. Вместо служителите ръчно да споделят данни, конекторите могат да предоставят на AI инструментите директен достъп до имейли, документи, платформи за сътрудничество, хранилища на код, вътрешни бази знания и SaaS приложения. Това създава много по-голяма и по-устойчива повърхност за корпоративни атаки, където чувствителни бизнес данни могат да се движат непрекъснато между корпоративните системи и външни AI платформи.

Списък с топ 10 конектори

Приложение	Съединител
ChatGPT	SharePoint
ChatGPT	Outlook Email
ChatGPT	Microsoft
ChatGPT	Atlassian
ChatGPT	Microsoft (На живо)
ChatGPT	Google
ChatGPT	GitHub
ChatGPT	Canva
ChatGPT	Застой
ChatGPT	Фигма

Основни препоръки

Данните в този доклад показват, че използването на изкуствен интелект в предприятията се разширява по-бързо, отколкото повечето организации могат да го контролират. Изкуственият интелект вече не е ограничен до няколко одобрени инструмента или изолирани потребители. Служителите вече взаимодействат с изкуствен интелект чрез лични акаунти, вградени помощни средства, разширения на браузъра, конектори и бързо развиваща се екосистема от приложения за изкуствен интелект. За да намалят експозицията и да си възвърнат видимостта, организациите трябва да възприемат многопластов подход към управлението на изкуствения интелект, фокусиран върху идентичности, експозиция на данни и наблюдение в реално време.

Спрете да се фокусирате само върху „одобрен изкуствен интелект“; най-големият ви риск е дългата опашка

Повечето организации са фокусирани върху управлението на ChatGPT или Copilot, но данните показват, че истинската празнина във видимостта е нарастващата екосистема от вторични инструменти с изкуствен интелект, вградени асистенти, търсачки с изкуствен интелект, разширения за браузъри и конектори, които тихо се разпространяват в цялото предприятие. Най-големите провали в управлението на изкуствения интелект няма да дойдат от популярните инструменти с изкуствен интелект, а от десетките по-малки инструменти с изкуствен интелект, за които екипите по сигурност дори не знаят, че служителите използват.

Идентифицирайте и наблюдавайте високорискови потребители на изкуствен интелект

По-голямата част от служителите използват ИИ небрежно. Реалният риск е концентриран сред много малка група от активни потребители на ИИ, които водят повече разговори, използват повече ИИ платформи и участват в по-задълбочени взаимодействия с множество подкани. Екипите по сигурността трябва непрекъснато да идентифицират активните потребители на ИИ и да прилагат адаптивен мониторинг въз основа на обема на взаимодействията, разнообразието на платформите и моделите на излагане на чувствителни данни.

Блокирането на изкуствения интелект не е стратегия; бъдещето на сигурността на изкуствения интелект е вградените предпазни мерки.

Мащабът на използване на изкуствен интелект в предприятията показва, че пълното блокиране на изкуствен интелект вече не е практично, но също така демонстрира, че неограниченото използване на изкуствен интелект създава също толкова сериозен риск. Организациите, които успеят, ще се откажат от бинарните политики „блокиране срещу разрешаване“ и ще се насочат към вградено управление на изкуствения интелект: наблюдение на взаимодействията в реално време, разбиране на контекста и динамично прилагане на контроли, без да се нарушава производителността.

Ограничете използването на лични акаунти и третирайте личните лицензи в корпоративните акаунти като Active Shadow AI

Неуправляваните лични ИИ акаунти и личните ИИ лицензи излагат чувствителни корпоративни работни процеси на неконтролирани ИИ среди. Налагането на корпоративни ИИ идентичности и блокирането на използването на лични акаунти помага да се гарантира, че ИИ взаимодействията, подканите и потоците от данни остават видими, управлявани и защитени от корпоративните контроли за сигурност.

Прилагане на целенасочени контроли за сигурност към разширения и конектори с изкуствен интелект

Разширенията и конекторите на браузъра с изкуствен интелект могат да изложат корпоративните системи директно на външни платформи с изкуствен интелект. Организациите трябва непрекъснато да проверяват тези интеграции за разрешения, уязвимости, обхват на достъп до данни и промени в поведението с течение на времето.

Как LayerX може да помогне

Видимост във всички области на изкуствения интелект

Открийте всички използвани инструменти, браузъри и приложения с изкуствен интелект и получете пълна видимост върху цялата активност на потребителите и агентите в тях.

Контрол на достъпа до инструменти с изкуствен интелект

Ограничете използването на скрити приложения с изкуствен интелект и осигурете достъп до одобрени приложения с изкуствен интелект, използващи корпоративни акаунти.

Предотвратяване на изтичане на данни от изкуствен интелект

Приложете предпазни мерки за сигурност на „последната миля“ с изкуствен интелект, за да спрете потребителите да споделят чувствителни данни с инструментите на GenAI

Контрол на входовете и изходите на изкуствения интелект

Мониторирайте и контролирайте данните, влизащи и излизащи от инструментите с изкуствен интелект, за да предотвратите въвеждането или разкриването на чувствителни или поверителни данни.

LayerX е единствената платформа за контрол на използването на изкуствен интелект, която ви позволява да контролирате всяко подканване, действие на агент и обмен на данни във всяко приложение, браузър и IDE, без да променяте мрежовата си архитектура или да нарушавате потребителското изживяване.

Той предлага цялостна видимост върху всички инструменти с изкуствен интелект, SaaS, вградени с изкуствен интелект, браузъри с изкуствен интелект и използване на приложения с изкуствен интелект, независимо кой ги използва или на какво устройство.

Освен това, LayerX отива още една крачка напред, за да осигури цялостна видимост на всеки разговор с изкуствен интелект във всички основни AI платформи, като улавя както подкани, така и отговори. Това дава на екипите по сигурността пълна представа за данните, споделяни с AI инструментите, заедно с контекста, необходим за откриване на експозиция, ускоряване на разследванията и осигуряване на съответствие с регулаторните изисквания.

Той също така следи действията на потребителите, като например активност в браузъра, опити за влизане, въвеждане на данни и качване на файлове, като идентифицира кои инструменти са достъпни, от кого и чрез кои акаунти (корпоративни или лични). Това позволява на организациите да откриват неоторизирано споделяне на данни и да прилагат политики за предотвратяване на изтичане на данни от оторизирани инструменти за изкуствен интелект и други „скрити“ приложения на изкуствен интелект.

Освен това, LayerX позволява на организациите директно да откриват и прилагат политики върху тези приложения в последната миля. Организациите могат да дефинират политики въз основа на самоличността на потребителя, състоянието на устройството, категорията на уебсайта, чувствителността на данните и др., за да създават персонализирани политики за сигурност с набор от опции за прилагане, вариращи от само наблюдение, до предупреждение на потребителите с персонализируеми съобщения, маскиране на чувствителни данни и пълно блокиране на техните действия.

За да научите повече за това как LayerX може да ви помогне да управлявате и защитите използването на изкуствен интелект в цялата ви организация, посетете www.layerxsecurity.com и насрочете демонстрация още днес!