기업들이 AI 도구를 어떻게 활용하는지, 사용자들이 어떻게 대화에 참여하는지, 그리고 실제 위험이 어디에 있는지에 대한 실제 데이터
평균적으로 기업 직원의 거의 절반이 업무에서 AI를 사용해 본 경험이 있지만, 정기적으로 사용하는 직원은 상대적으로 적습니다. 기업 사용자 중 AI를 매주 사용하는 비율은 18%에 불과하며, 이 수치는 시간이 지남에 따라 꾸준히 증가하여 월간 30%, 분기별 40%, 장기적으로는 48%에 이릅니다. 즉, 약 절반의 사용자가 AI 도구를 "사용"해 본 적은 있지만, 꾸준히 사용하는 사용자는 5분의 1에도 미치지 못하며, 대부분의 사용자는 사실상 가끔씩만 사용하는 수준입니다.
기업 내 AI 활용은 매우 불균형적입니다. 직원 절반은 AI 도구를 12회 이하의 대화에만 사용한 반면, 상위 5%의 기업 AI 사용자는 144회 이상의 대화를 사용했습니다. 대화 내 프롬프트 사용에서도 비슷한 양상이 나타납니다. 사용자 50%는 일반적으로 대화당 1~2개의 프롬프트만 작성하는 반면, 상위 5%는 18개의 프롬프트를 작성합니다. 이러한 불균형으로 인해 소수의 "AI 파워 유저"가 기업 AI 사용의 상당 부분을 차지하게 되며, 결과적으로 AI 관련 위험도 증가합니다.
ChatGPT는 기업 AI 활용 분야에서 여전히 선두 자리를 지키고 있습니다. 기업 사용자 중 36%가 ChatGPT를 사용하고 있지만, 기업 내 대화의 55%를 차지하고 있습니다. 이는 ChatGPT 사용자가 다른 도구보다 ChatGPT를 더 많이 사용하는 경향이 있음을 의미합니다. 하지만 Copilot M365가 29%의 사용자 채택률과 약 24%의 대화 점유율로 빠르게 격차를 좁히고 있습니다. Gemini, Claude, Deepseek과 같은 다른 플랫폼들도 기업에서 사용되고 있지만, 기업 AI 도입 측면에서는 ChatGPT에 비해 크게 뒤처져 있습니다.
기업 AI 대화의 47%는 회사 계정이 아닌 개인 계정을 통해 이루어지고 있습니다. 이는 기업 AI 보안 범위에서 완전히 벗어나 있음을 의미합니다. 더욱이, 회사 계정을 사용하는 대화 중 14.39%는 개인 AI 라이선스를 통해 이루어지고 있어, 해당 데이터가 여전히 학습 중인 상태입니다. 이러한 상황은 가시성, 거버넌스, 규정 준수 및 데이터 보존 측면에서 심각한 사각지대를 초래합니다.
기업 AI 대화의 6% 이상에 민감한 데이터가 포함되어 있습니다. 특히 ChatGPT는 민감한 데이터 노출률이 매우 높아(8.38%), 기업 AI 데이터 노출 채널 중 가장 큰 비중을 차지합니다. 이제 문제는 직원들이 AI와 민감한 데이터를 공유할지 여부가 아니라, 얼마나 자주, 어디서, 그리고 어떤 계정을 통해 공유하는지입니다.
AI 브라우저 확장 프로그램은 기업 환경, 특히 중소기업에서 빠르게 확산되고 있으며, 이미 약 15%의 직원이 하나 이상의 AI 확장 프로그램을 사용하고 있습니다. AI 확장 프로그램의 거의 75%는 높은 또는 중요 수준의 권한을 부여받았고, 16.31%는 이미 알려진 CVE(임계 취약점)를 가지고 있어, AI 확장 프로그램은 다른 확장 프로그램 생태계에 비해 위험성이 훨씬 높습니다.
기업 사용자들은 매주 인공지능과 상호작용합니다.
상위 5% 사용자: 144회 이상 대화.
개인 계정(회사 명의가 아닌 계정)을 통한 모든 사용 내역. 회사에서 관리하는 계정을 통한 모든 사용 내역.
관리 및 운영됩니다. 기업 아이덴티티를 통해 사용됩니다.
AI 기반 브라우저 확장 프로그램이 기업 전반에 걸쳐 대규모로 도입되고 있습니다.
대부분의 확장 프로그램은 데이터, 웹사이트 및 사용자 활동에 대한 광범위한 액세스 권한을 요청합니다.
상당수의 AI 확장 프로그램에서 취약점이 발견되었습니다.
가장 널리 사용되는 방식입니다.
기업 계정 내에서도 AI 상호작용의 약 7분의 1은 개인 라이선스에 의해 이루어집니다. 섀도우 AI는 표면 아래에 숨어 있습니다.
AI 확장 기능은 빠른 도입, 높아진 권한, 그리고 알려진 취약점을 결합하여 기업 보안에 중대한 사각지대를 만들어냅니다.
AI는 더 이상 ChatGPT 탭에만 국한되지 않습니다. 직원들은 내장형 코파일럿, SaaS 애플리케이션, AI 확장 프로그램, AI 검색 도구 및 커넥터를 통해 AI와 상호 작용하는 경우가 점점 늘어나고 있으며, 이러한 도구들은 대부분 브라우저 내에서 직접 작동합니다. ChatGPT 및 Copilot과 같은 주요 플랫폼이 사용량을 주도하고 있지만, 보안 팀이 모니터링하지 않는 소규모 AI 도구들이 점점 더 많아지면서 가시성 격차가 커지고 있습니다. 조직은 대부분의 AI 활동이 실제로 발생하는 브라우저에서 AI 거버넌스를 시작해야 합니다.
AI 활동은 소수의 파워 유저에게 집중되어 있습니다. 보안팀은 AI 활동이 활발한 사용자를 파악하고, 이들의 상호 작용량, 데이터 민감도, 플랫폼 사용 패턴에 따라 맞춤형 모니터링 및 제어를 적용해야 합니다.
AI를 완전히 차단하는 것은 더 이상 현실적이지 않으며, "모두 허용"하는 접근 방식 또한 마찬가지로 위험합니다. 조직은 프롬프트, 업로드, 응답 및 사용자 활동을 실시간으로 검사하는 인라인 모니터링 및 실시간 안전장치가 필요합니다. 이를 통해 직원들은 AI를 생산적으로 활용하는 동시에 민감한 데이터 노출, 정책 위반 및 위험한 상호 작용을 실시간으로 방지할 수 있습니다.
거의 5명 중 1명의 직원이 매주 정기적으로 AI 비서와 상호 작용하고 있으며, 30% 이상은 매달, 40%는 분기별로 사용하고, 기업 사용자 중 거의 절반(47%)은 더 오랜 기간에 걸쳐 AI 도구를 활용하고 있습니다. 이는 AI가 더 이상 얼리어답터나 특정 기술 팀에만 국한되지 않음을 보여줍니다. 그러나 대부분의 사용자는 매일 또는 매주 AI를 사용하는 것이 아니라, 보다 일상적인 방식으로 AI를 이용하고 있습니다.
왜 문제 : AI는 이제 기업 전반에 걸쳐 보편화되었지만, 대부분의 직원에게는 여전히 일상적인 업무 흐름의 일부가 아닌 간헐적이고 비정형적인 형태로 사용되고 있습니다. 이는 어려운 거버넌스 문제를 야기합니다. AI가 워낙 널리 보급되어 기업이 이를 완전히 차단하는 것은 현실적으로 불가능하지만, 사용 방식이 파편화되어 있고 비정기적인 경우가 많아 중앙 집중식 감독 및 가시성 확보가 어려운 실정입니다.
ChatGPT는 기업 AI 활용 분야에서 도입률과 참여도 모두에서 명실상부한 선두주자입니다. 기업 사용자 중 약 36%가 ChatGPT를 이용하고 있지만, 전체 AI 대화의 55% 이상을 ChatGPT가 주도하고 있습니다. 이러한 사용자 도입률과 대화 점유율의 격차는 ChatGPT 사용자가 다른 AI 플랫폼 사용자보다 훨씬 더 적극적이고 참여도가 높다는 것을 보여줍니다.
마이크로소프트의 기업용 솔루션인 Copilot M365는 사용자 29%, 대화량 23%를 차지하며 폭넓은 기업 도입률을 보였지만, 상호작용 강도는 상대적으로 낮았습니다. Gemini와 Claude는 사용자 대비 대화 점유율은 낮지만, 중간 정도의 도입률을 나타냈습니다. DeepSeek는 기업 도입률이 매우 낮아 사용자 0.42%, 대화량 0.26%에 그쳤습니다.
| AI 플랫폼 | 플랫폼별 기업 AI 사용자 분포 | 플랫폼별 기업 사용자 AI 대화 분포 |
|---|---|---|
| ChatGPT | 36.19% | 55.08% |
| 코파일럿 M365 | 29.57% | 23.61% |
| 쌍둥이 자리 | 13.02% | 10.43% |
| 클로드 | 11.93% | 6.47% |
| 제미니 엔터프라이즈 | 5.18% | 2.07% |
| 부조종사 | 3.69% | 2.08% |
| DeepSeek | 0.42% | 0.26% |
또한 마이크로소프트는 구글보다 기업용 AI 표준화 측면에서 훨씬 강력한 모습을 보여줍니다. Copilot M365는 독립형 소비자용 Copilot 제품보다 훨씬 높은 채택률을 보이며, Copilot M365 사용자의 29%가 사용하는 반면 일반 소비자용 Copilot은 3%에 불과합니다. Gemini는 이와는 반대로 소비자용 버전(13%)이 Gemini Enterprise(5%)보다 훨씬 많이 사용됩니다. 이는 마이크로소프트 사용자는 기업에서 관리하는 AI 환경 내에서 작업하는 경향이 더 큰 반면, 많은 Gemini 사용자는 여전히 중앙 집중식 관리 체계 외부의 소비자용 AI 접근 경로에 의존하고 있음을 시사합니다.
왜 문제 : 새로운 AI 플랫폼에 대한 끊임없는 과대광고에도 불구하고, 기업의 AI 활용은 여전히 ChatGPT와 Copilot M365에 크게 집중되어 있습니다. Gemini(Gemini 엔터프라이즈 버전 포함), Claude, DeepSeek 등 대부분의 다른 도구들은 기업 도입 및 활용도 측면에서 여전히 뒤처져 있습니다.
일반 기업 사용자는 평균 36회 이상의 AI 대화를 하지만, 직원 간 사용량은 매우 불균형적입니다. 하위 50% 사용자는 12회 이하의 대화만 하는 반면, 상위 5% 사용자는 144회의 대화를 생성합니다. 이러한 불균형적인 사용량 분포는 기업 내 AI 사용이 얼마나 불균등한지를 보여주며, 소수의 직원이 기업 AI 활동의 상당 부분을 주도하고 있음을 드러냅니다.
대화의 깊이 또한 중요한 요소입니다. AI 상호작용은 평균적으로 대화당 5개의 질문을 던지지만, 상위 5%의 대화에는 최소 18개 이상의 질문이 포함됩니다. 이는 매우 흥미로운 결과로, 대부분의 일반 사용자에게 AI 상호작용은 검색 엔진을 사용하는 것과 크게 다르지 않은 간단한 일회성 질문인 반면, 고급 사용자에게는 여러 단계를 거치는 복잡한 상호작용이라는 것을 시사합니다.
왜 문제 : 기업 내 AI 위험은 모든 직원에게 고르게 분포되어 있지 않습니다. 오히려 조직들은 일상 업무에서 AI 도구를 적극적으로 활용하는 "AI 파워 유저"의 등장을 목격하고 있습니다. 보안 및 거버넌스 관점에서 이러한 파워 유저는 잠재적인 민감 데이터 노출과 관리되지 않은 AI 상호 작용에 가장 취약한 집단이기 때문에 매우 중요합니다.
직원들이 AI 도구에 어떤 데이터를 유출하고 있는지 알고 계십니까?
기업 사용자들은 평균적으로 36회 이상의 AI 대화를 나눕니다. 하지만 기업 AI 대화 중 6.48%에는 민감한 데이터가 포함되어 있었습니다.
왜 문제 : 민감한 정보가 포함된 모든 AI 대화는 다음과 같은 잠재적 위험을 내포합니다.
대규모 AI 도입과 지속적인 민감 데이터 공유가 결합되면서 기업 데이터 유출의 새로운 경로가 생겨났으며, 이에 대한 대책 마련이 시급합니다.
개인 데이터는 모든 AI 대화의 5.81%에서 나타나며, 이는 가장 흔하게 노출되는 민감한 데이터 범주입니다. 여기에는 직원 이름, 이메일 주소, 전화번호, 고객 기록 및 기타 개인 식별 정보(PII)가 포함됩니다.
이에 비해 재무 데이터는 대화의 0.96%에서 나타나며 급여 정보, 은행 계좌 정보, 신용 카드 번호, 재무 예측 등을 포함합니다. IT 및 보안 관련 데이터는 대화의 0.94%에서 나타나며 IP 주소, SSH 키, API 토큰 등과 같은 민감한 기술 정보를 포함합니다.
왜 문제 : 민감한 정보를 공유하는 대화의 비율은 낮아 보일 수 있지만, 기업에서 AI를 사용하는 규모와 양 자체가 광범위한 위협 요인으로 작용합니다. 특히 민감한 사용자 및 비즈니스 정보를 다루는 부서 전반에 걸쳐 AI 도입이 확대됨에 따라 개인정보 보호, 규정 준수 및 규제 관련 위험이 증가하고 있습니다.
민감한 데이터 노출률은 AI 플랫폼마다 상당한 차이를 보입니다.
DeepSeek은 민감한 데이터가 포함된 대화 비율이 12.63%로 가장 높았으며, ChatGPT(8.38%)와 Copilot(8.31%)이 그 뒤를 이었습니다. Claude(6.43%)와 Gemini Enterprise(6.14%)는 중간 수준이었고, Copilot M365는 3.65%로 가장 낮은 노출률을 보였습니다.
| AI 플랫폼 | 플랫폼별 기업 사용자의 민감한 데이터가 포함된 AI 대화 |
|---|---|
| DeepSeek | 12.63% |
| ChatGPT | 8.38% |
| 부조종사 | 8.31% |
| 클로드 | 6.43% |
| 제미니 엔터프라이즈 | 6.14% |
| 쌍둥이 자리 | 4.50% |
| 코파일럿 M365 | 3.65% |
왜 문제 : 모든 AI 플랫폼이 동일한 방식으로 사용되거나 동일한 관리 체계 하에 운영되는 것은 아닙니다. 소비자용 AI 도구는 민감한 데이터 노출 위험이 높은 경향이 있는 반면, Copilot M365와 같은 기업 통합 플랫폼은 보다 통제된 환경에서 운영되는 것으로 보입니다. 이는 직원들이 AI와 상호 작용하는 방식에 따라 위험 프로필이 크게 달라질 수 있으므로 플랫폼별 AI 관리 체계가 필요하다는 점을 강조합니다.
ChatGPT는 기업 AI 대화의 55.08%를 차지하는 동시에 8.38%라는 높은 민감 데이터 노출률을 보여 AI 플랫폼으로 민감 데이터를 공유하는 가장 큰 채널로 나타났습니다. Copilot M365는 23.61%로 두 번째로 큰 대화량을 기록했지만 노출률은 3.65%로 훨씬 낮았으며, DeepSeek는 도입률은 낮지만 12.63%로 가장 높은 노출률을 보였습니다.
왜 문제 : 위험은 노출률뿐만 아니라 사용량에 따라서도 발생합니다. 노출률이 중간 정도인 플랫폼이라도 대화량이 극도로 많으면 기업 데이터 유출의 주요 통로가 될 수 있습니다.
기업 AI 대화의 거의 절반(47.11%)이 기업 계정(52.89%)이 아닌 개인 계정을 통해 이루어집니다. 이는 기업 AI 활동의 상당 부분이 조직의 직접적인 통제 범위를 벗어나 발생할 수 있음을 의미합니다.
게다가 회사 이메일 계정을 사용하는 대화의 14.39%는 개인 AI 라이선스와 연결되어 있습니다.
이러한 상황은 직원들이 회사 계정을 사용하고 있다고 착각하게 만들어 잘못된 안도감을 조성할 수 있습니다. 회사 계정으로 로그인하기 때문에 실제로는 개인 계정을 사용하는 것과 다를 바 없으며, 조직은 데이터의 저장, 보존, 관리, 그리고 제3자 제공업체와의 공유 방식에 대한 통제권을 갖지 못합니다. 게다가 해당 데이터는 여전히 모델 학습에 사용됩니다.
또한 직원들이 업무와 소비자용 AI 구독 서비스, 그리고 관리되지 않는 AI 환경을 얼마나 자주 혼합해서 사용하는지 보여줍니다.
전반적인 데이터는 개인과 기업 사용자의 비율이 거의 비슷하게 나뉘는 것을 보여주지만, 플랫폼별 분포는 상당한 차이를 보입니다. ChatGPT, Claude, Copilot, Deepseek과 같은 일부 플랫폼은 개인 계정으로 이루어지는 대화가 60%를 넘을 정도로 개인 사용이 압도적인 반면, Gemini Enterprise와 Copilot M365와 같은 기업용 플랫폼은 기업 관리 계정을 통해 이루어지는 대화가 각각 98.15%와 90.55%를 차지하며 거의 전적으로 기업용으로 사용되고 있습니다.
| 플랫폼 | 기업 아이덴티티를 사용한 대화 비율 | 기업 아이덴티티가 아닌 다른 아이덴티티를 사용한 대화 비율 |
|---|---|---|
| ChatGPT | 38.14% | 61.86% |
| 쌍둥이 자리 | 62.15% | 37.85% |
| 제미니 엔터프라이즈 | 98.15% | 1.85% |
| 클로드 | 38.91% | 61.09% |
| 부조종사 | 36.08% | 63.92% |
| 코파일럿 M365 | 90.55% | 9.45% |
| DeepSeek | 0.17% | 99.83% |
왜 문제 : AI 도구는 생산성 도구, 특히 Microsoft M365(Copilot) 및 Google Workspace(Gemini)와 함께 제공되는 경우가 점점 늘어나고 있습니다. 그러나 조직에서 Copilot을 사용하는 대부분은 기업용 Copilot M365 버전을 사용하고 회사 계정을 통해 접속하는 반면(이전 장의 데이터 참조), Gemini는 대부분 무료 버전(기업용이 아닌 버전)을 개인 계정으로 사용하는 경우가 많습니다. 이는 조직이 직원들이 사용하는 도구 유형과 해당 도구에 접속하는 데 사용하는 계정에 따라 영향을 받는 상황을 파악하는 데 있어 사각지대를 만들어냅니다.
사용자의 70.44%는 단일 AI 비서를 사용하는 반면, 약 30%는 여러 AI 플랫폼을 사용하고 있으며, 그중 21.16%는 두 가지 도구를, 8% 이상은 세 가지 이상의 도구를 사용하고 있습니다. 이는 기업 내 AI 사용이 단일 승인 솔루션을 중심으로 표준화되기보다는 여러 플랫폼에 걸쳐 점점 더 파편화되고 있음을 보여줍니다.
왜 문제 : 다양한 플랫폼에서 AI를 사용하는 것은 거버넌스의 복잡성을 증가시킵니다. 각 AI 비서가 서로 다른 모델, 정책, 데이터 처리 방식 및 보안 제어를 도입하기 때문입니다. 직원들이 여러 AI 도구에 걸쳐 워크플로를 수행함에 따라 조직은 가시성 격차가 커지고 민감한 데이터 노출 위험이 높아집니다.
기업 사용자는 평균 2.24개의 AI 애플리케이션을 사용하며, 중간값 사용자는 2개의 AI 도구를 사용합니다. 상위 5% 사용자는 6개 이상의 AI 애플리케이션을 사용하는데, 이는 소수의 직원만이 업무 흐름의 일부로 다양한 AI 도구를 활용하고 있음을 보여줍니다.
AI 활용은 더 이상 단일 승인된 비서에만 집중되지 않습니다. 직원들이 여러 AI 애플리케이션을 사용함에 따라 조직은 점점 더 파편화되는 AI 생태계 전반에서 가시성, 거버넌스, 데이터 일관성 및 민감한 데이터 노출과 관련된 문제에 직면하고 있습니다.
대부분의 AI 사용은 몇 가지 도구에 집중되어 있지만, 데이터에 따르면 기업 내에서 AI 도구의 활용 범위가 점점 넓어지고 있으며, 직원들은 주류 플랫폼과 더불어 틈새 시장용 또는 보조 AI 애플리케이션을 점점 더 많이 채택하고 있습니다. 이는 '섀도우 AI' 문제를 야기하여 조직이 AI 생태계 전반에서 가시성을 유지하고, 거버넌스 정책을 시행하며, 민감한 데이터의 이동을 통제하는 데 어려움을 초래합니다.
가장 인기 있는 AI 애플리케이션 100개 중 ChatGPT가 가장 많이 사용되는 AI 도구로 나타났습니다. 대부분의 AI 사용은 상위 4~5개 도구에 집중되어 있지만, 데이터는 기업 내에서 직원들이 주류 플랫폼과 함께 틈새 시장용 또는 보조 AI 애플리케이션을 점점 더 많이 채택하면서 AI 도구의 롱테일 현상이 증가하고 있음을 보여줍니다. 이는 '그림자 AI' 문제를 야기하여 조직이 가시성을 유지하고, 거버넌스 정책을 시행하며, 확장되는 AI 생태계 전반에 걸쳐 민감한 데이터의 이동을 통제하는 데 어려움을 초래합니다.
AI 확장 프로그램 사용은 기업 전반에 걸쳐 점차 확산되고 있으며, 특히 중소기업에서 가장 높은 도입률을 보이고 있습니다. 약 15%의 기업이 하나 이상의 AI 확장 프로그램을 사용하고 있는 반면, 대기업은 여전히 보수적이거나 규제가 엄격하여 약 10%의 기업만이 AI 확장 프로그램을 사용하고 있습니다.
브라우저 확장 프로그램의 거의 75%가 높은 또는 중요한 권한 수준을 요청하는 반면(높음 56.4%, 중요 16.7%), 낮은 권한으로 작동하는 확장 프로그램은 1.4%에 불과합니다.
왜 문제 : 높은 권한을 가진 확장 프로그램은 민감한 브라우저 데이터와 사용자 활동에 접근할 수 있으므로, 악의적이거나 손상된 확장 프로그램은 민감한 정보를 쉽게 노출하거나 사용자 세션을 탈취할 수 있습니다.
AI 확장 기능은 더 높은 보안 위험도를 보입니다. AI 확장 기능의 16.31%는 알려진 CVE(공격적 중요 취약점)를 보유하고 있는 반면, 전체 확장 기능에서는 10.8%만이 CVE를 보유하고 있습니다. AI 확장 기능은 취약점에 대한 노출도가 높고 권한이 높아 데이터 유출 및 오용 위험이 증가합니다. AI 확장 기능의 높은 CVE 발생률은 기업 환경에 배포하기 전에 더욱 엄격한 검증, 모니터링 및 관리가 필요함을 의미합니다.
| 모든 확장 | AI 확장 기능만 해당 | |
|---|---|---|
| 알려진 CVE가 있는 확장 프로그램의 비율 | 10.80% | 16.31% |
| 쿠키에 접근할 수 있는 확장 프로그램 비율 | 6.67% | 18.19% |
| 스크립팅에 접근할 수 있는 확장 프로그램의 비율 | 15.40% | 41.91% |
더욱이, AI 확장 프로그램은 일반 브라우저 확장 프로그램보다 쿠키 접근 권한을 요청할 가능성이 거의 3배 더 높습니다. 또한, AI 확장 프로그램의 41.91%가 스크립팅 접근 권한을 요청하는 반면, 모든 확장 프로그램 중에서는 15.4%만이 요청합니다.
이는 AI 확장 기능이 개인 정보 보호, 보안 및 데이터 접근에 있어 불균형적으로 높은 위험을 초래하며, 기업 환경에서 더욱 엄격한 관리, 검토 및 지속적인 모니터링을 요구한다는 것을 의미합니다.
AI 커넥터는 비교적 적은 수의 직원이 사용하고 있으며, 전체 사용자 중 0.16%만이 커넥터를 활용한 AI 워크플로우를 하나 이상 사용하고 있습니다. 그러나 커넥터를 사용하는 사용자들은 여러 기업 애플리케이션을 연결하는 경향이 있으며, 사용자당 평균 4.5개의 커넥터를 사용합니다. 가장 일반적인 통합 방식은 AI 플랫폼을 SharePoint, Microsoft 365, Atlassian, Google Workspace, GitHub, Slack, Figma와 같은 비즈니스 핵심 시스템에 직접 연결하는 것입니다.
왜 문제 : AI 커넥터는 AI 플랫폼이 단순한 프롬프트 상호 작용을 넘어 접근할 수 있는 범위를 획기적으로 확장합니다. 직원들이 수동으로 데이터를 공유하는 대신, 커넥터를 통해 AI 도구는 이메일, 문서, 협업 플랫폼, 코드 저장소, 내부 지식 기반 및 SaaS 애플리케이션에 직접 접근할 수 있습니다. 이는 기업의 공격 표면을 훨씬 더 크고 지속적으로 만들어, 민감한 비즈니스 데이터가 기업 시스템과 외부 AI 플랫폼 간에 끊임없이 오갈 수 있게 합니다.
| 어플리케이션 | 커넥터 |
|---|---|
| ChatGPT | 셰어 |
| ChatGPT | Outlook 이메일 |
| ChatGPT | Microsoft |
| ChatGPT | 골드 피처 |
| ChatGPT | 마이크로소프트(라이브) |
| ChatGPT | 구글 |
| ChatGPT | GitHub의 |
| ChatGPT | Canva |
| ChatGPT | 느슨하게 |
| ChatGPT | 피그 마 |
이 보고서의 데이터는 기업의 AI 사용량이 대부분의 조직이 관리할 수 있는 속도보다 훨씬 빠르게 증가하고 있음을 보여줍니다. AI는 더 이상 몇몇 승인된 도구나 특정 사용자에게만 국한되지 않습니다. 이제 직원들은 개인 계정, 내장된 코파일럿, 브라우저 확장 프로그램, 커넥터, 그리고 빠르게 성장하는 AI 애플리케이션 생태계를 통해 AI와 상호 작용합니다. 위험 노출을 줄이고 가시성을 확보하기 위해 조직은 신원 관리, 데이터 노출, 실시간 모니터링에 중점을 둔 계층적 AI 거버넌스 접근 방식을 채택해야 합니다.
대부분의 조직은 ChatGPT나 Copilot과 같은 도구 관리에 집중하고 있지만, 실제 가시성 격차는 기업 전반에 조용히 확산되고 있는 보조 AI 도구, 내장형 어시스턴트, AI 검색 엔진, 브라우저 확장 프로그램, 커넥터 등의 거대한 생태계에 존재합니다. 가장 큰 AI 거버넌스 실패는 인기 있는 AI 도구에서 발생하는 것이 아니라, 보안팀이 직원들이 사용하고 있다는 사실조차 모르는 수십 개의 소규모 AI 도구에서 발생할 가능성이 높습니다.
대다수의 직원은 AI를 가볍게 사용합니다. 진정한 위험은 더 많은 대화를 나누고, 더 많은 AI 플랫폼을 사용하며, 여러 질문에 대한 심층적인 상호작용을 하는 소수의 AI 헤비 유저들에게 집중되어 있습니다. 보안팀은 AI 헤비 유저를 지속적으로 파악하고, 상호작용량, 플랫폼 다양성, 민감 데이터 노출 패턴에 기반한 맞춤형 모니터링을 적용해야 합니다.
기업에서 AI 사용 규모가 커짐에 따라 AI를 완전히 차단하는 것은 더 이상 현실적이지 않지만, 무제한적인 AI 사용 또한 심각한 위험을 초래한다는 것을 알 수 있습니다. 성공하는 조직은 "차단 vs 허용"이라는 이분법적 정책에서 벗어나 실시간으로 상호 작용을 모니터링하고, 맥락을 파악하며, 생산성을 저해하지 않고 동적으로 제어를 적용하는 인라인 AI 거버넌스로 전환해야 합니다.
관리되지 않는 개인 AI 계정과 개인 AI 라이선스는 민감한 기업 워크플로우를 통제되지 않은 AI 환경에 노출시킵니다. 기업 차원의 AI ID를 적용하고 개인 계정 사용을 차단하면 AI 상호 작용, 프롬프트 및 데이터 흐름이 기업 보안 제어 하에 가시적이고 관리되며 보호되도록 보장할 수 있습니다.
AI 브라우저 확장 프로그램과 커넥터를 사용하면 기업 시스템을 외부 AI 플랫폼에 직접 연결할 수 있습니다. 기업은 이러한 통합 기능에 대해 권한, 취약점, 데이터 접근 범위 및 시간 경과에 따른 동작 변화를 지속적으로 검토해야 합니다.
사용 중인 모든 AI 도구, 브라우저 및 애플리케이션을 감지하고 그 안에서 발생하는 모든 사용자 및 에이전트 활동을 완벽하게 파악할 수 있습니다.
기업 계정을 사용하여 비공개 AI 앱 사용을 제한하고 승인된 AI 앱에 대한 접근을 보호하세요.
사용자가 민감한 데이터를 GenAI 도구와 공유하는 것을 막기 위해 최종 단계 AI 보안 가드레일을 강화하십시오.
민감하거나 기밀 데이터가 입력되거나 노출되는 것을 방지하기 위해 AI 도구로 유입되고 유출되는 데이터를 모니터링하고 제어합니다.
LayerX는 네트워크 아키텍처를 변경하거나 사용자 경험을 방해하지 않고 모든 애플리케이션, 브라우저 및 IDE에서 모든 프롬프트, 에이전트 작업 및 데이터 교환을 제어할 수 있는 유일한 AI 사용 제어 플랫폼입니다.
이 플랫폼은 사용자가 누구인지, 어떤 기기를 사용하는지에 관계없이 모든 AI 도구, AI가 내장된 SaaS, AI 브라우저 및 AI 애플리케이션 사용 현황을 포괄적으로 파악할 수 있도록 지원합니다.
더 나아가 LayerX는 모든 주요 AI 플랫폼에서 발생하는 모든 AI 대화에 대한 엔드투엔드 가시성을 제공하여 프롬프트와 응답 모두를 캡처합니다. 이를 통해 보안 팀은 AI 도구와 공유되는 데이터에 대한 완벽한 통찰력과 함께 노출 탐지, 조사 가속화 및 규정 준수를 보장하는 데 필요한 컨텍스트를 확보할 수 있습니다.
또한 브라우징 활동, 로그인 시도, 데이터 입력, 파일 업로드와 같은 사용자 행동을 모니터링하여 어떤 도구에 누가 어떤 계정(회사 또는 개인)을 통해 접근했는지 파악합니다. 이를 통해 조직은 무단 데이터 공유를 감지하고, 승인된 AI 도구 및 기타 '섀도우 AI' 애플리케이션으로부터의 데이터 유출을 방지하기 위한 정책을 시행할 수 있습니다.
또한 LayerX를 사용하면 조직은 최종 사용자 환경에서 이러한 앱에 대한 정책을 직접 감지하고 적용할 수 있습니다. 조직은 사용자 ID, 기기 상태, 웹사이트 카테고리, 데이터 민감도 등을 기반으로 정책을 정의하여 모니터링만 수행하는 것부터 사용자 지정 메시지로 경고하는 것, 민감한 데이터를 가리는 것, 또는 모든 작업을 완전히 차단하는 것까지 다양한 적용 옵션을 갖춘 맞춤형 보안 정책을 생성할 수 있습니다.