La perdita di dati Genai si riferisce alla categoria di rischio per la sicurezza che emerge quando i dipendenti aziendali, gli agenti di intelligenza artificiale o i flussi di lavoro automatizzati interagiscono con strumenti di intelligenza artificiale, applicazioni SaaS e servizi web tramite il browser. La maggior parte di queste interazioni è invisibile ai tradizionali controlli di sicurezza che operano a livello di rete e di endpoint. La sessione del browser è il luogo in cui il rischio si manifesta e dove deve essere attuato il controllo.
Tutto il resto si trova a monte del problema.
Che cos'è la perdita di dati Genai e perché è importante per la sicurezza aziendale?
Fuga di dati di Genai Si colloca all'incrocio tra l'adozione dell'IA e la sicurezza aziendale. Man mano che le organizzazioni implementano ChatGPT, Microsoft Copilot, Claude e centinaia di strumenti SaaS basati sull'IA, emerge una nuova classe di rischio nel punto in cui i dipendenti interagiscono con questi strumenti.
I framework di sicurezza tradizionali sono stati progettati per un mondo diverso. I controlli di rete vedono la connessione. Gli agenti sugli endpoint vedono il processo. Nessuno dei due vede cosa succede all'interno della sessione del browser quando uno sviluppatore incolla una chiave API interna in GitHub Copilot o un rappresentante di vendita carica un elenco di potenziali clienti in ChatGPT per preparare una bozza di messaggio. Questo punto cieco è il problema principale. E non si tratta di un caso limite di nicchia: è qui che risiede la maggior parte del rischio legato all'IA aziendale.
Secondo una ricerca di LayerX, il 45% dei dipendenti aziendali utilizza attivamente strumenti di intelligenza artificiale. I team di sicurezza che non hanno affrontato questo aspetto gestiscono il rischio legato all'IA con strumenti che non sono in grado di monitorare le interazioni che cercano di controllare.
In che modo la fuga di dati di Genai influisce sulle organizzazioni che utilizzano strumenti di intelligenza artificiale come ChatGPT e Microsoft Copilot?
ChatGPT, Microsoft Copilot e Gemini sono ormai strumenti standard per i professionisti della conoscenza nei settori legale, finanziario, ingegneristico e operativo. Ogni interazione comporta una potenziale esposizione.
Il 77% dei dipendenti incolla dati nei prompt di GenAI. I dati che transitano attraverso queste interazioni includono codice sorgente, dati dei clienti, proiezioni finanziarie e informazioni personali identificabili (PII). Il traffico si muove come normale traffico HTTPS verso domini autorizzati. Il sistema DLP di rete rileva una connessione approvata. Il sistema DLP degli endpoint vede il browser come un singolo processo. Nessuno dei due rileva i dati in transito all'interno della sessione.
Quello è il divario.
L'implicazione in termini di conformità è diretta. Un team di sicurezza che non può visualizzare i dati inviati dai dipendenti a Copilot non può dimostrare a un revisore di avere il controllo su tale canale di dati. Una policy senza un'applicazione tecnica non costituisce un controllo, bensì una potenziale responsabilità da documentare in un rapporto di violazione.
Quali sono le minacce più comuni di perdita di dati Genai che i team di sicurezza si trovano ad affrontare oggi?
Tre modelli di minaccia si ripresentano ripetutamente negli ambienti aziendali.
Esfiltrazione dei dati tramite prompt dell'intelligenza artificiale. I dipendenti inseriscono dati sensibili negli strumenti di intelligenza artificiale senza l'intenzione di esfiltrarli. L'effetto è lo stesso: i dati proprietari escono dall'organizzazione attraverso un canale che il sistema di sicurezza non è in grado di monitorare. L'89% degli accessi tramite IA elude la supervisione aziendale.
Iniezione immediata. Gli avversari inseriscono istruzioni dannose in documenti, pagine web o e-mail che vengono poi analizzate dagli strumenti di intelligenza artificiale. Il modello segue le istruzioni inserite anziché l'intento dell'utente. Negli ambienti aziendali che utilizzano strumenti di ricerca o di posta elettronica assistiti dall'IA, ciò non richiede autorizzazioni speciali.
Intelligenza artificiale ombra e account non autorizzati. Il 50% delle attività di copia e incolla su GenAI include dati aziendali. Le politiche di governance scritte per gli account aziendali non prevedono alcuna copertura quando i dipendenti utilizzano account personali di ChatGPT, Grammarly o Copilot su dispositivi aziendali.
In quali aree dell'ambiente aziendale si manifestano i rischi di perdita di dati di Genai?
La risposta a cui la maggior parte dei team di sicurezza si oppone è la più semplice: all'interno della sessione del browser.
Gli strumenti di rete operano al di fuori della sessione. Accedono ai metadati del traffico, non al contenuto. Gli strumenti per gli endpoint trattano il browser come un singolo processo. Vedono l'attività del file system, non ciò che un utente digita in un campo di testo. Gli strumenti di gestione delle identità confermano l'autenticazione. Non vedono cosa accade all'interno della sessione autenticata.
Ogni principale scenario di rischio di fuga di dati si manifesta in questo spazio vuoto. Il rappresentante di vendita che ha copiato un'esportazione CRM in ChatGPT per scrivere un'email di follow-up? È successo nel browser. L'ingegnere che ha incollato le credenziali di produzione in Copilot per eseguire il debug di uno script? Browser. L'analista finanziario che ha caricato le proiezioni del terzo trimestre per riassumerle prima di una riunione del consiglio di amministrazione? Anche in questo caso, browser.
La sessione del browser non è solo una delle tante superfici di attacco. Per la maggior parte dei lavoratori della conoscenza, rappresenta l'ambiente di lavoro principale. Per i rischi aziendali legati all'intelligenza artificiale, è il principale. La sicurezza delle estensioni del browser complica ulteriormente la situazione: le estensioni comportano rischi specifici di esposizione di autorizzazioni e dati che risiedono interamente a livello del browser.
Come fanno i team di sicurezza a creare un programma Genai Data Leakage anti-leaking che funzioni davvero?
Un vero programma di prevenzione delle fughe di dati Genai inizia con la visibilità. I team di sicurezza non possono controllare ciò che non possono vedere. Ciò significa monitorare a livello di sessione le interazioni con gli strumenti di IA, non solo registrare a livello di rete le connessioni ai domini di IA.
Dalla visibilità, il passo successivo è la classificazione. Non tutti i dati inviati agli strumenti di intelligenza artificiale presentano lo stesso rischio. Il codice sorgente è diverso da un post di un blog pubblico. Le informazioni personali dei clienti sono diverse da una query di ricerca generica. La classificazione consente ai team di sicurezza di applicare un controllo graduale anziché decisioni binarie di autorizzazione/blocco che gli utenti possono eludere.
Le opzioni di applicazione delle norme dovrebbero rispecchiare il modo in cui l'organizzazione utilizza effettivamente l'IA. Monitoraggio di routine per le interazioni a basso rischio. Avvisi agli utenti con richieste di giustificazione per le segnalazioni a rischio medio. Oscuramento o blocco automatico per i modelli di dati ad alto rischio. L'obiettivo è un'applicazione senza intoppi per il 95% delle interazioni che sono innocue e un intervento preciso per il 5% che non lo sono.
controlli sull'utilizzo dell'IA Fornire il livello di policy che garantisca un'applicazione coerente delle policy su strumenti, utenti e dispositivi, inclusi i dispositivi non gestiti dove gli agenti tradizionali non possono arrivare.
In che modo l'applicazione delle norme a livello di browser affronta le problematiche relative alla perdita di dati di Genai?
La maggior parte delle minacce di fuga di dati Genai si verificano all'interno della sessione del browser. Per contrastarle è necessario intervenire a questo livello, non a livelli superiori o inferiori.
LayerX funziona come estensione del browser aziendale, fornendo visibilità e controllo in tempo reale sulle interazioni con gli strumenti di intelligenza artificiale a livello di sessione. Monitora ciò che i dipendenti incollano in ChatGPT, Copilot e Gemini. Quando il contenuto corrisponde a classificatori di dati sensibili o a modelli comportamentali, LayerX può avvisare l'utente, oscurare l'elemento sensibile o impedire completamente l'invio, senza bloccare l'accesso allo strumento di intelligenza artificiale.
Per contrastare l'IA ombra, LayerX offre un rilevamento continuo di ogni applicazione di IA in uso nell'organizzazione, inclusi strumenti non approvati dal reparto IT e account personali utilizzati per accedere a strumenti autorizzati. I team di sicurezza possono visualizzare con precisione quali strumenti sono in esecuzione, chi li utilizza e quali dati transitano in ogni sessione.
Per l'IA agentiva, LayerX è l'unica piattaforma di sicurezza con visibilità e controllo sui browser di IA agentiva, inclusi ChatGPT Atlas, Perplexity Comet e Dia.
Quali implicazioni ha la fuga di dati di Genai per la governance e la conformità dell'IA?
La regolamentazione si sta evolvendo. Lentamente, ma si sta evolvendo. L'EU AI Act, il NIST AI RMF e la norma ISO 42001 affrontano tutti la gestione del rischio dell'IA a livello normativo. MITRE ATLAS fornisce la tassonomia tecnica che associa specifiche tecniche di attacco basate sull'IA a controlli concreti.
I consigli di amministrazione stanno iniziando a porre domande specifiche. Potete dimostrare quali dati transitano attraverso i vostri strumenti di intelligenza artificiale, quali controlli regolano tale flusso e cosa accade quando una policy viene violata? I team che non dispongono di visibilità a livello di sessione sulle interazioni con l'IA non possono rispondere a queste domande con prove concrete.
La direzione è coerente in tutti i framework. La governance dell'IA si sta spostando dalle politiche all'applicazione tecnica. I team di sicurezza che costruiscono Sicurezza GenAI I programmi attuali, basati sulla visibilità a livello di sessione, saranno posizionati prima dei requisiti che sono ancora in fase di definizione.
Per ulteriori informazioni su come LayerX affronta questo problema, vedere Prevenzione dell'uso improprio dell'IAPer ulteriori informazioni su come LayerX affronta questo problema, vedere sicurezza dell'estensione del browser.
Domande frequenti
La fuga di dati di Genai riguarda anche gli strumenti di intelligenza artificiale basati su browser?
Per i team di sicurezza aziendale, questa domanda si riduce alla visibilità a livello di sessione. I controlli tradizionali di rete e degli endpoint non possono visualizzare le interazioni all'interno degli strumenti di intelligenza artificiale basati su browser. L'applicazione delle policy a livello di browser, come l'estensione Enterprise Browser di LayerX, colma questa lacuna monitorando e applicando le policy esattamente nel punto in cui si verifica l'interazione.
Quali strumenti aiutano a contrastare la perdita di dati causata da Genai negli ambienti aziendali?
Per i team di sicurezza aziendale, questa domanda si riduce alla visibilità a livello di sessione. I controlli tradizionali di rete e degli endpoint non possono visualizzare le interazioni all'interno degli strumenti di intelligenza artificiale basati su browser. L'applicazione delle policy a livello di browser, come l'estensione Enterprise Browser di LayerX, colma questa lacuna monitorando e applicando le policy esattamente nel punto in cui si verifica l'interazione.
Come si relaziona la perdita di dati di Genai a AI DLP?
Per i team di sicurezza aziendale, questa domanda si riduce alla visibilità a livello di sessione. I controlli tradizionali di rete e degli endpoint non possono visualizzare le interazioni all'interno degli strumenti di intelligenza artificiale basati su browser. L'applicazione delle policy a livello di browser, come l'estensione Enterprise Browser di LayerX, colma questa lacuna monitorando e applicando le policy esattamente nel punto in cui si verifica l'interazione.
