Che cos'è la sicurezza dell'intelligenza artificiale generativa?

La sicurezza GenAI si riferisce alla protezione degli ambienti aziendali dai rischi emergenti di strumenti di intelligenza artificiale generativa come ChatGPT, Gemini e Claude. Con la loro crescente adozione, questi strumenti introducono rischi di fuga di dati, conformità e shadow AI. Questo articolo definisce la sicurezza GenAI e delinea le strategie aziendali per garantire un utilizzo sicuro e responsabile dell'intelligenza artificiale.

GenAI spiegato

La sicurezza GenAI consiste nell'identificare e mitigare i rischi introdotti da strumenti di intelligenza artificiale generativa come ChatGPT, Copilot e Claude all'interno dei flussi di lavoro aziendali. Questi strumenti migliorano l'efficienza e l'innovazione, ma introducono anche una nuova superficie di attacco all'intelligenza artificiale in rapida evoluzione che le soluzioni di sicurezza informatica tradizionali spesso non riescono a coprire. La sicurezza GenAI colma questa lacuna gestendo l'esposizione dei dati sensibili, applicando policy di utilizzo dell'intelligenza artificiale a livello aziendale e rilevando comportamenti non sicuri, non conformi o dannosi. Combina misure di sicurezza tecniche come la prevenzione della perdita di dati (DLP), il monitoraggio basato su browser e i controlli di accesso con solidi framework di governance dell'intelligenza artificiale allineati alle policy aziendali e agli standard normativi. A differenza della sicurezza nello sviluppo dell'intelligenza artificiale, che si concentra sulla protezione dell'addestramento dei modelli e dell'infrastruttura, la sicurezza GenAI protegge il livello di utilizzo, in cui i dipendenti interagiscono con strumenti di intelligenza artificiale esterni, garantendo una protezione dell'intelligenza artificiale aziendale sicura, allineata alle policy e responsabile.

Rischi principali della GenAI nell'impresa

Con l'accelerazione dell'adozione di strumenti di intelligenza artificiale generativa, le organizzazioni devono anche affrontare una nuova categoria di minacce. Questi rischi non derivano solo da malintenzionati, ma anche dal modo in cui l'intelligenza artificiale generativa interagisce con dati, utenti e ambienti esterni. Di seguito sono elencate le vulnerabilità e i rischi per la sicurezza dell'intelligenza artificiale più urgenti che le aziende devono gestire.

1. Proprietà intellettuale ed esposizione di dati riservati

Uno dei rischi più immediati e critici della GenAI è Fuga di dati dell'IASpesso i dipendenti incollano informazioni riservate come dati personali identificativi dei clienti, codice sorgente, piani aziendali o proiezioni finanziarie in strumenti GenAI come ChatGPT senza rendersene conto. Questi prompt possono essere archiviati, elaborati o utilizzati per ulteriore formazione, creando una perdita permanente di controllo su tali dati. Anche quando i fornitori dichiarano di non eseguire la formazione sui dati di input, i dati potrebbero comunque essere memorizzati nella cache o registrati nella cronologia delle sessioni, lasciando la porta aperta a violazioni o abusi.

Esempio: Un membro del team finanziario utilizza ChatGPT per generare un riepilogo esecutivo e incolla un foglio di calcolo con i dati sui ricavi del quarto trimestre nel prompt. Tali informazioni finanziarie potrebbero ora essere archiviate dal fornitore del modello o potenzialmente esposte in future query da parte di altri utenti.

2. Violazioni normative e di conformità

L'utilizzo non monitorato di GenAI può facilmente comportare violazioni delle normative sulla protezione dei dati come GDPR, HIPAA, PCI-DSS, o CCPAQueste leggi richiedono una gestione rigorosa dei dati personali, sanitari o di pagamento, qualcosa che la maggior parte degli strumenti di intelligenza artificiale di terze parti non è contrattualmente o architettonicamente preparata a garantire.

Esempio: Un operatore sanitario utilizza un assistente di scrittura basato sull'intelligenza artificiale per redigere un riepilogo delle cure prestate al paziente, inclusa la storia clinica. Anche un singolo prompt contenente PHI (Informazioni Sanitarie Protette) condiviso con uno strumento di intelligenza artificiale esterno potrebbe costituire una violazione HIPAA segnalabile, con il rischio di sanzioni normative e danni alla reputazione. Nei settori altamente regolamentati, anche un solo incidente di questo tipo può comportare un controllo costante da parte di autorità di regolamentazione e revisori.

Le aziende devono trattare i prompt dell'IA come comunicazioni in uscita e applicare lo stesso Politica dell'IA e governance dei dati rigore per rimanere conformi.

3. Utilizzo dell'intelligenza artificiale ombra

I dipendenti spesso utilizzano account personali o strumenti di intelligenza artificiale non autorizzati Senza conoscenze IT, si creano ambienti di intelligenza artificiale ombra. Sebbene l'intelligenza artificiale ombra sia spesso ben intenzionata e profondamente integrata nei flussi di lavoro per migliorare la produttività, finisce per esulare dalle policy di sicurezza e non essere monitorata o registrata, diventando terreno fertile per violazioni della conformità e fughe di dati di intelligenza artificiale, oltre a rappresentare un punto cieco per i team di sicurezza e protezione dei dati.

Esempio: Un team di vendita inizia a utilizzare una versione consumer di ChatGPT per elaborare proposte per i clienti. Col tempo, iniziano a inserire strategie di prezzo, termini contrattuali e metriche di performance interne, nessuno dei quali è protetto dagli strumenti DLP aziendali.

4. Plugin ed estensioni di terze parti rischiosi

Le estensioni e i plugin del browser basati sull'intelligenza artificiale introducono gravi Vulnerabilità dell'intelligenza artificiale a causa di progetti eccessivamente permissivi. Molti hanno accesso a tutte le attività di navigazione, ai dati degli appunti o ai cookie di sessione per funzionare, il che li rende obiettivi interessanti per lo sfruttamento. 

I rischi includono:

• Attacchi di iniezione di intelligenza artificiale: Siti web o script dannosi manipolano i prompt dei plugin per estrarre o divulgare dati.
• Session Hijacking: I plugin con accesso ai token di sessione potrebbero essere sfruttati per impersonare gli utenti.
• Raccolta silenziosa dei dati: Le estensioni possono leggere o trasmettere dati senza che l'utente ne sia consapevole.

La maggior parte dei plugin è creata da terze parti e potrebbe non essere sottoposta agli stessi controlli di sicurezza degli strumenti interni. L'utilizzo non controllato dei plugin può comportare un'esfiltrazione incontrollata di dati ed esporre informazioni regolamentate ad attori sconosciuti, rappresentando un rischio significativo per l'azienda in termini di dati generativi di intelligenza artificiale.

Esempio: Un'estensione di riepilogo AI installata da un utente ha l'autorizzazione a leggere ogni scheda. Un aggressore sfrutta una falla nel plugin per estrarre dati CRM sensibili visualizzati dall'utente senza mai attivare un avviso DLP o antivirus tradizionale.

5. Erosione della postura di sicurezza interna

L'uso non monitorato dell'intelligenza artificiale indebolisce la sicurezza aziendale complessiva. Quando i dipendenti utilizzano strumenti di intelligenza artificiale pubblici tramite browser non gestiti o account personali, i dati sensibili aggirano i controlli di sicurezza tradizionali come firewall, protezione degli endpoint o DLP cloud. I team di sicurezza perdono visibilità su come e dove vengono gestiti i dati. Nel tempo, questo erode la capacità dell'organizzazione di rilevare violazioni, mantenere la prontezza agli audit e applicare policy di sicurezza, lasciando l'azienda vulnerabile a minacce sia interne che esterne. punti ciechi della sicurezza fornire agli aggressori o agli addetti ai lavori distratti un percorso per sfruttare i dati senza attivare le difese standard, rendendo sicurezza AI generativa una priorità urgente.

Esempio:

I dipendenti che utilizzano strumenti GenAI come ChatGPT sui dispositivi personali condividono dati dei clienti che non toccano mai l'infrastruttura aziendale, rendendoli invisibili ai team IT e di conformità.

6. Interruzione operativa e legale

L'esposizione dei dati tramite strumenti di GenAI può innescare procedimenti legali, audit e indagini interne, distogliendo risorse e interrompendo le operazioni quotidiane, ritardando i progetti e creando attriti interni tra i team che cercano di assumersi le proprie responsabilità e mitigare i rischi. Oltre alle perdite finanziarie derivanti dalla rottura dell'accordo, l'organizzazione potrebbe anche dover affrontare azioni legali, clausole penali o procedimenti arbitrali. 

Esempio:

Un'azienda manifatturiera scopre che sono stati inseriti in ChatGPT termini e condizioni sensibili dei fornitori, probabilmente trapelati. I team addetti agli acquisti sono costretti a rinegoziare i contratti, mentre il reparto legale gestisce le richieste di informazioni ai fornitori e le valutazioni di responsabilità.

Questi rischi evidenziano perché i controlli di sicurezza tradizionali non sono più sufficienti nell'era dell'IA generativa. Dalle fughe di dati sull'IA e dall'IA ombra alle violazioni normative e alle minacce basate su plugin, le organizzazioni devono ripensare il modo in cui monitorano, governano e proteggono l'utilizzo dell'IA in tutta l'azienda. Per approfondire queste minacce in evoluzione e come affrontarle, leggi l'articolo completo su Rischi dell’intelligenza artificiale generativa.

Cosa sta guidando l'espansione della superficie di attacco dell'IA nelle aziende

La rapida ascesa dell'intelligenza artificiale generativa ha radicalmente rimodellato il panorama delle minacce aziendali. Quello che un tempo era un perimetro chiaramente definito è ora frammentato da una crescente costellazione di strumenti, plugin e flussi di lavoro basati sull'intelligenza artificiale. Queste tecnologie aumentano la produttività, ma espandono anche drasticamente la... Superficie di attacco dell'IA, introducendo nuovi punti ciechi nella sicurezza che le difese tradizionali non sono mai state progettate per gestire.

Esplosione di strumenti di intelligenza artificiale e app SaaS integrate con intelligenza artificiale

GenAI non è uguale a ChatGPT. In effetti, molto è cambiato da quando ChatGPT è stato rilasciato nel novembre 2022. Da allora, l'ecosistema GenAI si è evoluto a un ritmo senza precedenti. Nuovi modelli e strumenti basati sull'intelligenza artificiale emergono settimanalmente e mensilmente, ognuno dei quali offre più funzionalità e progressi rispetto al precedente. L'innovazione sta accelerando così rapidamente che, secondo Gartner, sta superando di gran lunga il ritmo di qualsiasi altra tecnologia. 

Le aziende stanno integrando l'intelligenza artificiale generativa a ogni livello dello stack. Dai copiloti di intelligenza artificiale integrati negli ambienti di sviluppo agli assistenti automatici nelle piattaforme CRM, il dipendente medio può ora interagire quotidianamente con più sistemi di intelligenza artificiale. I provider SaaS, da Notion e Slack a Salesforce e Microsoft 365, hanno tutti lanciato... Funzionalità integrate nell'intelligenza artificiale Progettato per migliorare l'efficienza del flusso di lavoro. Per gli utenti, i miglioramenti basati sull'intelligenza artificiale stanno diventando un'aspettativa standard piuttosto che un comodo componente aggiuntivo. La GenAI è diventata parte integrante del posto di lavoro. Ma queste stesse integrazioni spesso offrono un ampio accesso a dati interni, documenti, calendari e conversazioni.

Questa proliferazione di Strumenti di intelligenza artificiale SaaS significa che le organizzazioni devono ora proteggere un insieme diversificato di piattaforme esterne che assimilano informazioni sensibili spesso senza una registrazione coerente, controllo degli accessi o visibilità. Ogni nuova integrazione crea un potenziale vettore per Esposizione dei dati dell'IA, soprattutto quando le impostazioni predefinite danno priorità all'usabilità rispetto alla sicurezza.

I browser sono i nuovi spazi di lavoro dell'intelligenza artificiale

A differenza delle tradizionali applicazioni aziendali che operano come applicazioni desktop dedicate, la maggior parte delle interazioni GenAI avviene tramite browser web. La maggior parte degli strumenti di intelligenza artificiale come ChatGPT, Claude e Gemini sono accessibili tramite browser. Pur essendo pratico, questo modello basato su browser introduce funzionalità uniche. rischi dell'intelligenza artificiale del browser ad esempio Attacchi man-in-the-middle (MITM), Il furto di token o persino lo sfruttamento delle estensioni del browser diventano possibili se la sessione non è isolata correttamente.

Gli strumenti di sicurezza tradizionali, progettati per applicazioni aziendali legacy e ambienti controllati, non sono in grado di ispezionare o controllare le interazioni dell'IA nelle sessioni dinamiche del browser. Non sono in grado di distinguere tra input sicuri e non sicuri, utilizzo di account personali e aziendali, né di rilevare dati sensibili copiati e incollati nei prompt LLM. Ad esempio, gli utenti possono facilmente incollare dati finanziari aziendali sensibili in ChatGPT o caricare codice sorgente proprietario senza attivare avvisi di sicurezza. Questa mancanza di visibilità e controllo contestuali in tempo reale a livello di browser crea rischi significativi, costringendo le aziende a ripensare le proprie strategie di sicurezza in un ambiente di lavoro incentrato sull'IA.

Estensioni di produttività basate sull'intelligenza artificiale

Le estensioni del browser basate sull'intelligenza artificiale generativa, come i riassunti, gli assistenti alla scrittura o gli strumenti per prendere appunti durante le riunioni, spesso richiedono autorizzazioni eccessive. Tra queste, l'accesso al contenuto della pagina, ai cookie e talvolta alle sequenze di tasti. Molte sono create da sviluppatori terzi con una supervisione di sicurezza limitata o nulla.

Queste estensioni aprono la porta a Attacchi di iniezione di intelligenza artificiale, scraping silenzioso dei dati, o dirottamento della sessione, soprattutto se installati su endpoint non gestiti. Una volta installati, operano in modo silenzioso, interagendo con i dati degli utenti in tempo reale e trasmettendoli ad API esterne, spesso al di fuori della portata degli strumenti di sicurezza tradizionali.

Flussi di lavoro connessi alle API nel cloud

Negli ambienti cloud-native, le funzionalità di intelligenza artificiale sono sempre più integrate nei flussi di lavoro automatizzati tramite API. Gli sviluppatori possono integrare gli LLM in pipeline di CI/CD, flussi di servizio clienti o pipeline di elaborazione dati, spesso trasmettendo dati strutturati o non strutturati a modelli di intelligenza artificiale di terze parti per la sintesi, la traduzione o la classificazione.

Ciò crea un ambiente in gran parte invisibile Superficie di attacco dell'IA, dove i dati sensibili fluiscono da e verso i servizi di intelligenza artificiale senza essere adeguatamente scansionati o filtrati. Gli endpoint API possono anche essere sfruttati per iniettare input avversari, esfiltrare dati interni o eseguire exploit di sicurezza dell'intelligenza artificiale se non adeguatamente convalidati.

La sfida dell'osservabilità

Una delle principali sfide nel garantire la sicurezza di questo nuovo panorama guidato dall’intelligenza artificiale è la mancanza di osservabilità in tempo realeGli strumenti di sicurezza tradizionali non rilevano in modo nativo i prompt dell'IA, non tracciano l'utilizzo degli strumenti di IA né identificano il contesto dei flussi di dati all'interno delle sessioni del browser o delle interazioni API. Di conseguenza, le organizzazioni non sanno come, dove e quando i dati entrano o escono dal livello di IA. 

Per proteggersi dai moderni Rischi per la sicurezza dell'IALe organizzazioni hanno bisogno di visibilità su ogni interazione tra utenti e IA, che si tratti di una scheda del browser, di un'integrazione SaaS o di una chiamata API cloud. Senza monitoraggio, governance e applicazione continui, il livello di IA diventa un gateway non monitorato che può consentire la fuga, lo spostamento o lo sfruttamento di dati sensibili.

DLP basato su browser e progettazione di plugin non sicuri negli ecosistemi GenAI

Con l'accelerazione dell'adozione dell'intelligenza artificiale generativa da parte delle aziende, il browser è diventato un punto di accesso centrale in cui i dipendenti interagiscono con strumenti come ChatGPT, Microsoft Copilot e centinaia di estensioni basate sull'intelligenza artificiale. Ma con questo cambiamento si presenta l'urgente necessità di ripensare la tradizionale prevenzione della perdita di dati (DLP). DLP del browser sta emergendo come un livello di sicurezza essenziale per il monitoraggio e il controllo dell'utilizzo dell'intelligenza artificiale in ambienti che dipendono sempre più da estensioni di Chrome, app SaaS e plugin integrati nel web.

Perché la DLP a livello di browser è importante nell'era dell'intelligenza artificiale di generazione

A differenza delle applicazioni tradizionali, gli strumenti GenAI sono in gran parte basati sul web e spesso accessibili al di fuori delle piattaforme autorizzate. I dipendenti utilizzano spesso estensioni del browser o app web per generare codice, contenuti o insight. Questo utilizzo bypassa i tradizionali strumenti DLP che si concentrano su endpoint, e-mail o traffico di rete, creando Punti ciechi nella protezione dei dati dell'IA.

Le soluzioni DLP basate su browser colmano queste lacune ispezionando le interazioni degli utenti all'interno del browser in tempo reale. Ciò consente alle organizzazioni di rilevare quando dati sensibili come codice sorgente, record dei clienti o documenti finanziari vengono copiati, digitati o caricati in prompt di intelligenza artificiale. In combinazione con l'applicazione delle policy, ciò consente alle organizzazioni di bloccare, redigere o avvisare su comportamenti rischiosi prima che i dati vengano esposti.

Il rischio nascosto dei plugin e delle estensioni di intelligenza artificiale non sicuri

Estensioni del browser AI che abilitano o migliorano le funzionalità dell'IA sono particolarmente problematiche. Molte sono progettate con ampi permessi per accedere ai dati degli appunti, manipolare il contenuto delle pagine o intercettare gli input. Senza un'adeguata verifica, queste estensioni introducono perdita di dati basata su plugin e altri rischi di elevata gravità, quali:

• Dirottamento di sessione – I plugin dannosi possono raccogliere cookie di autenticazione, consentendo agli aggressori di accedere alle app SaaS o ai sistemi interni.
• Attacchi di iniezione di intelligenza artificiale – Le estensioni possono modificare gli input o le risposte dei prompt, inserendo comandi dannosi o alterando l'output in modi che passano inosservati.
• Esfiltrazione silenziosa dei dati – Alcuni plugin registrano le interazioni degli utenti o i contenuti dei prompt e li inviano a server di terze parti senza che l'utente ne sia a conoscenza.

Il rischio non è ipotetico. Nel 2023, una popolare estensione ChatGPT con oltre 10,000 installazioni è stata scoperta mentre rubava token di sessione di Facebook, dimostrando come Rischi di estensione dell'intelligenza artificiale genica possono degenerare in veri e propri incidenti di sicurezza.

Perdita di dati tra plugin

I plugin del browser basati sull'intelligenza artificiale spesso richiedono ampie autorizzazioni per accedere al contenuto della pagina, ai campi di input, agli appunti o ai processi in background. Quando più estensioni vengono eseguite nello stesso browser, queste autorizzazioni possono sovrapporsi, creando percorsi non intenzionali per l'esposizione dei dati.

Ad esempio, un assistente di scrittura potrebbe elaborare gli input dei documenti mentre un plugin separato accede allo stesso DOM o allo stesso archivio locale. Senza un rigoroso isolamento dei dati, contenuti sensibili possono fluire involontariamente tra i plugin anche quando nessuno dei due è maligno. 

Questo rischio aumenta con i processi in background e le API condivise, dove un plugin potrebbe fungere da ponte per sottrarre dati da un altro. Pertanto, la coesistenza di estensioni GenAI confonde i confini dei dati, rendendo essenziali l'isolamento dei plugin e la DLP basata su browser.

Limitazioni degli App Store del browser

Gli store di estensioni di Chrome ed Edge danno priorità all'accesso dei consumatori, non alla sicurezza aziendale. Non dispongono di controlli approfonditi delle autorizzazioni, standard di sviluppo sicuri e monitoraggio post-pubblicazione. Questo consente plugin GenAI dannosi o eccessivamente permissivi rimanere attivi finché non vengono segnalati da utenti o ricercatori. Molti sono realizzati da sviluppatori sconosciuti con pratiche di gestione dei dati poco trasparenti, ma ottengono comunque accesso a flussi di lavoro critici. Gli app store dei browser non sono un gatekeeper affidabile. Le aziende devono pre-veterinario, controllo e monitoraggio Plugin di intelligenza artificiale stessi.

Applicare i principi Zero Trust alle estensioni AI

Applicando a Zero Trust L'approccio corretto alle estensioni del browser è essenziale, soprattutto in ambienti con un uso intensivo della GenAI. Proprio come le aziende esaminano attentamente app, utenti e dispositivi, i plugin devono essere trattati come non attendibili per impostazione predefinita.

Questo significa:

• Convalida dell'autenticità dell'editore prima dell'installazione
• Controllo degli ambiti di autorizzazione per evitare eccessi (ad esempio, appunti, DOM, accesso in background)
• Monitoraggio continuo del comportamento del plugin, anche dopo l'approvazione

Nei flussi di lavoro GenAI, in cui i plugin accedono spesso a input di testo sensibili, questo approccio aiuta a prevenire l'esfiltrazione silenziosa di dati e l'abuso di privilegi. Nessun plugin dovrebbe essere considerato implicitamente attendibile dalle aziende. Al contrario, devono trattarli come un potenziale rischio e applicarli. accesso con privilegi minimi e identità verificataQuesto approccio di sicurezza a più livelli garantisce che le aziende possano sfruttare i vantaggi di produttività offerti da GenAI senza esporsi a compromessi basati su plugin o trasferimenti di dati non autorizzati.

Perché la governance dell'intelligenza artificiale è fondamentale per la sicurezza

Con l'integrazione degli strumenti di intelligenza artificiale generativa nei flussi di lavoro aziendali quotidiani, la sfida per i responsabili della sicurezza non è più se consentire l'intelligenza artificiale, ma come controllarla in modo responsabile. È qui che entra in gioco Governance dell'IA diventa centrale per la sicurezza aziendale e fornisce il quadro per garantire utilizzo sicuro dell'IA, bilanciando l'innovazione con la gestione del rischio e consentendo la produttività senza compromettere l'integrità dei dati, la conformità o la fiducia.

In sostanza, la governance dell'IA allinea i team di sicurezza, legali e di conformità attorno a un approccio condiviso Politica dell'IA che fornisce un quadro strategico e operativo necessario per controllare le modalità di accesso, utilizzo e monitoraggio degli strumenti di intelligenza artificiale, garantendo la prontezza aziendale man mano che l'adozione dell'intelligenza artificiale si diffonde. Il quadro deve includere: 

1. Creazione di policy per l'utilizzo dell'intelligenza artificiale

Una governance efficace dell’IA inizia con una chiara Politica di utilizzo dell'IA che definisce quali strumenti sono approvati, quali dati possono essere utilizzati e dove l'IA è appropriata o limitata. Elimina ambiguità, allinea le parti interessate e getta le basi per un'adozione dell'IA sicura e conforme in tutti i team.

2. Accesso basato sui ruoli agli strumenti di intelligenza artificiale

I controlli di accesso basati sui ruoli (RBAC) garantiscono che i dipendenti utilizzino solo strumenti di intelligenza artificiale appropriati al loro ruolo, favorendo la produttività e proteggendo al contempo i dati sensibili. Si basano sul principio che non tutti i dipendenti necessitano o dovrebbero avere accesso alle stesse funzionalità di intelligenza artificiale o agli stessi set di dati per il proprio ambito di lavoro. Sviluppatori, addetti al marketing e team legali, ecc., ottengono ciascuno un accesso personalizzato, riducendo i rischi e prevenendo l'uso improprio. Questi controlli prevengono l'uso improprio accidentale, supportando al contempo le legittime esigenze di produttività in base alla funzione aziendale e al profilo di rischio.

3. Approvazioni di utilizzo e gestione delle eccezioni

I framework di governance dell'IA dovrebbero includere anche flussi di lavoro per la gestione delle eccezioni e dei casi d'uso speciali. Se un dipendente o un team necessita di accedere a uno strumento o a un caso d'uso di IA con restrizioni:

• Dovrebbero presentare una richiesta formale.
• La richiesta dovrebbe essere sottoposta a un processo di revisione del rischio che coinvolga le parti interessate alla sicurezza o alla conformità.
• L'accesso temporaneo può essere concesso nel rispetto di specifiche misure di sicurezza, come un monitoraggio aggiuntivo o una revisione manuale dei risultati.

Questo sistema di approvazioni di utilizzo e gestione delle eccezioni garantisce flessibilità senza sacrificare la supervisione.

4. Registrazione centralizzata e revisione delle interazioni dell'IA

La governance non consiste solo nel definire cosa è consentito, ma anche nel garantire visibilità su ciò che sta realmente accadendo. Registrazione centralizzata delle interazioni degli strumenti di intelligenza artificiale garantisce la verificabilità richiesta sia per la responsabilità interna che per la conformità esterna.

Ciò include la registrazione della cronologia delle richieste e delle risposte, l'acquisizione di metadati come ID utente, tempo di sessione e contesto del browser, ecc. Questi record aiutano a rilevare usi impropri, indagare sugli incidenti e perfezionare le policy nel tempo.

5. Monitoraggio delle violazioni delle policy o dei comportamenti anomali

Per chiudere il cerchio tra policy e protezione, la governance dell'IA deve essere abbinata al monitoraggio in tempo reale. I team di sicurezza necessitano di sistemi in grado di:

• Rileva i prompt contenenti dati riservati (ad esempio parole chiave, modelli regex).
• Segnala o blocca l'utilizzo non autorizzato di strumenti di intelligenza artificiale nel browser o sui dispositivi non gestiti.
• identifica comportamento anomalo, come ad esempio una frequenza eccessiva dei prompt, tempi di accesso insoliti o attività impreviste dei plugin.

Grazie al monitoraggio continuo delle violazioni delle policy, la governance si trasforma da un documento statico in un livello di sicurezza attivo e adattivo.

Adattare la governance a un panorama di intelligenza artificiale in rapida evoluzione

I framework di governance esistenti, come ISO/IEC 42001 (Sistemi di gestione dell'intelligenza artificiale) e l'AI Risk Management Framework del NIST, forniscono utili punti di partenza, ma devono essere adattati per tenere conto del ritmo e del comportamento specifici degli strumenti GenAI. Questi strumenti non funzionano come i software tradizionali; si evolvono in tempo reale, elaborano input imprevedibili e sono spesso utilizzati tramite interfacce di tipo consumer.

Pertanto, la governance dell'IA deve essere iterativa e dinamica. Dovrebbe essere rivista frequentemente, riflettere modelli di utilizzo reali ed evolversi parallelamente alle capacità dell'IA e all'intelligence sulle minacce. 

Governance: il ponte tra abilitazione e protezione

In sintesi, la governance dell'IA è il tessuto connettivo tra l'abilitazione responsabile dell'IA e la protezione di livello aziendale. Garantisce che gli strumenti di IA non siano solo consentiti, ma anche utilizzati in modo sicuro, etico e nel pieno rispetto dei mandati interni ed esterni. Senza una struttura di governance formale, le aziende si trovano ad affrontare un ambiente frammentato in cui i dipendenti sperimentano liberamente ChatGPT, Copilot e altri strumenti, spesso incollando dati sensibili in modelli pubblici o utilizzando plugin non verificati. Questo apre la porta a violazioni della conformità, fughe di dati e processi decisionali di IA non monitorati che potrebbero avere un impatto sulle operazioni o sulla legittimità. Pertanto, con la continua evoluzione della GenAI, la governance deve rimanere flessibile, applicabile e profondamente integrata nell'architettura di sicurezza più ampia dell'organizzazione.

Migliori pratiche per la sicurezza GenAI

• Mappare tutto l'utilizzo dell'IA nell'organizzazione

Il primo passo nella gestione del rischio GenAI è mappare come viene utilizzato in tutta l'azienda. Nell'ambito di questo processo di mappatura, le organizzazioni devono monitorare:

• Quali strumenti GenAI sono in uso? Sono accessibili tramite app web, estensioni del browser o software autonomo?
• Chi li usa? Lavorano nei reparti di ricerca e sviluppo, marketing, finanza o altri?
• A cosa serve GenAI? Attività come revisioni del codice, analisi dei dati e generazione di contenuti?
• Che tipo di dati vengono immessi in questi strumenti?  I dipendenti espongono codice, dati aziendali sensibili o informazioni personali identificabili?

Una volta ottenute le risposte a queste domande, è possibile iniziare a creare un profilo di utilizzo chiaro, individuare le aree ad alto rischio e creare un piano che consenta la produttività garantendo al contempo la protezione dei dati.

• Implementare l'accesso basato sui ruoli e impedire gli account personali

APPLICA controlli di accesso basati sui ruoli Per limitare l'esposizione in base alla funzione lavorativa e al rischio di sensibilità dei dati. Gli sviluppatori potrebbero aver bisogno di accedere ad assistenti di programmazione basati sull'intelligenza artificiale, mentre i team legali o finanziari potrebbero richiedere restrizioni dovute alla gestione di dati sensibili. Utilizzare flussi di lavoro di approvazione per le eccezioni, consentendo flessibilità sotto la supervisione della governance. 

Per impedire l'accesso alle informazioni sensibili da parte di tenant LLM non protetti, le organizzazioni dovrebbero bloccare gli accessi personali e imporre l'accesso tramite account aziendali dotati di funzionalità di sicurezza quali tenant privati, impegni di formazione pari a zero, rigorosi controlli di conservazione dei dati e maggiori garanzie sulla privacy.

• Distribuisci DLP AI a livello di browser

Gli strumenti di intelligenza artificiale generativa sono prevalentemente accessibili tramite il browser, rendendo AI DLP a livello di browser, un punto di controllo critico. Gli strumenti di prevenzione della perdita di dati basati sul browser possono:

• Rileva quando vengono immessi dati sensibili nei prompt dell'IA
• Bloccare o redigere le informazioni regolamentate in tempo reale
• Fornire interazioni di registro per la conformità e la prontezza di audit

I controlli DLP basati sul browser sono essenziali per monitorare l'utilizzo dell'intelligenza artificiale che bypassa gli strumenti tradizionali di sicurezza di endpoint o di rete.

• Monitoraggio e controllo delle estensioni AI

Le estensioni del browser basate sull'intelligenza artificiale introducono rischi tramite un accesso eccessivamente permissivo a pagine web, sequenze di tasti e dati di sessione. Applica policy di controllo delle estensioni basate sull'intelligenza artificiale che:

• Limita l'installazione di plugin non approvati o sconosciuti
• Controlla le estensioni in uso e valuta le relative autorizzazioni
• Blocca le estensioni con accesso eccessivo alle applicazioni aziendali

Esaminare costantemente il comportamento del plugin per rilevare attività anomale o acquisizioni silenziose di dati.

• Formare i dipendenti sull'uso sicuro dell'intelligenza artificiale

I programmi di sensibilizzazione sulla sicurezza nelle aziende devono includere anche corsi di formazione per un utilizzo sicuro della GenAI. Le organizzazioni devono formare i dipendenti a:

• Riconoscere quali dati non dovrebbero mai essere condivisi con gli strumenti di intelligenza artificiale.
• Utilizzare piattaforme approvate e seguire le linee guida della policy.
• Segnalare sospetti usi impropri o strumenti non autorizzati.

Rendere la sicurezza dell'IA parte dei cicli di formazione regolari per rafforzare un comportamento responsabile man mano che gli strumenti di IA si evolvono.

Impatti reali della scarsa sicurezza GenAI

Sebbene strumenti di GenAI come ChatGPT possano accelerare la produttività, il loro uso improprio o l'implementazione non protetta hanno già portato a violazioni significative, violazioni della conformità e danni alla reputazione. Una governance debole dell'IA, estensioni eccessivamente permissive e l'uso non autorizzato di strumenti si sono dimostrati fattori determinanti per le falle di sicurezza nel mondo reale, sottolineando perché la gestione del rischio di GenAI non sia più un'opzione.

1. Esposizione del codice sorgente presso Samsung

All'inizio del 2023, Samsung ha fatto notizia dopo che alcuni ingegneri hanno incollato codice sorgente proprietario in ChatGPT per correggere gli errori. Sebbene l'intento fosse quello di migliorare la produttività, l'impatto è stato immediato: codice altamente riservato è stato potenzialmente esposto ai modelli e ai sistemi di archiviazione di OpenAI. Questo incidente ha innescato un divieto interno di ChatGPT e ha portato a un audit aziendale sull'utilizzo degli strumenti di intelligenza artificiale.

Takeaway: Anche un utilizzo ben intenzionato della GenAI può portare a una perdita irreversibile di dati se non vengono definiti e applicati limiti di utilizzo adeguati.

2. L'uso improprio di ChatGPT porta a un'indagine di conformità presso DWS Group

DWS Group, una filiale di Deutsche Bank specializzata nella gestione patrimoniale, è stata oggetto di indagine dopo che i suoi dipendenti hanno utilizzato ChatGPT per la ricerca sugli investimenti e la comunicazione con i clienti. Le autorità di regolamentazione hanno segnalato l'accaduto come una violazione della conformità, sottolineando che gli istituti finanziari devono verificare gli strumenti di intelligenza artificiale e garantire che i risultati soddisfino gli standard normativi in materia di accuratezza e gestione dei dati.

Impatto: Controllo normativo, rischio reputazionale, inasprimento delle politiche di conformità.

3. Teleperformance – Preoccupazioni sulla privacy dei dati relativi agli strumenti di monitoraggio dell'intelligenza artificiale

Teleperformance, fornitore globale di servizi di assistenza clienti, è stata sottoposta a controlli per l'utilizzo di strumenti di sorveglianza basati sull'intelligenza artificiale per monitorare i dipendenti da casa. È stato scoperto che gli strumenti acquisivano dati personali e sensibili, inclusi filmati video, senza il consenso dell'utente o senza adeguate misure di sicurezza. Le autorità di regolamentazione della protezione dei dati hanno sollevato... Uso improprio dell’IA e preoccupazioni etiche.

Impatto: Reazioni negative da parte dell'opinione pubblica, verifiche sulla protezione dei dati e cambiamenti operativi nell'implementazione degli strumenti di intelligenza artificiale.

4. L'allucinazione dell'intelligenza artificiale comporta rischi legali

Una società di consulenza internazionale ha dovuto affrontare un danno reputazionale quando uno strumento di intelligenza artificiale generativa utilizzato per la ricerca interna ha restituito informazioni inaccurate in un documento destinato al cliente. Il contenuto allucinatorio, presentato come se fosse reale, ha danneggiato il rapporto con il cliente e causato la perdita di un contratto.

Takeaway: L'impatto dell'intelligenza artificiale generativa va oltre la sicurezza, poiché gli strumenti che generano output errati o fuorvianti possono causare danni alla reputazione, operativi e legali se utilizzati senza un'adeguata revisione.

5. Aumento del carico di lavoro IT dovuto alla proliferazione degli strumenti di intelligenza artificiale ombra

In assenza di controlli centralizzati, i dipendenti spesso adottano strumenti e plugin di intelligenza artificiale non autorizzati per aumentare la produttività. Questa proliferazione di risorse sovraccarica i team IT di compiti di monitoraggio, valutazione e mitigazione dei rischi sconosciuti.

Esempio: Un'azienda Fortune 500 ha scoperto oltre 40 strumenti di intelligenza artificiale non approvati, utilizzati attivamente nei vari dipartimenti, ognuno con diversi livelli di accesso e pratiche di gestione dei dati poco chiare.

Impatto: Aumento dei costi IT, panorama dei rischi frammentato, urgente necessità di governance.

6. Incidenti di sicurezza tramite estensioni o plugin dannosi

Le estensioni del browser GenAI possono introdurre rischi di iniezione di intelligenza artificiale, accesso silenzioso ai dati o dirottamento di sessione, soprattutto quando sono eccessivamente permissive o non verificate dai team di sicurezza.

Esempio: È stata scoperta un'estensione ChatGPT sul Chrome Web Store che ruba i cookie di sessione di Facebook, garantendo agli aggressori l'accesso completo all'account.

Impatto: Acquisizioni di account, violazioni a livello di browser, erosione della fiducia degli utenti.

Senza una solida sicurezza e governance GenAI, le aziende rischiano ben più delle semplici vulnerabilità tecniche. Devono affrontare conseguenze legali, reputazionali e operative. Affrontare proattivamente questi rischi con controlli a livello di utilizzo, DLP e governance basata sui ruoli è essenziale per consentire un'adozione sicura e produttiva dell'IA.

Come LayerX protegge l'uso di GenAI

Con l'adozione da parte delle aziende degli strumenti GenAI, la sfida di proteggere i dati sensibili da esposizioni indesiderate diventa urgente. Gli strumenti di sicurezza tradizionali non sono stati progettati per la natura dinamica e basata su browser delle interazioni GenAI. È qui che entra in gioco LayerX, offrendo difese specifiche e native per il browser che forniscono visibilità, controllo e protezione in tempo reale contro perdite di dati involontarie senza compromettere la produttività.

• DLP del browser in tempo reale per prompt AI

Il cuore della soluzione LayerX è la sua funzionalità DLP (Data Loss Prevention). A differenza dei tradizionali strumenti DLP che operano a livello di rete o endpoint, LayerX si integra direttamente nel browser, l'interfaccia principale per strumenti di intelligenza artificiale come ChatGPT. Questo gli consente di ispezionare e controllare l'input dell'utente in tempo reale, prima che i dati escano dal perimetro aziendale. LayerX rileva dati sensibili come informazioni personali (PII), codice sorgente, dettagli finanziari o documenti riservati quando gli utenti tentano di incollarli o digitarli in ChatGPT. Quindi applica azioni basate su policy, come la redazione, la visualizzazione di avvisi o il blocco totale.

Risultato: I dati sensibili vengono bloccati alla fonte, impedendo l'esposizione accidentale o non autorizzata senza interrompere il flusso di lavoro dell'utente.

• Monitoraggio dell'intelligenza artificiale generativa e visibilità dell'intelligenza artificiale ombra

LayerX offre piena visibilità su tutti gli strumenti GenAI, i siti web e le app SaaS a cui accedono gli utenti, siano essi autorizzati o meno. Monitorando costantemente l'attività del browser, identifica chi utilizza quali strumenti di intelligenza artificiale e tramite quali account: aziendali, SSO o personali. Rileva inoltre il tipo di dati immessi, che si tratti di scrivere prompt, incollare dati dei clienti o caricare file sensibili. 

Risultato: Ciò consente ai team di sicurezza di rilevare l'uso non autorizzato, eliminare l'intelligenza artificiale ombra, monitorare le interazioni con dati sensibili, identificare comportamenti ad alto rischio e adottare misure correttive prima che si verifichi un incidente sui dati.

• Applicazione di policy granulari e contestuali

Con LayerX, le aziende possono definire policy basate sul contesto, personalizzate per i casi d'uso dell'IA. Le policy possono essere applicate a livello di browser in base al ruolo dell'utente, al contesto dell'app, al tipo di dati e agli attributi della sessione. Ad esempio, le policy possono consentire ai team di marketing di utilizzare ChatGPT per la generazione di contenuti, bloccando al contempo l'invio di dati dei clienti o documenti interni. Agli sviluppatori può essere consentito di testare frammenti di codice, ma non di condividere repository di codice sorgente. LayerX applica azioni basate su policy, come la redazione, la visualizzazione di messaggi di avviso per avvisare gli utenti quando stanno per violare una policy o il blocco totale.

Risultato: Abilitazione dell'intelligenza artificiale e protezione dell'intelligenza artificiale aziendale, per garantire un utilizzo responsabile senza limitare l'innovazione.

• Governance dei plugin e delle estensioni

LayerX protegge anche dalle interazioni rischiose con i plugin di intelligenza artificiale, che possono esfiltrare silenziosamente contenuti di prompt verso API di terze parti. Identifica e categorizza le estensioni e i plugin del browser basati su intelligenza artificiale in base al livello di rischio, alla fonte e alla funzionalità. Inoltre, monitora e regola il comportamento dei plugin, offrendo agli amministratori la possibilità di approvarli, bloccarli o limitarli in base alle proprie pratiche di gestione dei dati. 

Risultato: Le aziende riducono la loro esposizione alle vulnerabilità basate sui plugin e impongono una governance dei dati AI più solida in tutta l'organizzazione.

Conclusione: abilitare un'intelligenza artificiale sicura e scalabile in tutta l'azienda con LayerX

L'intelligenza artificiale generativa è qui per restare e sta rimodellando il modo in cui il lavoro viene svolto in ogni organizzazione. Tuttavia, senza le giuste misure di sicurezza, strumenti di intelligenza artificiale generativa come ChatGPT possono rapidamente trasformarsi da strumenti di aumento della produttività a rischi di perdita di dati. LayerX consente alle aziende di adottare l'intelligenza artificiale con sicurezza, con la visibilità, il controllo e la protezione necessari per mantenere i dati sensibili al sicuro, conformi alle normative di utilizzo e con il rischio sotto controllo. Che si tratti di contrastare l'intelligenza artificiale ombra, applicare policy di utilizzo dell'intelligenza artificiale o prevenire perdite di dati in tempo reale, LayerX offre le basi di sicurezza per un'adozione dell'intelligenza artificiale sicura e scalabile. 

Non lasciare che l'innovazione dell'intelligenza artificiale superi la tua strategia di sicurezza. Adotta LayerX oggi stesso e trasforma l'intelligenza artificiale da un rischio a un vantaggio competitivo.

Richiedi una demo per vedere LayerX in azione.