Generativni AI DLP odnosi se na kategoriju sigurnosnog rizika koji nastaje kada zaposlenici poduzeća, AI agenti ili automatizirani tijekovi rada komuniciraju s AI alatima, SaaS aplikacijama i web uslugama putem preglednika. Većina tih interakcija je nevidljiva tradicionalnim sigurnosnim kontrolama koje djeluju na mrežnom i krajnjem sloju. Sesija preglednika je mjesto gdje se rizik izvršava i gdje se mora dogoditi provedba.
Sve ostalo je uzvodno od problema.
Što je generativni AI DlP i zašto je važan za sigurnost poduzeća?
Generativno AI DLP nalazi se na presjeku usvajanja AI i sigurnosti poduzeća. Kako organizacije implementiraju ChatGPT, Microsoft Copilot, Claude i stotine SaaS alata ugrađenih u AI, pojavljuje se nova klasa rizika u trenutku kada zaposlenici komuniciraju s tim alatima.
Tradicionalni sigurnosni okviri dizajnirani su za drugačiji svijet. Mrežne kontrole vide vezu. Krajnji agenti vide proces. Niti jedno ni drugo ne vide što se događa unutar sesije preglednika kada programer zalijepi interni API ključ u GitHub Copilot ili prodajni predstavnik prenese popis potencijalnih klijenata u ChatGPT kako bi sastavio nacrt za kontakt. Ta slijepa točka je ključni problem. I to nije nišni rubni slučaj – to je mjesto gdje se zapravo nalazi većina rizika umjetne inteligencije u poduzeću.
Prema istraživanju LayerX-a, 45% zaposlenika u poduzećima aktivno koristi alate umjetne inteligencije. Sigurnosni timovi koji se nisu pozabavili ovim slojem upravljaju rizikom umjetne inteligencije alatima koji ne mogu vidjeti interakcije kojima pokušavaju upravljati.
Kako generativni AI DLP utječe na organizacije koje koriste AI alate poput ChatGPT-a i Microsoft Copilota?
ChatGPT, Microsoft Copilot i Gemini sada su standardni alati za radnike znanja u pravnim, financijskim, inženjerskim i operativnim područjima. Svaka interakcija stvara potencijalnu izloženost.
77% zaposlenika lijepi podatke u GenAI upite. Podaci koji teku kroz te interakcije uključuju izvorni kod, zapise o kupcima, financijske projekcije i osobne podatke. Premještaju se kao normalan HTTPS promet prema odobrenim domenama. Mrežni DLP vidi odobrenu vezu. Endpoint DLP vidi preglednik kao jedan proces. Niti jedno ne vidi podatke u pokretu unutar sesije.
To je ta praznina.
Implikacije na usklađenost su izravne. Sigurnosni tim koji ne može vidjeti što zaposlenici šalju Copilotu ne može revizoru dokazati kontrolu nad tim podatkovnim kanalom. Politika bez tehničke provedbe nije kontrola. To je obveza koja čeka da bude dokumentirana u izvješću o kršenju.
Koje su najčešće prijetnje generativne umjetne inteligencije s kojima se sigurnosni timovi danas suočavaju?
Tri obrasca prijetnji se ponavljaju u poslovnim okruženjima.
Eksfiltracija podataka putem AI upita. Zaposlenici ubacuju osjetljive podatke u AI alate bez namjere da ih ukradu. Učinak je isti: vlasnički podaci napuštaju organizaciju putem kanala koji sigurnosni paket ne može pratiti. 89% AI prijava zaobilazi nadzor poduzeća.
Hitna injekcija. Protivnici ugrađuju zlonamjerne upute u dokumente, web stranice ili e-poruke koje čitaju alati umjetne inteligencije. Model slijedi ubrizgane upute, a ne namjeru korisnika. U poslovnim okruženjima koja koriste istraživanje ili alate za e-poštu potpomognute umjetnom inteligencijom, ovo ne zahtijeva poseban pristup.
Umjetna inteligencija u sjeni i neovlašteni računi. 50% aktivnosti lijepljenja u GenAI uključuje korporativne podatke. Pravila upravljanja napisana za korporativne račune ne pokrivaju slučajeve kada zaposlenici koriste osobne ChatGPT, osobne Grammarly ili osobne Copilot račune na korporativnim uređajima.
Gdje se generativni AI DLP rizici izvršavaju u poslovnom okruženju?
Odgovor kojem se većina sigurnosnih timova opire je najjednostavniji: unutar sesije preglednika.
Mrežni alati nalaze se izvan sesije. Oni vide metapodatke prometa, a ne sadržaj. Alati za krajnje točke tretiraju preglednik kao jedan proces. Oni vide aktivnost datotečnog sustava, a ne ono što korisnik upisuje u tekstualno polje. Alati za identifikaciju potvrđuju autentifikaciju. Oni ne vide što se događa u autentificiranoj sesiji.
Svaki veći generativni scenarij rizika AI DLP-a odvija se u ovom jazu. Prodajni predstavnik koji je kopirao CRM izvoz u ChatGPT kako bi napisao e-poruku za praćenje? To se dogodilo u pregledniku. Inženjer koji je zalijepio proizvodne vjerodajnice u Copilot za otklanjanje pogrešaka u skripti? Preglednik. Financijski analitičar koji je prenio projekcije za treći kvartal kako bi ih sažeo prije sastanka odbora? Također preglednik.
Sesija preglednika nije samo jedna od mnogih površina za napad. Za većinu stručnjaka koji rade sa znanjem, ona je primarno radno okruženje. Za poslovne rizike povezane s umjetnom inteligencijom, ona je primarna. Sigurnost proširenja preglednika dodatno pogoršava ovo: proširenja nose vlastite rizike od dopuštenja i izloženosti podacima koji se u potpunosti nalaze unutar sloja preglednika.
Kako sigurnosni timovi izrađuju generativni AI DLP program koji zapravo funkcionira?
Pravi generativni AI DLP program započinje s vidljivošću. Sigurnosni timovi ne mogu upravljati onim što ne mogu vidjeti. To znači praćenje interakcija AI alata na razini sesije, a ne samo zapisivanje veza s AI domenama na razini mreže.
Od vidljivosti, sljedeći korak je klasifikacija. Nisu svi podaci poslani alatima umjetne inteligencije isti rizik. Izvorni kod razlikuje se od javne objave na blogu. Osobni podaci korisnika razlikuju se od općeg istraživačkog upita. Klasifikacija omogućuje sigurnosnim timovima primjenu postupne provedbe umjesto binarnih odluka o dopuštanju/blokiranju koje korisnici zaobilaze.
Opcije provedbe trebale bi odražavati način na koji organizacija zapravo koristi umjetnu inteligenciju. Praćenje samo za interakcije niskog rizika. Upozorenja za korisnike s obrazloženjem za podneske srednjeg rizika. Automatsko redigiranje ili blokiranje za obrasce podataka visokog rizika. Cilj je besprijekorna provedba za 95% interakcija koje su benigne i precizna intervencija za 5% koje to nisu.
Kontrole korištenja umjetne inteligencije pružiti sloj pravila koji omogućuje dosljednu provedbu na svim alatima, korisnicima i uređajima, uključujući neupravljane uređaje do kojih tradicionalni agenti ne mogu doći.
Kako provedba na razini preglednika rješava izazove generativne umjetne inteligencije (AI DLP)?
Većina generativnih AI DLP prijetnji izvršava se unutar sesije preglednika. Njihovo rješavanje zahtijeva provedbu na tom sloju, a ne iznad ili ispod njega.
LayerX funkcionira kao proširenje preglednika za poduzeća, pružajući vidljivost u stvarnom vremenu i kontrolu nad interakcijama AI alata na razini sesije. Prati što zaposlenici lijepe u ChatGPT, Copilot i Gemini. Kada se sadržaj podudara s klasifikatorima osjetljivih podataka ili obrascima ponašanja, LayerX može upozoriti korisnika, urediti osjetljivi element ili u potpunosti spriječiti slanje, bez blokiranja pristupa AI alatu.
Za shadow AI, LayerX omogućuje kontinuirano otkrivanje svake AI aplikacije koja se koristi u cijeloj organizaciji, uključujući alate koje IT nikada nije odobrio i osobne račune koji se koriste za pristup odobrenim alatima. Sigurnosni timovi mogu točno vidjeti koji se alati izvode, tko ih koristi i koji podaci teku kroz svaku sesiju.
Za agentsku umjetnu inteligenciju, LayerX je jedina sigurnosna platforma s vidljivošću i provedbom preko agentskih AI preglednika, uključujući ChatGPT Atlas, Perplexity Comet i Dia.
Što generativni AI DLP znači za upravljanje i usklađenost s AI-jem?
Regulacija se mijenja. Polako, ali se mijenja. Zakon EU o umjetnoj inteligenciji, NIST AI RMF i ISO 42001 bave se upravljanjem rizicima umjetne inteligencije na razini politike. MITRE ATLAS pruža tehničku taksonomiju koja mapira specifične tehnike napada umjetne inteligencije na konkretne kontrole.
Upravni odbori počinju postavljati konkretna pitanja. Možete li pokazati koji podaci teku kroz vaše AI alate, koje kontrole upravljaju tim tokom i što se događa kada se prekrši neka politika? Timovi bez uvida u AI interakcije na razini sesije ne mogu odgovoriti na ta pitanja dokazima.
Smjer je dosljedan u svim okvirima. Upravljanje umjetnom inteligencijom prelazi s politike na tehničku provedbu. Sigurnosni timovi koji grade Sigurnost GenAI-a Programi sada, utemeljeni na vidljivosti na razini sesije, bit će pozicionirani ispred zahtjeva koji se još uvijek finaliziraju.
Za više informacija o tome kako LayerX rješava ovo, pogledajte Sprječavanje zlouporabe umjetne inteligencijeZa više informacija o tome kako LayerX rješava ovaj problem, pogledajte sigurnost proširenja preglednika.
Često postavljana pitanja
Primjenjuje li se generativni AI DLP na AI alate temeljene na pregledniku?
Za sigurnosne timove poduzeća, ovo pitanje se svodi na vidljivost na razini sesije. Tradicionalne mrežne i krajnje kontrole ne mogu vidjeti interakcije unutar alata umjetne inteligencije temeljenih na pregledniku. Provedba na razini preglednika, kao što je LayerX-ovo proširenje za Enterprise Browser, rješava ovaj nedostatak praćenjem i provođenjem pravila na točnoj točki gdje se interakcija događa.
Koji alati pomažu s generativnim AI DLP-om u poslovnim okruženjima?
Za sigurnosne timove poduzeća, ovo pitanje se svodi na vidljivost na razini sesije. Tradicionalne mrežne i krajnje kontrole ne mogu vidjeti interakcije unutar alata umjetne inteligencije temeljenih na pregledniku. Provedba na razini preglednika, kao što je LayerX-ovo proširenje za Enterprise Browser, rješava ovaj nedostatak praćenjem i provođenjem pravila na točnoj točki gdje se interakcija događa.
Kakav je odnos generativnog AI DLP-a prema AI DLP?
Za sigurnosne timove poduzeća, ovo pitanje se svodi na vidljivost na razini sesije. Tradicionalne mrežne i krajnje kontrole ne mogu vidjeti interakcije unutar alata umjetne inteligencije temeljenih na pregledniku. Provedba na razini preglednika, kao što je LayerX-ovo proširenje za Enterprise Browser, rješava ovaj nedostatak praćenjem i provođenjem pravila na točnoj točki gdje se interakcija događa.
