DeepSeek se pojavio kao moćna i popularna generativna AI aplikacija, potičući inovacije, a istovremeno izazivajući zabrinutost za sigurnost i privatnost. Ovaj članak istražuje povezane sigurnosne rizike, utjecaj na poduzeća i strategije organizacije mogu usvojiti kako bi ublažile prijetnje i osigurale sigurnu, produktivnu i odgovornu upotrebu.
Što je DeepSeek i zašto izaziva sigurnosne probleme?
DeepSeek je popularna GenAI aplikacija i LLM pokrenuta u siječnju 2025. od strane kineske tvrtke, koja se također zove DeepSeek. (Za razliku od aplikacije ChatGPT, koju je objavila tvrtka OpenAI). Slično ChatGPT-u, DeepSeek GenAI aplikacija funkcionira kao chatbot i nudi sadržaj korisnicima koji je zadaju prirodnim jezikom.
DeepSeek je privukao značajnu pozornost javnosti jer je postigao napredne tehnološke mogućnosti, slične onima koje nude ChatGPT, Gemini, Claude i druge popularne GenAI aplikacije. Međutim, to je učinio uz znatno niže troškove obuke i koristeći otprilike jednu desetinu računalne snage. To značajno narušava konkurentski krajolik GenAI-a i ima i makropolitičke posljedice.
Slično kao i druge GenAI aplikacije, DeepSeek stvara sigurnosne rizike u organizacijama. To uključuje potrebu da se osigura da zaposlenici ne otkrivaju osjetljive podatke, da se osigura da DeepSeek izlazi (poput isječaka koda) ne sadrže ranjivosti ili zlonamjerni softver te da se osigura sigurna implementacija ako se model implementira lokalno.
Osim toga, DeepSeekova politika „Open Weight“ (za razliku od „otvorenog koda“, za koji se DeepSeek često brka), znači da organizacije moraju osigurati da je svaka implementirana upotreba parametara u njihovim okruženjima također sigurna.
U ovom ćemo se članku usredotočiti na ključne rizike s kojima se suočavaju poduzeća, a koji se odnose na sigurnost podataka i nenamjerno i neželjeno izlaganje osjetljivih podataka DeepSeel aplikaciji.
Ključni rizici privatnosti i sigurnosti DeepSeeka
DeepSeek, kao i mnogi drugi GenAI modeli, predstavlja značajne sigurnosne i privatnosne izazove za poduzeća. Iako njegova tehnološka priroda potiče inovacije i dostupnost, također unosi značajne rizike kada je u kontaktu s osjetljivim informacijama. U nastavku istražujemo glavne ranjivosti i rizike privatnosti DeepSeeka te njihov utjecaj na poduzeća.
1. Izvlačenje podataka
Kada zaposlenici lijepe ili upisuju korporativne podatke u DeepSeek, mogu nenamjerno dovesti do otkrivanja osjetljivih korporativnih podataka. Ako se DeepSeek obučava ili fino podešava prema korisničkim uputama, tada bi se ti podaci mogli ugraditi u model i nenamjerno otkriti u budućim rezultatima.
To znači da osjetljivi podaci dijeljeni s DeepSeekom (npr. povjerljive poslovne strategije, evidencija kupaca, izvorni kod ili informacije o kupcima) mogu postati dostupni neželjenim stranama, bilo da se radi o konkurentima ili protivnicima.
2. Nedostatak usklađenosti i upravljanja
DeepSeek, kao i druge generativne AI aplikacije, ne dolazi s ugrađenim kontrolama usklađenosti. To tvrtkama otežava usklađivanje njegove upotrebe s regulatornim okvirima kao što su GDPR, CCPA, HIPAA i SOC 2. Korisnici ne znaju koji se podaci pohranjuju, koliko dugo, pod kojim okolnostima i u koje svrhe.
To znači da dijeljenje reguliranih podataka s DeepSeekom znači da bi se oni mogli pohranjivati na nereguliranim međunarodnim poslužiteljima, koristiti za neodobrenu upotrebu i dijeliti sa zabranjenim stranama.
3. Zlonamjerna proširenja preglednika
Neke implementacije DeepSeeka, poput zlonamjernog DeepSeeka proširenje preglednika, mogu nesvjesno prikupljati, pohranjivati ili prenositi podatke preglednika bez odgovarajućih zaštitnih mjera. Poznato je da zlonamjerna proširenja preglednika iskorištavaju prekomjerna dopuštenja za prikupljanje vjerodajnica, otimanje sesija i prikupljanje podataka. To se može koristiti za stjecanje uporišta u pregledniku (i posljedično, u poslovnim mrežama), phishing napade ili krađu osjetljivih informacija.
4. Umjetna inteligencija u sjeni
Ako zaposlenici koriste DeepSeek bez IT nadzora, IT odjel ne može upravljati i pratiti korištenje. To fragmentira IT upravljanje, što znači da IT odjel ne može riješiti sigurnosne rizike, probleme usklađenosti i probleme s izloženošću podataka o kojima se gore raspravljalo. Ne mogu implementirati politike, obučavati zaposlenike ili uvesti sigurnosne kontrole, jednostavno zato što nisu svjesni rizika. To dodatno povećava opasnost, čineći organizaciju izuzetno ranjivom.
Utjecaj sigurnosnih rizika DeepSeeka na poduzeća
Kako gore navedeni rizici utječu na sigurnost umjetne inteligencije u poduzećima?
Otkrivanje povjerljivih informacija
Curenje podataka iz povjerljivih dokumenata, kodnih baza ili strateških planova koji se unose u model ili nenamjerno otkrivaju putem izlaza generiranih umjetnom inteligencijom znači da konkurenti ili zlonamjerni akteri mogu dobiti pristup ključnim poslovnim informacijama. To bi moglo imati značajne pravne i poslovne posljedice.
Potencijalni utjecaj na poduzeća
- Gubitak konkurentske prednosti otkrivanjem jedinstvenih poslovnih strategija, algoritama ili nacrta proizvoda.
- Ransomware napadača prijeti dijeljenjem osjetljivih podataka
- Tužbe klijenata čiji su osobni podaci otkriveni
Regulatorne kazne i pravne posljedice
Nedostatak kontrole nad time koji se podaci dijele s DeepSeekom i kako se ti podaci pohranjuju i obrađuju otežava poduzećima osiguravanje poštivanja zakona o zaštiti podataka poput GDPR-a, CCPA-e, HIPAA-e i propisa specifičnih za industriju (npr. SOX, PCI DSS, NIST 800-53).
Potencijalni utjecaj rizika usklađenosti na poduzeća
- Povrede privatnosti
- Neuspjesi revizije
- Novčane kazne
- Pravne posljedice
Prijetnje operativnoj sigurnosti
Ako napadači koriste zlonamjerna proširenja preglednika, mogu dobiti pristup internim sustavima i napredovati bočno u mreži, što predstavlja DeepSeek kibernetičku sigurnost.
Potencijalni utjecaj na poduzeća
- Preuzimanje računa
- Napadi phishinga
- Ransomware
- Eksfiltracija podataka
- Operativno zaustavljanje
Kako poduzeća mogu osigurati implementacije umjetne inteligencije poput DeepSeeka
Kako zaposlenici integriraju modele umjetne inteligencije generacije poput DeepSeeka u svoje tijekove rada, osiguranje njihove upotrebe postaje visoki prioritet. U nastavku su navedene ključne najbolje prakse za proaktivnu zaštitu implementacija umjetne inteligencije u poduzećima.
- Mapirajte podatke koje možete dijeliti s umjetnom inteligencijom generacije – Klasificirajte organizacijske podatke na temelju razina povjerljivosti. Odredite koji su podaci vlasnički, osobni ili regulirani i nikada se ne smiju otkrivati. Implementacija GenAI DLP alata može pomoći u smanjenju rizika od slučajnog curenja podataka.
- Obučite zaposlenike o rizicima generacije umjetne inteligencije – Zaposlenici moraju razumjeti da generativni alati umjetne inteligencije, iako moćni, mogu predstavljati rizike poput curenja podataka, pristranih rezultata i kršenja propisa. Redovite sesije obuke mogu obuhvatiti teme odgovorne za korištenje umjetne inteligencije, uobičajene vektore napada i primjere zlouporabe umjetne inteligencije iz stvarnog svijeta. Vaš alat za sigurnost podataka može vam pomoći u tome upozoravanjem i obavještavanjem zaposlenika o rizičnoj upotrebi.
- Praćenje korištenja umjetne inteligencije generacije u pregledniku – Budući da se DeepSeeku pristupa putem web aplikacija, organizacije bi trebale implementirati sigurnosna rješenja za preglednike kako bi pratile te interakcije. To pomaže u prepoznavanju i sprječavanju potencijalnog izlaganja podataka, zlonamjernih proširenja preglednika i neobičnih obrazaca ponašanja.
- Pratite proširenja preglednika Gen AI – Organizacije bi trebale održavati popis dopuštenih odobrenih proširenja, provoditi periodične sigurnosne preglede i koristiti alate za sigurnost preglednika kako bi otkrile sumnjive aktivnosti. Onemogućavanje neodobrenih proširenja na razini poduzeća može spriječiti neovlašteni pristup podacima.
- Provesti korištenje korporativnih računa za pristup Gen AI – Zahtjev za zaposlenicima da koriste svoje korporativne račune za GenAI usluge pomaže u sprječavanju korištenja shadow AI-a, osiguravajući bolji sigurnosni nadzor, mogućnost revizije i provedbu pravila. Također pomaže u sprječavanju krađe vjerodajnica koje se mogu koristiti za neovlašteno korištenje mreže. Alat za sigurnost preglednika može pratiti DeepSeek radnje bez obzira na račun koji se koristi za prijavu, osobni ili privatni.
Kako osigurati korištenje DeepSeeka
LayerX Security nudi sveobuhvatnu platformu za sigurnost preglednika bez agenata koja štiti poduzeća od najkritičnijih rizika i prijetnji modernog weba, uključujući curenje podataka GenAI-a, SaaS rizik, prijetnje identitetu, web ranjivosti, DLP i još mnogo toga.
LayerX se implementira kao proširenje za Enterprise preglednik koje se integrira s bilo kojim preglednikom i pruža organizacijama potpunu vidljivost i provedbu do kraja bez ometanja korisničkog iskustva.
Poduzeća koriste LayerX za mapiranje upotrebe GenAI-a u organizaciji, otkrivanje 'shadow' AI aplikacija i ograničavanje dijeljenja osjetljivih podataka s LLM-ovima.
