S porastom popularnosti generativnih AI aplikacija kao što su ChatGPT i Bard, stručnjaci za sigurnost moraju poduzeti mjere za potpuno rješavanje sigurnosni rizici povezani s ovim platformama. Takvi rizici uključuju potencijalno dijeljenje osjetljivih podataka od strane zaposlenika, iskorištavanje Barda za zlonamjerne aktivnosti od strane napadača i posljedice potencijalne povrede Bardovih vlastitih sustava.

Ovaj vodič istražuje te rizike, kao i prakse i rješenja za njihovo ublažavanje, a istovremeno omogućuje zaposlenicima da nastave uživati ​​u prednostima produktivnosti generativne umjetne inteligencije. Preporučujemo da pregledate preporuke u ovom vodiču i da u skladu s tim ažurirate svoju sigurnosnu strategiju.

Definiranje Bard sigurnosti

Pojam "Bard Security" obuhvaća sve mjere i protokole za zaštitu od rizika povezanih s upotrebom Barda. Ovi rizici mogu se kategorizirati u tri osnovne vrste:

  1. Rizici koji proizlaze iz interakcije zaposlenika s Bardom.
  2. Rizici povezani sa zlonamjernim akterima koji koriste Bard.
  3. Rizici koji se odnose na izravni napad na Bardove sustave.

Sigurnosni rizici korištenja Barda

1. Zlouporaba zaposlenika: curenje podataka

Zaposlenici komuniciraju s Bardom upisivanjem ili lijepljenjem informacija. Umetanje osjetljivih informacija, poput izvornog koda u podatke koji otkrivaju identitet (PII), može dovesti do nenamjernog curenja podataka. To je zato što ove osjetljive podatke Bard potencijalno može pohraniti ili obraditi, a zatim im pristupiti treće strane.

Na primjer, podaci se mogu koristiti za Bardovu obuku i pojaviti se u njegovim budućim odgovorima ili bi napadači mogli dobiti pristup Bardu i iskoristiti podatke za Phishing ili ransomware. Implikacije takvih povreda podataka uključuju financijsku, pravnu i reputacijsku štetu za poslovanje.

2. Prijetnje od vanjskih napadača

Napadači mogu iskoristiti Bard za svoje zlonamjerne aktivnosti, što znači da organizacije nisu imune na sigurnosne prijetnje povezane s Bardom čak i kada njihovi zaposlenici aktivno ne koriste platformu. Napadači mogu koristiti Bard za:

  • Napadi društvenim inženjeringom – Pisanje vjerodostojnih poruka i e-pošte na različitim jezicima.
  • Razvoj zlonamjernog softvera – Generiranje koda koji se koristi u zlonamjerne svrhe.
  • Prikupljanje informacija – Dobivanje informacija o sustavima i arhitekturama.
  • I više

Sofisticiranost Barda u generiranju uvjerljivog, kontekstualno relevantnog teksta i koda čini ga moćnim alatom u rukama kibernetičkih kriminalaca.

3. Izravni napadi na Barda

Konačno, proboj u Bardovu sigurnost mogao bi dovesti do neovlaštenog pristupa osjetljivim korisničkim podacima i metapodacima, što bi rezultiralo kršenjem privatnosti i upadom u podatke.

Rizici povezani s Bard ekstenzijama

Korištenje Bard ekstenzija povećava gore navedene sigurnosne rizike. Bard proširenja mogu uvesti ranjivosti i predstavljati prijetnju privatnosti podataka, osobito ako ta proširenja nisu razvijena prema strogim sigurnosnim standardima. Na primjer, zlonamjerna proširenja mogu unijeti zlonamjerni kod u korisnički preglednik, eksfiltrirati podatke, omogućiti napadačima pristup podacima o identitetu kao što su lozinke, kolačići i MFA tokeni i više.

Implementacija najboljih praksi Bard Security

Kako bismo se suprotstavili ovim rizicima, zalažemo se za brojne prakse koje možete primijeniti u svojim organizacijama:

  • Razvoj jasnih politika korištenja – Odredite što se uopće ne smije dijeliti, npr izvorni kod, poslovni planovi, intelektualno vlasništvo itd.
  • Sveobuhvatni programi obuke i podizanja svijesti – Educirajte zaposlenike o rizicima dijeljenja osjetljivih podataka s Bardom i kako prepoznati phishing poruke koje generira AI.
  • Usvajanje poslovnih preglednika – Spriječite zaposlenike da lijepe ili upisuju osjetljive podatke u Bard korištenjem poslovnog preglednika. Preglednik će vam omogućiti da definirate jasna pravila korištenja i upozorit će vas ili potpuno blokirati kada se pravilo prekrši.
  • Praćenje i blokiranje rizičnih proširenja - Otkrijte i deinstalirajte zlonamjerna proširenja i analizirati postojeća proširenja kako bi identificirali i spriječili pristup osjetljivim podacima.
  • Jačanje ukupnih sigurnosnih kontrola – Poboljšajte svoju obranu od krađe identiteta, zlonamjernog softvera i ransomwarea održavanjem ažurnog softvera i robusnih sigurnosnih mjera krajnje točke.

Predstavljamo Bard DLP tvrtke LayerX

SlojX nudi inovativno rješenje poslovnog preglednika za zaštitu od rizika izloženosti podacima povezanih s Bardom i drugim generativnim AI alatima. Omogućujući organizacijama da definiraju i zaštite svoje osjetljive podatke, LayerX osigurava sigurnost bez ugrožavanja produktivnosti ili korisničkog iskustva.

Uz LayerX, korisnici mogu mapirati i definirati podatke koje žele zaštititi, poput izvornog koda ili intelektualnog vlasništva. Kada zaposlenici koriste Bard, provode se kontrole poput skočnih upozorenja ili blokiranja kako bi se osiguralo da sigurni podaci nisu izloženi. Ako je potrebno, LayerX može u potpunosti blokirati korištenje Barda. LayerX također štiti od zlonamjernih proširenja preglednika, osiguravajući sigurno iskustvo pregledavanja.

Za više informacija, kliknite ovdje.