Laboratoria LayerX zidentyfikowały nowy wektor ataku, za pomocą którego złośliwi atakujący próbują wyłudzić poufne dane od niczego niepodejrzewających użytkowników: ataki typu GPT Masquareding.
W tym ataku hakerzy podszywają się pod legalne GPT hostowane na platformie ChatGPT firmy OpenAI, aby zwabić użytkowników do fałszywych wersji tych GPT i wysłać dane, którymi użytkownicy dzielą się z GPT, na zdalny serwer, aby w ten sposób uzyskać poufne informacje.
Narzędzia sztucznej inteligencji (AI) zmieniły sposób, w jaki wchodzimy w interakcje z technologią, oferując innowacyjne rozwiązania w różnych dziedzinach, od opieki zdrowotnej po finanse. Narzędzia te zwiększają wydajność, automatyzują zadania i dostarczają spostrzeżeń, które wcześniej były nieosiągalne. Do najbardziej znaczących postępów w dziedzinie AI należą Generative Pre-trained Transformers (GPT), które są na czele przetwarzania języka naturalnego.
Czym są GPT?
Firma OpenAI niedawno dodała nową funkcję umożliwiającą tworzenie niestandardowych GTP na swojej platformie i udostępnianie ich użytkownikom OpenAI, podobnie jak w przypadku sklepu z aplikacjami.
Generative Pre-trained Transformers (GPT) to zaawansowane modele AI zaprojektowane do rozumienia i generowania języka ludzkiego. Opracowane przez OpenAI, są trenowane na rozległych zestawach danych, które obejmują szeroki zakres tematów, co umożliwia im tworzenie spójnego i kontekstowo istotnego tekstu na podstawie podpowiedzi użytkownika. Analizując wzorce językowe, GPT mogą angażować się w konwersacje, odpowiadać na pytania i tworzyć treści, które odzwierciedlają komunikację ludzką.
Wszechstronność GPT pozwala na ich zastosowanie na wiele sposobów, w tym w chatbotach do obsługi klienta, tworzeniu treści na blogi i artykuły, tłumaczeniu języków, a nawet pomocy w kodowaniu. W miarę rozwoju tych modeli stają się one coraz bardziej biegłe w rozumieniu kontekstu i niuansów języka, co czyni je nieocenionymi narzędziami zarówno w kontekście osobistym, jak i zawodowym.
Jednak korzyści w zakresie produktywności zapewniane przez niestandardowe GPT mogą być powodem, dla którego użytkownicy padają ofiarą ataków GPT Masquareding.
Podręcznik cyberprzestępców: wykorzystywanie GPT
W miarę jak możliwości Generative Pre-trained Transformers (GPT) wciąż się rozwijają, tak samo rośnie potencjał cyberprzestępców do wykorzystywania tych technologii do złośliwych celów. Jednym ze znaczących wektorów ataku zidentyfikowanych przez LayerX Labs – i nazwanych GPT Masquareing Attacks – jest zdolność złośliwych aktorów do tworzenia identycznych lub myląco podobnych wersji legalnych modeli GPT, aby zwabić legalnych użytkowników do udostępniania poufnych informacji.
Replikując te modele, mogą manipulować użytkownikami, sprawiając, że uwierzą, że wchodzą w interakcję z zaufaną sztuczną inteligencją, uzyskując w ten sposób nieautoryzowany dostęp do poufnych danych i informacji.
W jaki sposób atakujący tworzą maskujące GPT:
- Zidentyfikuj istniejący, legalny GPT, który chcą powielić. Może to być albo GPT znanej marki, albo szczególnie popularne i przydatne narzędzie, z którego może być zainteresowanych wielu użytkowników.
- Utwórz podobnie wyglądający GPT o tej samej nazwie, ikonie i opisieDla zewnętrznego obserwatora ten GPT będzie wyglądał całkowicie identycznie jak oryginalny (prawdziwy) GPT.
- Poczekaj, aż użytkownicy wyszukają prawidłowy GPT. Rozróżnienie poszczególnych GPT jest bardzo trudne, a użytkownicy mogą łatwo kliknąć maskujący GPT.
- Wyślij informacje wprowadzone lub przesłane w GPT na zewnętrzny serwer. Użytkownicy zostaną poproszeni o zatwierdzenie udostępniania informacji zewnętrznemu serwerowi, ale jeśli spodziewają się takiego zachowania (lub nie wiedzą lepiej), nie będą mieli kontroli nad tym, gdzie te dane są wysyłane.
- Gdy informacje zostaną wysłane na serwer zewnętrzny, nie będą już dostępne dla użytkowników i trafią w ręce atakujących. Podczas gdy większość informacji będzie prawdopodobnie nieszkodliwa, mogą one zawierać poufne informacje, takie jak zastrzeżony kod źródłowy, informacje o klientach do analizy i inne.
Cyberprzestępcy mogą tworzyć fałszywe platformy lub aplikacje, które wydają się używać legalnego GPT. Naśladując interfejs i funkcjonalności znanej usługi AI, mogą zwabić niczego niepodejrzewających użytkowników do udostępniania danych osobowych lub poświadczeń. Gdy użytkownicy zaangażują się w te fałszywe modele, wszelkie wprowadzone dane, takie jak dane logowania, informacje o płatnościach lub prywatne wiadomości, mogą zostać przesłane na serwery przestępców. Stwarza to znaczne ryzyko, ponieważ użytkownicy mogą nie zdawać sobie sprawy, że padli ofiarą oszustwa, dopóki nie będzie za późno.
Co więcej, te oszukańcze GPT mogą być zaprojektowane tak, aby angażować użytkowników w sposób zachęcający do dalszego ujawniania danych. Na przykład mogą symulować interakcje z obsługą klienta, przekonując użytkowników do podawania bardziej szczegółowych danych osobowych pod pretekstem rozwiązywania problemów. Zdolność GPT do generowania tekstu przypominającego tekst ludzki utrudnia użytkownikom odróżnianie uzasadnionych interakcji od złośliwych, zwiększając tym samym ryzyko kradzieży danych.
Zagrożenie wewnątrz organizacji
GPT stały się niezbędnymi narzędziami dla programistów, wspomagającymi kodowanie, debugowanie i dokumentowanie. W rezultacie oszukańcze wersje tych GPT mogą znacząco zaszkodzić organizacjom zarówno finansowo, jak i reputacyjnie, poprzez atakowanie programistów w celu wydobycia poufnego wewnętrznego kodu.
Te złośliwe GPT mogą być zaprojektowane tak, aby ściśle przypominały zaufane narzędzia programistyczne, co ułatwia wprowadzenie w błąd nieświadomych programistówNa przykład atakujący może wdrożyć fałszywego asystenta AI, który wydaje się działać podobnie do sprawdzonego pomocnika kodowania, zachęcając programistów do interakcji z nim. Po uruchomieniu te oszukańcze modele mogą nakłonić użytkowników do udostępniania fragmentów kodu lub zastrzeżonych algorytmów pod pretekstem poprawy funkcjonalności lub naprawienia błędów.
Poniżej znajduje się przykład tworzenia maskującego GPT podszywającego się pod GPT Code CoPilot:
Ryzyko jest szczególnie duże w środowiskach współpracy, w których programiści często szukają pomocy w narzędziach AI przy realizacji złożonych zadań: Gdy programista nieświadomie przesyła poufny kod wewnętrzny do oszukańczego GPT, atakujący uzyskuje dostęp do krytycznej własności intelektualnej i potencjalnie nadających się do wykorzystania luk w oprogramowaniu organizacji. To nie tylko zagraża przewadze konkurencyjnej firmy, ale także zwiększa prawdopodobieństwo dalszych cyberataków.
Co więcej, cyberprzestępcy mogą zautomatyzować dystrybucję tych fałszywych GPT, atakując jednocześnie wiele organizacji i programistów. Tworząc wiadomości, które podkreślają korzyści płynące z korzystania z ich fałszywych narzędzi, mogą skutecznie zwabić programistów, którzy są chętni na wsparcie. Wyrafinowana natura tych modeli AI pozwala im generować odpowiedzi, które wydają się wiarygodne i istotne, jeszcze bardziej zacierając granice między uzasadnioną pomocą a złośliwymi intencjami.
Wniosek
Rozwój GPT niewątpliwie zmienił sposób, w jaki wchodzimy w interakcje z technologią, zwiększając produktywność i wydajność w różnych domenach. Jednak ten postęp wiąże się również ze znacznymi ryzykami, szczególnie gdy cyberprzestępcy wykorzystują te narzędzia do złośliwych celów. Tworząc oszukańcze wersje GPT, które naśladują legalne, atakujący mogą oszukiwać użytkowników i organizacje, co prowadzi do kradzieży danych, strat finansowych i szkód dla reputacji.
Aby stawić czoła tym zagrożeniom, firma LayerX oferuje kilka kluczowych strategii łagodzenia ryzyka opracowanych w celu ochrony organizacji przed niepożądanymi interakcjami z modelami AI:
- Nasze wyjątkowe rozwiązanie w zakresie bezpieczeństwa przeglądarki – Wdróż rozwiązanie zabezpieczeń przeglądarki LayerX, aby monitorować i filtrować interakcje internetowe. Te narzędzia mogą wykrywać fałszywe witryny i ostrzegać użytkowników, zanim zaangażują się w złośliwe GPT.
- Kontrola dostępu – Użyj funkcji zarządzania dostępem LayerX, aby ograniczyć pracownikom korzystanie z nieautoryzowanych narzędzi AI. Kontrolując, do których aplikacji można uzyskać dostęp za pośrednictwem sieci firmowych, organizacje mogą zmniejszyć ryzyko narażenia na podrobione modele.
- Analiza behawioralna – Wykorzystaj możliwości analizy behawioralnej LayerX, aby zidentyfikować nietypowe wzorce interakcji z narzędziami AI. Może to pomóc wykryć potencjalne próby phishingu lub nieautoryzowane żądania dotyczące poufnego kodu.
- Alerty w czasie rzeczywistym – Skonfiguruj alerty w czasie rzeczywistym, aby powiadomić zespoły ds. bezpieczeństwa o wszelkich podejrzanych działaniach związanych z interakcjami AI. To proaktywne podejście pozwoli Twojej organizacji szybko reagować na potencjalne zagrożenia.
Integrując te strategie z ramami bezpieczeństwa, Twoja organizacja może lepiej zabezpieczyć się przed wykorzystaniem technologii AI. W miarę rozwoju technologii GPT wykorzystanie specjalistycznych rozwiązań firmy LayerX będzie niezbędne do utrzymania bezpiecznego środowiska i ochrony poufnych informacji.
