Paano Namin Natuklasan ang Isang Kampanya ng 16 na Malisyosong Extension na Ginawa para Magnakaw ng mga ChatGPT Account

Natukoy ng LayerX Research ang isang pinag-ugnay na hanay ng mga extension ng Chrome browser na ibinebenta bilang Mga tool sa pagpapahusay at pagiging produktibo ng ChatGPT. Gayunpaman, sa pagsasagawa, ang mga extension na ito ay nilalayong nakawin ang mga pagkakakilanlan ng ChatGPT ng mga gumagamitAng kampanya ay binubuo ng hindi bababa sa 16 na magkakaibang extension binuo ng parehong aktor ng banta, upang maabot ang pinakamalawak na distribusyon hangga't maaari.

Ang kampanyang ito ay kasabay ng isang mas malawak na kalakaran: ang mabilis na paglago sa pag-aampon ng mga extension ng browser na pinapagana ng AI, na naglalayong tulungan ang mga gumagamit sa kanilang pang-araw-araw na pangangailangan sa produktibidad. Bagama't karamihan sa mga ito ay ganap na hindi nakakapinsala, marami sa mga extension na ito ang gumagaya sa mga kilalang brand para makuha ang tiwala ng mga user, lalo na iyong mga idinisenyo upang mapahusay ang interaksyon sa malalaking modelo ng wika. Dahil ang mga extension na ito ay lalong nangangailangan ng malalim na integrasyon sa mga napatotohanang web application, nagpapakilala ang mga ito ng isang malaking pinalawak na browser attack surface.

Ipinapakita ng aming pagsusuri na ang mga extension sa kampanyang ito ay nagpapatupad ng isang karaniwang mekanismo na Hinaharang ang mga token ng pagpapatotoo ng sesyon ng ChatGPT at ipinapadala ang mga ito sa isang third-party na backendAng pagkakaroon ng mga naturang token ay nagbibigay ng access sa antas ng account na katumbas ng sa user, kabilang ang access sa history ng pag-uusap at metadata. Bilang resulta, maaaring kopyahin ng mga attacker ang mga access credential ng mga user sa ChatGPT at gayahin ang mga ito, na nagbibigay-daan sa kanila na ma-access ang lahat ng pag-uusap, data, o code sa ChatGPT ng user. 

Binibigyang-diin ng tuklas na ito ang pangangailangan para sa mga korporasyon na subaybayan at paghigpitan ang paggamit ng mga 3rd-party na AI extension, dahil maaaring ninanakaw nila ang sensitibong impormasyon. 

Bagama't hindi sinasamantala ng mga extension na ito ang mga kahinaan sa ChatGPT mismo, ang kanilang disenyo ay nagbibigay-daan pag-hijack ng sesyon at palihim na pag-access sa account, na kumakatawan sa isang malaking panganib sa seguridad at privacy.

Sa kasalukuyan, humigit-kumulang 900 na pag-download ang nauugnay sa kampanyang ito — isang patak sa balde kumpara sa GhostPoster or RolyPoly VPNGayunpaman, habang ang saklaw ng isang pag-atake ay isang malinaw na tagapagpahiwatig ng kaugnayan nito, hindi lamang ito ang isa. Sikat ang mga GPT Optimizer at maraming mga may mataas na rating at lehitimong rating sa Chrome Web Store kaya madaling makaligtaan ng mga tao ang anumang mga babala, at ang isa sa mga variant ay may logo na "itinatampok" na nagsasaad na ito ay "sumusunod sa mga inirerekomendang kasanayan para sa mga extension ng Chrome."

Isang pag-ulit lang ang kailangan para maging popular ang isang malisyosong extension. Naniniwala kami na ang mga GPT optimizer ay malapit nang maging kasing popular ng (hindi hihigit sa) mga VPN extension, kaya naman inuna namin ang paglalathala ng pagsusuring ito. Ang aming layunin ay isara ito BAGO pa ito umabot sa critical mass.

Mga Extension ng AI Browser bilang Isang Umuusbong na Attack Surface

Ang mga extension ng browser na nakatuon sa AI ay naging isang karaniwang bahagi ng daloy ng trabaho para sa mga gumagamit na naghahangad ng mga pagtaas ng produktibidad mula sa mga generative AI platform. Ang mga tool na ito ay kadalasang nangangailangan ng:

• Pag-access sa mga napatunayang serbisyo ng AI
• Masikip na pagsasama sa mga kumplikadong aplikasyon na may iisang pahina
• Mas mataas na konteksto ng pagpapatupad sa loob ng browser
  

Bilang resulta, ang mga AI extension ay natatanging nakaposisyon upang obserbahan ang sensitibong runtime data, kabilang ang mga authentication artifact. Ang kombinasyong ito ng mataas na pribilehiyo, tiwala ng gumagamit, at mabilis na pag-aampon ginagawa silang isang lalong kaakit-akit na daluyan para sa pang-aabuso.

Ang mga extension na sinuri sa pananaliksik na ito ay nagpapakita kung paano magagamit ang mukhang lehitimong AI tooling upang makakuha ng patuloy na access sa mga user account nang hindi sinasamantala ang mga kahinaan ng software o nagti-trigger ng mga kumbensyonal na kontrol sa seguridad.

Teknikal na Pagsusuri ng

Pagharang at Pag-exfiltration ng Token ng Sesyon

Ang pangunahing isyu sa seguridad na natukoy sa buong kampanya ay ang interception ng ChatGPT session token. 

Sa lahat ng nasuring variant (maliban sa isang eksepsiyon), ipinapatupad ng mga extension ang sumusunod na daloy ng trabaho:

1. Isang content script ang ipinasok chatgpt.com at isinasagawa sa MAIN JavaScript world ng pahina.
2. Ikinakabit ng script ang browser window.fetch function, na nagbibigay-daan dito upang obserbahan ang mga papalabas na kahilingan na sinimulan ng ChatGPT web application.

Pigura 1. Pag-hook ng Fetch API

3. Kapag natukoy ang isang kahilingan na naglalaman ng header ng pahintulot, kinukuha ang token ng sesyon.
   

Pigura 2. Pagkuha ng Token ng Awtorisasyon

4. Ang pangalawang content script ay tumatanggap ng mensaheng ito at nagpapadala ng token sa isang remote server.

Ang pamamaraang ito ay nagbibigay-daan sa extension operator na mag-authenticate sa mga serbisyo ng ChatGPT gamit ang aktibong sesyon ng biktima at makuha ang lahat ng history ng mga chat at connector ng mga user (ang Google drive, Slack, Git-hub at iba pang sensitibong data source ng mga user).  

PANGUNAHING Pagpapatupad ng World Script

Ang script ng nilalaman ng interception ng extension na isinagawa sa MAIN world:

Pigura 3. PANGUNAHING Setting ng Mundo para sa Iskrip ng Nilalaman

Pagpapatupad ng mga content script sa PANGUNAHING mundo ng JavaScript Binibigyang-daan direktang interaksyon sa native runtime ng pahina, sa halip na gumana sa loob ng nakahiwalay na kapaligiran ng content-script ng Chrome.

Partikular, ang ibig sabihin nito ay ang extension code:

• Nagpapatakbo isa parehong konteksto ng pagpapatupad gaya ng mismong web application
• May access sa parehong mga JavaScript object, function, at in-memory state na ginagamit ng page
• Maaaring i-override o i-wrap ang mga native API (hal., window.fetch, XMLHttpRequest, Promise, mga function na tinukoy ng application)
• Maaaring obserbahan o manipulahin ang runtime data na hindi kailanman tumatawid sa network o DOM, kabilang ang:
  • mga header ng pagpapatunay bago ang pagpapadala
  • mga token sa memorya at mga artifact ng sesyon
  • mga bagay ng estado ng aplikasyon na ginagamit ng frontend framework

Pagkakalantad ng Datos Higit Pa sa Token

Bukod sa ChatGPT session token, ang sumusunod na data ay ipinapadala sa third-party server:

• Metadata ng extension (bersyon, lokal, mga identifier ng kliyente)
• Telemetry ng paggamit at datos ng kaganapan
• Mga token ng access na inisyu ng backend na ginagamit ng serbisyo ng extension

Ang datos na ito ay nagbibigay-daan sa attacker na higit pang palawakin ang mga access token at nagbibigay-daan sa patuloy na pagkakakilanlan ng user, behavioral profiling, at pangmatagalang access sa mga serbisyo ng third-party. Kapag pinagsama, ang mga elementong ito ng datos ay maaaring gamitin upang iugnay ang aktibidad sa iba't ibang session, mahulaan ang mga pattern ng paggamit, at mapanatili ang patuloy na access na lampas sa isang interaksyon sa browser, na nagpapataas sa parehong epekto sa privacy at ang potensyal na blast radius ng anumang maling paggamit o pagkompromiso sa sumusuportang imprastraktura.

Saklaw at Pamamahagi ng Kampanya

Sa 16 na natukoy na extension sa kampanyang ito, 15 ang ipinamahagi sa pamamagitan ng Chrome Web Store, habang ang isang extension ay inilathala sa pamamagitan ng Microsoft Edge Add-ons marketplace.Sa panahon ng pagsulat nito, ang lahat ng natukoy na extension ay nananatiling available sa kani-kanilang mga tindahan.

Karamihan sa mga extension sa kampanya ay nagpapakita ng medyo mababang bilang ng indibidwal na pag-install, na may maliit na subset lamang na umaabot sa mas mataas na pag-aampon. Umaasa kami sa LayerX na sa pamamagitan ng publikasyong ito, ang kampanya ay ititigil sa maagang yugto na may kaunting epekto.

Mga Indikasyon ng Imprastraktura at Kampanya

Ilang tagapagpahiwatig ang nagmumungkahi na ang mga pagpapalawig na ito ay bahagi ng isang iisang koordinadong kampanya, sa halip na mga malayang pagsisikap sa pag-unlad:

• Isang nakabahagi at pinaliit na codebase na muling ginagamit sa maraming extension ID
• Mga pare-parehong katangian ng publisher, sa kabila ng paggamit ng maraming listahan
• Mga icon, branding, at paglalarawan na halos magkapareho

Pigura 4. Mga Pagkakatulad na Biswal

• Mga batch upload, na may maraming extension na inilalathala sa parehong mga petsa
• Mga naka-synchronize na timeline ng pag-update, na may ilang extension na sabay-sabay na ina-update
• Ibinahaging imprastraktura ng backend, kung saan ang lahat ng extension ay nakikipag-ugnayan sa iisang domain
• Nagpapatong-patong na lehitimong paggana, nagpapatibay sa pinaghihinalaang pagiging mapagkakatiwalaan

Maagang Pagtuklas sa pamamagitan ng Extension Intelligence

Natukoy at naiugnay ng LayerX Research ang kampanyang ito sa maagang yugto sa pamamagitan ng kombinasyon ng Pagtukoy ng mga extension ng browser na pinapagana ng AI at pagsusuri ng pagkakatulad ng code.

Partikular, pinagana ng aming mga kakayahan sa pag-detect ang:

• Pagtukoy sa mga nakabahagi at pinaliit na artifact ng code sa maraming extension ID

• Kaugnayan ng mga extension na may halos magkaparehong runtime behavior, sa kabila ng magkakaibang pangalan at paglalarawan ng feature
• Pagkilala sa mga pattern ng paglaganap ng variant, kung saan maraming extension na may magkakapatong na functionality ang inilalathala at ina-update sa mga coordinated batch

Ang mga senyales na ito ay nagbigay-daan sa amin na pagsama-samahin ang mga extension sa iisang kampanya bago ang malawakang paggamit, na nagbibigay-diin sa kahalagahan ng proactive visibility sa mga ecosystem ng browser extension habang patuloy na lumalawak ang AI tooling.

Konklusyon

Itinatampok ng pananaliksik na ito kung paano magagamit ang mga extension ng browser na nagta-target sa mga platform ng AI upang makamit ang access sa antas ng account sa pamamagitan ng mga lehitimong mekanismo ng session, nang hindi sinasamantala ang mga kahinaan o nagde-deploy ng lantarang malware.

Sa pamamagitan ng pagsasama ng MAIN-world execution at authentication token interception, nakakuha ang mga operator ng patuloy na access sa mga user account habang nananatili sa loob ng mga hangganan ng karaniwang web behavior. Ang mga ganitong pamamaraan ay partikular na mahirap matukoy gamit ang mga tradisyonal na endpoint o network security tool.

Habang patuloy na isinasama ang mga AI platform sa mga daloy ng trabaho ng negosyo at personal, ang mga extension ng browser na nakikipag-ugnayan sa mga napatunayang serbisyo ng AI ay dapat ituring bilang software na may mataas na panganib at sumailalim sa mahigpit na pagsusuri.

Mga Indikasyon ng Kompromiso (IOC)

Extension

Domains

chatgptmods.com

Mga Larawan.itaas

Mga Email

[protektado ng email]

Mga Taktika, Teknik, at Pamamaraan (TTPs)

Rekomendasyon

Dapat gawin ng mga propesyonal sa seguridad, tagapagtanggol ng negosyo, at mga developer ng browser ang mga sumusunod na aksyon:

• Uriin ang mga AI-Integrated Extension bilang mga Pribilehiyong Aplikasyon – Ang mga extension na isinasama sa mga authenticated na AI platform ay dapat ituring bilang high-risk, privileged software, dahil ang kanilang access sa runtime state at authentication artifacts ay mas mataas kaysa sa mga karaniwang browser add-on.
• lumawak mga teknolohiya sa pagsubaybay sa extension na nakabatay sa pag-uugali upang matukoy ang hindi awtorisadong aktibidad ng network o kahina-hinalang manipulasyon ng DOM.

• Magbahagi ng: