A LayerX Labs identificou um novo vetor de ataque para agentes mal-intencionados tentarem extrair dados confidenciais de usuários desavisados: ataques de GPT Massquareding.
Neste ataque, os hackers se passam por GPTs legítimos hospedados na plataforma ChatGPT da OpenAI para atrair usuários para versões falsas desses GPTs e enviar os dados que os usuários compartilham com o GPT para um servidor remoto e, dessa forma, extrair dados confidenciais.
Ferramentas de Inteligência Artificial (IA) transformaram a maneira como interagimos com a tecnologia, oferecendo soluções inovadoras em vários domínios, da saúde às finanças. Essas ferramentas aumentam a eficiência, automatizam tarefas e fornecem insights que antes eram inatingíveis. Entre os avanços mais notáveis em IA estão os Generative Pre-trained Transformers (GPTs), que estão na vanguarda do processamento de linguagem natural.
O que são GPTs?
A OpenAI adicionou recentemente um novo recurso para criar GTPs personalizados em sua plataforma e disponibilizá-los aos usuários da OpenAI, semelhante a um mercado de aplicativos.
Generative Pre-trained Transformers (GPTs) são modelos avançados de IA projetados para entender e gerar linguagem humana. Desenvolvidos pela OpenAI, eles são treinados em conjuntos de dados extensos que abrangem uma ampla gama de tópicos, permitindo que eles produzam texto coerente e contextualmente relevante com base em prompts do usuário. Ao analisar padrões de linguagem, os GPTs podem se envolver em conversas, responder perguntas e criar conteúdo que espelhe a comunicação humana.
A versatilidade dos GPTs permite que eles sejam aplicados de várias maneiras, incluindo chatbots para atendimento ao cliente, criação de conteúdo para blogs e artigos, tradução de idiomas e até mesmo assistência de codificação. À medida que esses modelos continuam a evoluir, eles estão se tornando mais adeptos à compreensão do contexto e das nuances da linguagem, tornando-os ferramentas inestimáveis em ambientes pessoais e profissionais.
No entanto, os benefícios de produtividade fornecidos por GPTs personalizados são a razão pela qual os usuários podem cair em ataques de GPT Massquareding.
Manual dos cibercriminosos: explorando GPTs
À medida que as capacidades dos Generative Pre-trained Transformers (GPTs) continuam a se expandir, também aumenta o potencial dos cibercriminosos explorarem essas tecnologias para propósitos maliciosos. Um vetor de ataque significativo identificado pelo LayerX Labs – e apelidado de GPT Massquareing Attacks – é a capacidade de atores maliciosos de criar versões idênticas ou enganosamente semelhantes de modelos GPT legítimos, a fim de atrair usuários legítimos para compartilhar informações confidenciais.
Ao replicar esses modelos, eles podem manipular os usuários fazendo-os acreditar que estão interagindo com uma IA confiável., obtendo assim acesso não autorizado a dados e informações confidenciais.
Como os invasores criam GPTs do Massquareding:
- Identificar um GPT legítimo existente que eles desejam replicar. Pode ser um GPT de uma marca conhecida ou uma ferramenta particularmente popular ou útil que muitos usuários podem estar interessados em usar.
- Crie um GPT de aparência semelhante com o mesmo nome, ícone e descrição. Para um observador externo, este GPT parecerá completamente idêntico ao GPT original (legítimo).
- Aguarde que os usuários procurem o GPT legítimo. É muito difícil distinguir entre os diferentes GPTs, e os usuários podem facilmente clicar no GPT mascarado.
- Enviar informações inseridas ou carregadas no GPT para um servidor externo. Os usuários serão solicitados a aprovar o compartilhamento de informações com um servidor externo, mas se eles esperam esse tipo de comportamento (ou não sabem), eles não terão controle sobre para onde esses dados estão sendo enviados.
- Uma vez que as informações são enviadas para um servidor de terceiros, elas saem das mãos dos usuários e vão para as mãos dos invasores. Embora a maioria das informações provavelmente seja benigna, elas podem conter informações confidenciais, como código-fonte proprietário, informações de clientes para análise e muito mais.
Os cibercriminosos podem configurar plataformas ou aplicativos falsos que parecem usar um GPT legítimo. Ao imitar a interface e as funcionalidades de um serviço de IA bem conhecido, eles podem atrair usuários desavisados para compartilhar informações pessoais ou credenciais. Depois que os usuários se envolvem com esses modelos falsificados, quaisquer dados inseridos, como credenciais de login, informações de pagamento ou mensagens privadas, podem ser transferidos para os servidores dos criminosos. Isso cria um risco significativo, pois os usuários podem não perceber que foram vítimas de um golpe até que seja tarde demais.
Além disso, estes Os GPTs fraudulentos podem ser projetados para envolver os usuários de maneiras que incentivem a divulgação de mais dados. Por exemplo, eles podem simular interações de suporte ao cliente, convencendo os usuários a fornecer informações pessoais mais detalhadas sob o pretexto de resolver problemas. A capacidade dos GPTs de gerar texto semelhante ao humano torna desafiador para os usuários discernir entre interações legítimas e maliciosas, amplificando assim o risco de roubo de dados.
A Ameaça Dentro da Organização
GPTs se tornaram ferramentas essenciais para desenvolvedores, auxiliando na codificação, depuração e documentação. Como resultado, versões fraudulentas desses GPTs podem prejudicar significativamente as organizações, tanto financeiramente quanto em termos de reputação, ao mirar desenvolvedores para extrair código interno sensível.
Esses GPTs maliciosos podem ser projetados para se assemelharem muito a ferramentas de desenvolvimento confiáveis, facilitando a indução em erro de desenvolvedores desavisados. Por exemplo, um invasor pode implantar um assistente de IA falsificado que parece funcionar de forma semelhante a um auxiliar de codificação estabelecido, induzindo os desenvolvedores a interagir com ele. Uma vez envolvidos, esses modelos fraudulentos podem levar os usuários a compartilhar trechos de código ou algoritmos proprietários sob o pretexto de melhorar a funcionalidade ou corrigir bugs.
Abaixo está um exemplo de criação de um GPT de Mascaramento representando o GPT do Code CoPilot:
O risco é particularmente grave em ambientes colaborativos onde os desenvolvedores frequentemente buscam assistência de ferramentas de IA para tarefas complexas: Quando um desenvolvedor envia, sem saber, código interno sensível a um GPT fraudulento, o invasor obtém acesso à propriedade intelectual crítica e vulnerabilidades potencialmente exploráveis no software da organização.. Isso não apenas coloca em risco a vantagem competitiva da empresa, mas também aumenta a probabilidade de novos ataques cibernéticos.
Além disso, os cibercriminosos podem automatizar a distribuição desses GPTs falsos, mirando em várias organizações e desenvolvedores simultaneamente. Ao elaborar mensagens que destacam os benefícios de usar suas ferramentas falsificadas, eles podem efetivamente atrair desenvolvedores que estão ansiosos por suporte. A natureza sofisticada desses modelos de IA permite que eles gerem respostas que parecem confiáveis e relevantes, confundindo ainda mais os limites entre assistência legítima e intenção maliciosa.
Conclusão
A ascensão dos GPTs sem dúvida transformou a forma como interagimos com a tecnologia, aumentando a produtividade e a eficiência em vários domínios. No entanto, esse avanço também traz riscos significativos, principalmente porque os cibercriminosos exploram essas ferramentas para fins maliciosos. Ao criar versões fraudulentas de GPTs que imitam as legítimas, os invasores podem enganar usuários e organizações, levando ao roubo de dados, perdas financeiras e danos à reputação.
Para lidar com esses riscos, a LayerX oferece diversas estratégias de mitigação importantes, adaptadas para proteger organizações de interações indesejadas com modelos de IA:
- Nossa solução exclusiva de segurança para navegadores – Implemente a solução de segurança de navegador da LayerX para monitorar e filtrar interações na web. Essas ferramentas podem detectar sites fraudulentos e alertar os usuários antes que eles se envolvam com GPTs maliciosos.
- Controles de Acesso – Use os recursos de gerenciamento de acesso do LayerX para restringir os funcionários de usar ferramentas de IA não autorizadas. Ao controlar quais aplicativos podem ser acessados por meio de redes da empresa, as organizações podem reduzir o risco de exposição a modelos falsificados.
- Análise Comportamental – Aproveite os recursos de análise comportamental do LayerX para identificar padrões incomuns de interação com ferramentas de IA. Isso pode ajudar a detectar possíveis tentativas de phishing ou solicitações não autorizadas de código sensível.
- Alertas em tempo real – Configure alertas em tempo real para notificar equipes de segurança sobre qualquer atividade suspeita relacionada a interações de IA. Essa abordagem proativa permitirá que sua organização responda rapidamente a ameaças potenciais.
Ao integrar essas estratégias à sua estrutura de segurança, sua organização pode se proteger melhor contra a exploração de tecnologias de IA. À medida que a tecnologia GPT continua a evoluir, alavancar soluções especializadas da LayerX será essencial para manter um ambiente seguro e proteger informações confidenciais.
