A ascensão da inteligência artificial generativa mudou a forma como pesquisamos informações, escrevemos códigos e encontramos soluções para problemas técnicos. No entanto, essa confiança crescente nas respostas fornecidas pelos LLMs (Large Language Models) abriu espaço para uma nova categoria de ataques: o phantom squatting, uma técnica que transforma erros previsíveis da IA em oportunidades para campanhas de phishing, distribuição de malware e roubo de credenciais.
O problema deixou de ser apenas teórico. Pesquisadores da Unit 42, divisão de inteligência de ameaças da Palo Alto Networks, demonstraram que criminosos já conseguem explorar domínios inexistentes inventados por modelos de IA. Em vez de depender de erros humanos, os atacantes agora aproveitam as próprias “alucinações” da inteligência artificial para criar armadilhas extremamente convincentes.
Esse cenário representa uma mudança importante na segurança digital. Quando um usuário confia cegamente em um link sugerido por um assistente de IA, a confiança deixa de estar apenas na tecnologia e passa, involuntariamente, para quem registrou aquele domínio inexistente antes que alguém percebesse o erro. É justamente esse mecanismo que torna o phantom squatting uma ameaça preocupante para empresas, desenvolvedores e usuários comuns.
O que é o phantom squatting e como ele funciona
O phantom squatting, também chamado de apropriação fantasma, consiste no registro malicioso de domínios inexistentes que são frequentemente inventados por modelos de linguagem durante suas respostas.
Embora os LLMs tenham evoluído significativamente, eles ainda apresentam um comportamento conhecido como alucinação, quando produzem informações plausíveis, porém incorretas. Isso pode incluir referências bibliográficas falsas, comandos inexistentes, funções de programação imaginárias e, principalmente, URLs que nunca existiram.
Os pesquisadores descobriram que muitos desses domínios fictícios aparecem repetidamente em respostas de diferentes modelos de IA. Como esses endereços não pertencem a ninguém, criminosos podem registrá-los rapidamente e utilizá-los para hospedar páginas falsas, distribuir malware ou capturar credenciais de usuários desatentos.
O ataque é particularmente perigoso porque o usuário acredita estar acessando um recurso legítimo recomendado por uma ferramenta considerada confiável.
A previsibilidade das alucinações de IA
Um dos aspectos mais preocupantes identificados pela Unit 42 é que as alucinações não são totalmente aleatórias.
Os pesquisadores observaram que diferentes modelos de linguagem costumam gerar os mesmos domínios inexistentes devido aos padrões aprendidos durante o treinamento. Em outras palavras, diversos sistemas de IA podem “imaginar” exatamente o mesmo endereço da web.
Essa previsibilidade permite que atacantes antecipem quais domínios têm maior probabilidade de serem sugeridos por ferramentas populares como assistentes de código, chatbots e mecanismos de pesquisa baseados em IA.
Quanto maior a adoção desses sistemas, maior também será o número de usuários potencialmente expostos a links maliciosos aparentemente legítimos.
Por que os filtros tradicionais de segurança falham
Outro fator que favorece o ataque de phantom squatting é a limitação dos mecanismos tradicionais de segurança.
Grande parte das soluções de proteção na internet depende da reputação dos domínios, listas de bloqueio e histórico de atividades maliciosas. Entretanto, um domínio recém-registrado ainda não possui histórico suficiente para ser classificado como perigoso.
Durante esse intervalo, conhecido como “janela de oportunidade”, os criminosos conseguem hospedar páginas fraudulentas antes que serviços de segurança consigam identificar e bloquear o endereço.
Na prática, isso significa que um domínio criado exclusivamente para explorar uma alucinação de IA pode permanecer ativo tempo suficiente para atingir diversas vítimas.
Casos reais: o kit de phishing Montana Empire e malware Android
Para demonstrar que o risco é concreto, a Unit 42 apresentou estudos de caso envolvendo campanhas reais.
Um dos exemplos utiliza o conhecido kit de phishing Montana Empire, amplamente empregado por grupos criminosos especializados no roubo de credenciais bancárias e contas online.
Nesse cenário, domínios registrados a partir de alucinações de IA passaram a hospedar páginas falsas que imitavam serviços postais e empresas de entrega. As vítimas eram levadas a acreditar que precisavam pagar pequenas taxas, atualizar informações de envio ou confirmar dados pessoais.
Ao inserir credenciais ou informações financeiras, os dados eram enviados diretamente aos operadores da campanha criminosa.
Outro caso analisado envolveu a distribuição de malware para Android por meio de páginas falsas que simulavam aplicativos relacionados a serviços de transporte e rastreamento de encomendas.
Como os domínios pareciam coerentes com o contexto apresentado pela IA, muitos usuários tinham pouca ou nenhuma suspeita de que estavam acessando um endereço criado especificamente para fins maliciosos.
Esses exemplos demonstram que o phantom squatting não depende exclusivamente da vulnerabilidade da inteligência artificial, mas principalmente da confiança depositada pelos usuários nas respostas geradas automaticamente.
Do slopsquatting ao phantom squatting: a evolução do problema
Embora o termo phantom squatting seja recente, ele possui uma relação direta com outro conceito que vem preocupando pesquisadores: o slopsquatting.
No ecossistema de desenvolvimento de software, especialmente em repositórios como npm, modelos de IA frequentemente sugerem bibliotecas que simplesmente não existem.
Pesquisadores demonstraram que criminosos podem registrar esses pacotes inexistentes e inserir código malicioso em seu conteúdo. Quando desenvolvedores copiam comandos gerados por assistentes de programação sem realizar verificações adicionais, acabam instalando software comprometido em seus projetos.
O estudo apresentado na USENIX mostrou que esse comportamento pode afetar significativamente cadeias modernas de desenvolvimento.
O phantom squatting amplia essa lógica para toda a internet.
Em vez de explorar pacotes de software inexistentes, os criminosos passam a registrar domínios alucinados por IA, atingindo qualquer usuário que utilize ferramentas de inteligência artificial para pesquisar informações, encontrar documentação ou localizar serviços online.
O resultado é uma superfície de ataque muito maior, envolvendo navegadores, mecanismos de busca baseados em IA, copilotos de programação e agentes autônomos.
Como se proteger das armadilhas geradas por inteligência artificial
A boa notícia é que algumas práticas simples reduzem significativamente o risco de cair em ataques relacionados ao phantom squatting.
A primeira recomendação é tratar qualquer resposta gerada por IA como um rascunho inicial, e não como uma fonte definitiva de informações.
Sempre que um chatbot fornecer um link, vale a pena confirmar se o domínio realmente pertence à empresa, organização ou projeto mencionado.
Desenvolvedores também devem evitar copiar automaticamente URLs, comandos de instalação e dependências sugeridas por copilotos de código sem verificar sua autenticidade.
Outro cuidado importante envolve o uso de agentes autônomos de IA.
À medida que essas ferramentas passam a executar tarefas automaticamente, torna-se fundamental limitar permissões, validar destinos de navegação e exigir confirmações humanas antes de acessar domínios desconhecidos.
Empresas podem complementar essas medidas utilizando soluções de segurança capazes de analisar comportamento, identificar domínios recém-criados e detectar campanhas de phishing mesmo antes que elas acumulem reputação suficiente para entrar em listas de bloqueio.
Por fim, investir em conscientização continua sendo uma das estratégias mais eficazes. Usuários que compreendem como funcionam as alucinações de IA tendem a questionar informações suspeitas e verificar fontes com muito mais frequência.
Conclusão: a corrida entre defensores e atacantes
O phantom squatting mostra que a evolução da inteligência artificial traz benefícios extraordinários, mas também cria novas oportunidades para o cibercrime.
Ao explorar uma característica inerente dos LLMs, criminosos conseguem transformar simples erros de geração de conteúdo em campanhas sofisticadas de phishing, distribuição de malware e roubo de informações.
Isso não significa que a inteligência artificial seja insegura por natureza, mas reforça que seus resultados precisam ser analisados criticamente. Assim como acontece com qualquer outra tecnologia, a supervisão humana continua sendo indispensável.
À medida que modelos de IA se tornam parte do cotidiano de desenvolvedores, empresas e usuários finais, a validação manual de links, comandos e referências será um componente essencial da segurança digital.
