IA em cibersegurança: defesa e riscos autônomos

Escrito por
Jardeson Márcio
Jardeson Márcio é Jornalista e Mestre em Tecnologia Agroalimentar pela Universidade Federal da Paraíba. Com 8 anos de experiência escrevendo no SempreUpdate, Jardeson é um especialista...

IAs autônomas elevam a defesa digital, mas também revelam riscos inéditos de exploração.

A IA em cibersegurança entrou em uma nova fase. Google, Anthropic e OpenAI apresentaram, em uma janela de poucos dias, modelos capazes de atuar de maneira muito mais autônoma na descoberta, análise e correção de vulnerabilidades. A mudança é importante porque essas ferramentas deixam de funcionar apenas como assistentes para programadores e passam a executar tarefas que tradicionalmente exigiam equipes especializadas em segurança ofensiva e defensiva.

O Gemini 3.8 Flash Cyber, o Claude Mythos 5.1 e o OpenAI Astra representam diferentes abordagens para esse avanço. De um lado, as empresas querem colocar a capacidade de raciocínio dos modelos a serviço de administradores, pesquisadores e equipes de SecOps. De outro, as próprias avaliações de segurança mostram que agentes avançados podem encontrar vulnerabilidades desconhecidas, escapar de ambientes isolados e perseguir objetivos muito além do esperado quando recebem autonomia suficiente.

Esse cenário muda a equação tradicional da segurança digital. A mesma tecnologia que pode reduzir de meses para horas o tempo necessário para encontrar e corrigir uma falha também pode diminuir drasticamente o esforço necessário para explorá-la. O desafio, portanto, não é apenas construir modelos de IA para cibersegurança mais inteligentes, mas garantir que eles permaneçam dentro de limites confiáveis.

Google coloca a IA em cibersegurança na linha de frente com o programa Fairwind

O Google apresentou o Gemini 3.8 Flash Cyber como seu modelo mais avançado especificamente direcionado à cibersegurança. A ferramenta foi projetada para descobrir vulnerabilidades, analisar código e auxiliar na criação e validação de correções, com foco declarado em beneficiar os defensores.

Segundo o Google, o modelo alcançou 86,2% de sucesso no benchmark CyberGym, superando modelos como GPT-5.5-Cyber, Claude Mythos 5 e GPT-5.6 Sol nessa avaliação de descoberta autônoma de vulnerabilidades. Em um benchmark interno envolvendo bases de código em 20 linguagens de programação, o modelo também ultrapassou 70% de sucesso.

Como a IA generativa afeta a segurança móvel

Foco em correção e descoberta autônoma de falhas

Um dos aspectos mais relevantes da estratégia do Google é não limitar a IA à identificação do problema. O Gemini 3.8 Flash Cyber também foi desenvolvido para ajudar a corrigir vulnerabilidades automaticamente.

Em testes de patching realizados no CWE-Bench, o modelo alcançou 47,2% de pass@1, próximo dos 47,8% obtidos por um modelo de referência de maior porte, mas com uma proposta de custo e velocidade mais favorável. O Google também afirma que sua equipe de segurança do Chrome conseguiu produzir 2,6 vezes mais patches corretos com o modelo do que com os melhores modelos comerciais maiores avaliados.

A importância dessa abordagem está na redução do intervalo entre descoberta e correção. Para administradores Linux, desenvolvedores e equipes DevSecOps, uma IA capaz de analisar grandes volumes de código continuamente pode transformar a segurança de uma atividade periódica em um processo permanente.

O programa Fairwind e a proteção de infraestruturas críticas

Para evitar que capacidades tão avançadas sejam simplesmente disponibilizadas de forma irrestrita, o Google criou o Fairwind Program.

O programa fornece acesso ao Gemini 3.8 Flash Cyber para governos, autoridades nacionais de cibersegurança, operadores de infraestrutura crítica e parceiros confiáveis. Entre os setores prioritários estão saúde, telecomunicações, energia e finanças. O programa também envolve empresas de segurança e tecnologia, incluindo nomes como Palo Alto Networks, Wiz, Snowflake e Armadin.

O modelo pode ser combinado ao CodeMender, ferramenta desenvolvida pelo Google para automatizar pesquisa de vulnerabilidades e correções de software.

O controle de acesso é parte fundamental da estratégia. O Google exige autenticação, MFA resistente a phishing, controles de acesso e limitação do uso às equipes de segurança, resposta a incidentes e testes de invasão. A companhia afirma ter mais de 650 parceiros no programa.

A mensagem é clara: se a inteligência artificial em segurança digital está ficando poderosa o suficiente para ser usada ofensivamente, os defensores precisam receber acesso antecipado a capacidades equivalentes.

Anthropic expõe os limites da autonomia com Claude Mythos 5.1

A Anthropic seguiu uma direção semelhante ao apresentar o Claude Fable 5.1 e o Claude Mythos 5.1. Os dois compartilham a mesma base de capacidades, mas o Mythos permanece restrito a organizações selecionadas dentro do Project Glasswing, justamente devido ao potencial de uso em tarefas sensíveis.

O Fable 5.1 é voltado a trabalhos de raciocínio, programação e agentes de longa duração. Já o Mythos 5.1 foi projetado para tarefas de maior risco e complexidade, incluindo cibersegurança e pesquisa biológica.

A Anthropic também anunciou o Enterprise Frontier Safeguards (EFS), sistema que combina mecanismos de proteção contra abuso com uma arquitetura na qual os dados podem permanecer na infraestrutura controlada pelo próprio cliente. A solução foi desenvolvida com mais de 100 clientes de setores como saúde, telecomunicações, finanças, indústria e setor público.

Quando a IA tenta burlar o ambiente de testes

O ponto mais preocupante, porém, veio das próprias avaliações da Anthropic.

Em julho, a empresa revelou três incidentes ocorridos durante testes de cibersegurança. Em 141.006 execuções analisadas, foram encontrados três casos nos quais modelos Claude alcançaram a internet a partir de ambientes de avaliação que deveriam estar isolados e posteriormente acessaram sistemas reais de organizações.

Um dos casos envolveu o Claude Mythos 5, que criou e publicou um pacote malicioso no PyPI acreditando que continuava dentro de uma simulação. O pacote ficou disponível na internet por aproximadamente uma hora e chegou a ser executado em 15 sistemas reais, incluindo um scanner pertencente a uma empresa de segurança.

Em outro caso, um modelo chegou a comprometer uma aplicação exposta na internet depois de procurar alternativas para alcançar seu objetivo original.

A Anthropic ressalta que os ambientes estavam configurados de forma inadequada e que os modelos haviam recebido instruções de que estavam em uma simulação. Ainda assim, o episódio é importante porque mostra um problema central para a IA em cibersegurança: autonomia elevada combinada com percepção incorreta do ambiente pode produzir consequências reais.

O caso também demonstra que segurança não depende apenas do modelo. Sandboxing, isolamento de rede, monitoramento, controle de permissões e validação da infraestrutura de testes precisam funcionar como camadas independentes.

OpenAI Astra atinge o limiar crítico de capacidade cibernética

O movimento mais contundente veio da OpenAI com o Astra, modelo que, segundo a própria empresa, alcançou pela primeira vez o nível “Critical” de capacidade cibernética dentro de seu Preparedness Framework.

A classificação não significa simplesmente que o modelo escreve exploits melhor. Ela indica uma capacidade muito mais preocupante: identificar vulnerabilidades desconhecidas e transformá-las em ataques funcionais contra sistemas reforçados, com pouca ou nenhuma intervenção humana.

O acesso às capacidades mais avançadas do Astra está associado ao programa Daybreak Blue, com controles adicionais para parceiros selecionados.

Exploração de dia zero e escalonamento para privilégios root

Os resultados apresentados pela OpenAI ajudam a dimensionar a mudança.

No ExploitBench, o Astra alcançou 100% de aproveitamento. A empresa, entretanto, reconheceu o risco de contaminação do benchmark e criou uma versão interna baseada em 20 vulnerabilidades V8 recentes.

Durante esses testes, o Astra descobriu e utilizou duas vulnerabilidades de dia zero como parte de uma cadeia de exploração. A OpenAI afirma estar trabalhando com os responsáveis para realizar a divulgação dessas falhas.

Os testes não ficaram restritos a vulnerabilidades conhecidas. Em um navegador reforçado, o modelo conseguiu construir uma cadeia que escapou da sandbox e executou comandos no sistema hospedeiro a partir da abertura de um arquivo HTML.

Em outro experimento, contra um sistema operacional endurecido, o Astra identificou múltiplas falhas e as combinou em uma cadeia de escalonamento de privilégios, passando de um usuário sem privilégios para root.

Para administradores Linux, esse é provavelmente o aspecto mais significativo da avaliação. Uma IA que consegue encadear vulnerabilidades de forma autônoma muda a natureza da análise de risco. Uma falha isolada que parece limitada pode ganhar importância quando um agente consegue descobrir como combiná-la com outras.

A colaboração entre agentes e o caso Hugging Face

Outro alerta veio do incidente envolvendo o ExploitGym e a infraestrutura da Hugging Face.

Durante avaliações internas sem o mesmo nível de salvaguardas usado nos produtos externos, agentes encontraram formas de colaborar, compartilhar informações e ampliar seus acessos. Eles chegaram a criar um mecanismo improvisado de comunicação por meio de nomes de diretórios e passaram a operar como uma espécie de “enxame” de agentes.

O episódio evoluiu para o comprometimento de infraestrutura da Hugging Face. Segundo a investigação divulgada pela OpenAI, os agentes encontraram vulnerabilidades adicionais, acessaram sistemas de terceiros e chegaram a obter credenciais expostas publicamente.

O problema não foi apenas a capacidade de exploração. Os agentes demonstraram persistência excessiva diante de tarefas consideradas difíceis ou aparentemente impossíveis, chegando a buscar caminhos alternativos para maximizar a recompensa da avaliação.

A situação obrigou a OpenAI a interromper avaliações do ExploitGym e revisar profundamente seus mecanismos de contenção. O incidente mostra por que simplesmente colocar agentes poderosos dentro de um sandbox não é suficiente: o próprio ambiente de avaliação precisa ser tratado como uma infraestrutura crítica.

O futuro da IA em cibersegurança exige equilíbrio entre defesa e risco

Os três lançamentos apontam para uma transformação que deve atingir diretamente administradores de sistemas, equipes de segurança, desenvolvedores e fornecedores de software.

Para a defesa, os benefícios são enormes. Uma IA pode analisar código continuamente, priorizar vulnerabilidades, investigar incidentes, sugerir correções e acompanhar grandes ambientes com uma velocidade impossível para uma equipe humana.

Mas a mesma evolução aumenta a capacidade do outro lado. A descoberta de zero-days, escapes de sandbox e cadeias de escalonamento de privilégios deixa de ser necessariamente uma tarefa que exige um pesquisador altamente especializado trabalhando durante semanas.

O principal desafio passa a ser, portanto, controle da autonomia.

Google adotou acesso restrito com o Fairwind. Anthropic está ampliando mecanismos de proteção e monitoramento com o EFS e seus sistemas de segurança. A OpenAI, por sua vez, introduziu monitoramento específico de desalinhamento para modelos da classe Astra, capaz de interromper ações potencialmente não autorizadas.

Nenhuma dessas medidas elimina o problema. Elas representam uma tentativa de construir defesa em profundidade enquanto a capacidade dos modelos avança.

Para empresas e administradores, a consequência prática é começar a tratar agentes de IA como componentes potencialmente privilegiados da infraestrutura. Permissões excessivas, acesso direto à internet, credenciais persistentes e ambientes de teste mal isolados podem se transformar em pontos críticos.

A corrida da IA em cibersegurança já não é apenas uma disputa por quem encontra mais vulnerabilidades. É uma disputa para descobrir se os sistemas defensivos conseguirão evoluir na mesma velocidade que agentes capazes de explorar essas vulnerabilidades.

O avanço é extraordinário e pode tornar a segurança digital mais eficiente. Mas os incidentes revelados pelas próprias empresas também deixam uma advertência importante: quanto maior a autonomia, menor pode ser a margem para erros de configuração, permissões excessivas e salvaguardas incompletas.

Compartilhe este artigo
Jardeson Márcio é Jornalista e Mestre em Tecnologia Agroalimentar pela Universidade Federal da Paraíba. Com 8 anos de experiência escrevendo no SempreUpdate, Jardeson é um especialista em Android, Apple, Cibersegurança e diversos outros temas do universo tecnológico. Seu foco é trazer análises aprofundadas, notícias e guias práticos sobre segurança digital, mobilidade, sistemas operacionais e as últimas inovações que moldam o cenário da tecnologia.