A segurança em agentes de IA entrou definitivamente na lista de prioridades das empresas. Com a rápida evolução dos agentes autônomos, capazes de executar tarefas, manipular arquivos, acessar sistemas e até tomar decisões com pouca intervenção humana, cresce também a preocupação sobre como impedir que esses modelos sejam explorados por criminosos ou acabem comprometendo ambientes corporativos. A resposta da indústria começa a ganhar forma por meio de iniciativas colaborativas e abertas.
Nesse cenário surge a Open Secure AI Alliance (OSAIA), uma iniciativa liderada pela Linux Foundation, com participação da NVIDIA e de dezenas de empresas do setor de tecnologia e segurança. O objetivo é estabelecer uma base comum para desenvolver ferramentas, padrões e práticas que aumentem a confiança na utilização de agentes inteligentes, especialmente em ambientes críticos.
Ao mesmo tempo, a NVIDIA apresentou o NOOA (NVIDIA-labs Open Operator Agent), um framework de código aberto desenvolvido em Python que busca tornar agentes de IA mais previsíveis, auditáveis e seguros. A iniciativa ganha ainda mais relevância quando analisada à luz de episódios recentes, como o incidente envolvendo a Hugging Face, que demonstrou, na prática, por que modelos abertos executados localmente podem ser essenciais durante investigações de segurança cibernética.
O que é a Open Secure AI Alliance e quem faz parte
A criação da Open Secure AI Alliance representa uma mudança importante na forma como a indústria pretende enfrentar os desafios da inteligência artificial. Em vez de cada empresa desenvolver mecanismos de proteção isoladamente, a proposta é reunir conhecimento, ferramentas e experiências em um ecossistema colaborativo de código aberto.
A aliança nasce com 37 organizações, reunindo fabricantes de hardware, empresas de software, fornecedores de segurança, comunidades open source e instituições responsáveis por projetos de infraestrutura crítica.
Entre os participantes estão nomes de grande peso, como NVIDIA, Linux Foundation, Red Hat, Microsoft, Cisco, CrowdStrike, além de diversas outras empresas envolvidas com inteligência artificial, infraestrutura em nuvem, observabilidade e segurança digital.
Essa diversidade é um dos maiores diferenciais da iniciativa. Afinal, proteger agentes inteligentes exige conhecimentos que vão muito além do desenvolvimento de modelos de linguagem.
É necessário considerar aspectos como:
- Governança dos modelos
- Controle de acesso
- Auditoria das decisões
- Proteção da cadeia de suprimentos de software
- Execução isolada de código
- Observabilidade das ações dos agentes
- Resposta a incidentes
A proposta da aliança é justamente criar componentes reutilizáveis para que empresas possam construir agentes de IA confiáveis sem precisar reinventar toda a infraestrutura de segurança.
Outro aspecto importante é a adoção da filosofia open source. Em vez de depender exclusivamente de soluções proprietárias, a comunidade poderá inspecionar, validar e melhorar continuamente os projetos desenvolvidos dentro da iniciativa.
Essa transparência tende a acelerar a identificação de vulnerabilidades e aumentar a confiança em sistemas utilizados por governos, empresas e provedores de infraestrutura crítica.
Segurança em agentes de IA exige novos modelos de governança
Os agentes de IA representam uma evolução significativa em relação aos chatbots tradicionais.
Enquanto um assistente conversacional normalmente apenas responde perguntas, um agente moderno pode:
- Executar comandos no sistema operacional
- Criar arquivos
- Modificar configurações
- Consumir APIs
- Consultar bancos de dados
- Interagir com aplicações corporativas
- Tomar decisões com base em múltiplas etapas
Na prática, isso transforma o modelo em um novo elemento da infraestrutura de TI.
Consequentemente, conceitos tradicionais de segurança passam a ser insuficientes.
Agora torna-se necessário controlar:
- quais ferramentas um agente pode utilizar;
- quais comandos ele está autorizado a executar;
- quais informações podem ser acessadas;
- como registrar todas as suas ações para auditoria posterior.
É exatamente nesse ponto que iniciativas como a Open Secure AI Alliance ganham importância estratégica.
Conheça o NOOA: o framework da NVIDIA para segurança em agentes de IA
Entre os primeiros projetos apresentados pela aliança está o NOOA (NVIDIA-labs Open Operator Agent).
Desenvolvido pela NVIDIA, o framework possui código aberto sob licença Apache 2.0 e foi criado para facilitar o desenvolvimento de agentes operacionais com maior controle sobre sua execução.
Escrito em Python, o projeto oferece uma arquitetura que permite organizar tarefas complexas em fluxos previsíveis, reduzindo comportamentos inesperados que costumam surgir quando agentes recebem autonomia excessiva.
O principal diferencial do NOOA é separar claramente cada etapa da execução.
Em vez de permitir que um modelo tome decisões completamente livres, o framework estabelece estados definidos, regras explícitas e mecanismos determinísticos para controlar o fluxo de trabalho.
Isso torna o comportamento do agente muito mais fácil de entender, depurar e auditar.
Como o NOOA aumenta a segurança em agentes de IA
Outro ponto importante é a preocupação com o isolamento da execução.
O framework foi projetado para funcionar em conjunto com mecanismos de proteção do sistema operacional, recomendando que cada agente seja executado dentro de contêineres, sandboxes ou ambientes equivalentes.
Essa abordagem reduz significativamente o impacto caso um agente seja comprometido ou execute uma ação inesperada.
Mesmo que uma tarefa apresente comportamento malicioso, seu alcance permanece restrito ao ambiente isolado.
Na prática, o NOOA incentiva boas práticas como:
- Execução isolada por contêiner
- Controle explícito de estados
- Fluxos determinísticos
- Registro detalhado das operações
- Facilidade de auditoria
- Arquitetura modular
- Integração com ferramentas corporativas
Outro benefício importante está na facilidade de integração.
Como utiliza Python, o framework pode ser incorporado a diversos projetos existentes, reduzindo a curva de adoção para equipes que já trabalham com automação, aprendizado de máquina ou plataformas de IA.
O caso Hugging Face e a importância dos modelos locais
Poucos episódios ilustram tão bem a importância da execução local quanto o incidente recente envolvendo a Hugging Face.
Durante o ataque, agentes autônomos conseguiram acessar e manipular informações internas, gerando um cenário complexo para a equipe responsável pela investigação.
A etapa de análise exigia compreender exatamente como os agentes haviam se comportado, quais comandos foram executados e quais artefatos haviam sido produzidos.
Nesse momento surgiu um obstáculo inesperado.
Diversos modelos comerciais disponibilizados por API recusaram analisar parte dos artefatos relacionados ao incidente devido às políticas internas de segurança implementadas pelos fornecedores.
Embora essas restrições façam sentido para evitar usos indevidos, elas também podem limitar investigações legítimas conduzidas por equipes de resposta a incidentes.
Foi justamente nesse contexto que um modelo aberto, executado localmente — citado como GLM — permitiu que os pesquisadores continuassem a análise sem depender de decisões tomadas por serviços externos.
Esse episódio evidencia uma diferença fundamental entre modelos fechados e modelos abertos.
Quando uma empresa executa sua própria IA internamente, ela mantém controle sobre:
- Os dados processados
- As políticas de execução
- As limitações impostas ao modelo
- A disponibilidade do serviço
- A privacidade das informações analisadas
Para operações de SecOps, isso representa uma vantagem estratégica.
Durante um incidente crítico, depender exclusivamente de APIs externas pode significar atrasos, restrições ou até impossibilidade de concluir determinadas análises.
Modelos locais eliminam grande parte dessa dependência.
IA aberta fortalece a segurança cibernética corporativa
A discussão não gira apenas em torno da abertura do código.
O verdadeiro diferencial está na capacidade de inspecionar todo o ciclo de funcionamento da inteligência artificial.
Com projetos abertos, especialistas conseguem:
- validar decisões;
- revisar implementações;
- identificar vulnerabilidades;
- criar mecanismos próprios de proteção;
- adaptar o software às necessidades específicas da organização.
Essa flexibilidade é particularmente importante para setores altamente regulados, como instituições financeiras, órgãos governamentais, telecomunicações e infraestrutura crítica.
Além disso, iniciativas abertas aceleram a inovação.
Quando milhares de desenvolvedores colaboram em um mesmo projeto, novas funcionalidades, correções e melhorias tendem a surgir em ritmo muito superior ao observado em plataformas fechadas.
O futuro da segurança cibernética na era dos agentes de IA
A criação da Open Secure AI Alliance sinaliza uma tendência que provavelmente marcará os próximos anos da inteligência artificial: a segurança deixará de ser um complemento para se tornar parte da arquitetura desde o primeiro momento.
À medida que agentes inteligentes assumem tarefas cada vez mais complexas dentro das empresas, cresce também a necessidade de mecanismos robustos de auditoria, isolamento, rastreabilidade e governança. Frameworks como o NOOA demonstram que é possível equilibrar autonomia e controle, oferecendo uma base mais confiável para o desenvolvimento de soluções corporativas.
O caso da Hugging Face reforça outra lição importante: depender exclusivamente de modelos hospedados por terceiros pode criar limitações justamente nos momentos em que as equipes de segurança mais precisam de flexibilidade. A possibilidade de executar modelos abertos localmente amplia a capacidade de investigação, preserva a privacidade dos dados e reduz dependências externas.
Para a comunidade de Linux, código aberto e segurança cibernética, essa movimentação representa mais do que uma nova iniciativa da indústria. Trata-se de um passo relevante na construção de um ecossistema em que inteligência artificial e transparência caminham juntas, permitindo que empresas adotem agentes autônomos com maior confiança e resiliência.
Nos próximos anos, a colaboração entre fabricantes, comunidades open source e especialistas em segurança deverá definir os padrões que orientarão o uso responsável da IA em ambientes corporativos. Se essa estratégia coletiva alcançar seus objetivos, a segurança em agentes de IA poderá evoluir no mesmo ritmo acelerado da própria inteligência artificial, tornando a inovação mais segura para organizações e usuários.
