Pesquisadores alertam para vulnerabilidades críticas no Vertex AI ML do google

Pesquisadores de segurança cibernética identificaram duas graves vulnerabilidades na plataforma de aprendizado de máquina Vertex AI, do Google. Essas falhas podem permitir que invasores escalem privilégios e extraiam dados confidenciais, colocando modelos ajustados e informações proprietárias em risco.

Pesquisadores revelam falhas críticas no Vertex AI do google

O Vertex AI é uma plataforma usada para treinar e implantar modelos de machine learning em larga escala. Um dos principais componentes afetados é o Vertex AI Pipelines, uma ferramenta para automação e monitoramento de fluxos de trabalho MLOps.

Os pesquisadores da Unidade 42 da Palo Alto Networks, Ofir Balassiano e Ofir Shaty, descobriram que, manipulando permissões de trabalhos personalizados, invasores podem:

• Criar um shell reverso para obter acesso remoto ao ambiente;
• Listar contas de serviço, acessar buckets de armazenamento e explorar tabelas do BigQuery, ampliando o alcance do ataque.

Outro vetor de ataque envolve o uso de um modelo malicioso, que, quando implantado, explora permissões para acessar clusters Kubernetes e executar comandos arbitrários. Isso possibilita extrair dados confidenciais diretamente de contêineres associados aos modelos.

Riscos para dados proprietários

As vulnerabilidades também permitem que invasores exportem modelos de linguagem (LLMs) e seus adaptadores ajustados. Esses modelos podem ser carregados em repositórios públicos, facilitando ataques em grande escala.