Pesquisadores revelaram como o modelo avançado ChatGPT-4o da OpenAI pode ser abusado para conduzir golpes financeiros por meio de comandos de voz, com taxas de sucesso entre 20% e 60%. Este modelo, que integra texto, voz e visão em suas respostas, apresenta vulnerabilidades que, mesmo com proteções implementadas, podem ser contornadas.
Uso do ChatGPT-4o em golpes financeiros online
O ChatGPT-4o inclui salvaguardas para evitar usos prejudiciais, como imitação de vozes não autorizadas. No entanto, um estudo conduzido por Richard Fang, Dylan Bowman e Daniel Kang, da Universidade de Illinois em Urbana-Champaign (UIUC), demonstrou que, com técnicas simples de modificação de comandos (conhecidas como “jailbreaking”), criminosos podem burlar essas defesas.
Como funcionam os golpes
Os agentes virtuais usam ferramentas automatizadas do ChatGPT-4o para executar ações, como navegação em sites, preenchimento de formulários e gerenciamento de autenticações de dois fatores. O estudo simulou interações reais, onde os pesquisadores, representando vítimas crédulas, confirmaram a execução de transações, incluindo transferências bancárias em sites como o Bank of America.
Notícias Relacionadas
Custos e eficácia
Os golpes demonstrados variaram em complexidade e custo, indo de US$ 0,75 (cerca de R$ 4,28) para ataques simples até US$ 2,51 (cerca de R$ 14,30) para transferências bancárias mais complexas. Embora o custo por tentativa seja baixo, os lucros potenciais desses golpes são elevados. Golpes envolvendo roubo de credenciais em e-mails foram os mais bem-sucedidos, com uma taxa de sucesso de 60%.
Resposta da OpenAI e futuras proteções
A OpenAI, em resposta ao estudo, enfatizou que seu modelo de pré-visualização “o1” oferece maior resistência a abusos, marcando 93% em testes de segurança, comparado aos 71% do GPT-4o. A empresa reforçou que aprimora continuamente suas tecnologias e considera esses estudos essenciais para aumentar a segurança de suas IAs.
Apesar dessas melhorias, a ameaça de exploração por modelos menos protegidos permanece real, destacando a importância de monitorar e evoluir a segurança em tecnologias de IA com comando de voz.
