Pesquisadores revelaram como o modelo avançado ChatGPT-4o da OpenAI pode ser abusado para conduzir golpes financeiros por meio de comandos de voz, com taxas de sucesso entre 20% e 60%. Este modelo, que integra texto, voz e visão em suas respostas, apresenta vulnerabilidades que, mesmo com proteções implementadas, podem ser contornadas.
Uso do ChatGPT-4o em golpes financeiros online
O ChatGPT-4o inclui salvaguardas para evitar usos prejudiciais, como imitação de vozes não autorizadas. No entanto, um estudo conduzido por Richard Fang, Dylan Bowman e Daniel Kang, da Universidade de Illinois em Urbana-Champaign (UIUC), demonstrou que, com técnicas simples de modificação de comandos (conhecidas como “jailbreaking”), criminosos podem burlar essas defesas.
Como funcionam os golpes
Os agentes virtuais usam ferramentas automatizadas do ChatGPT-4o para executar ações, como navegação em sites, preenchimento de formulários e gerenciamento de autenticações de dois fatores. O estudo simulou interações reais, onde os pesquisadores, representando vítimas crédulas, confirmaram a execução de transações, incluindo transferências bancárias em sites como o Bank of America.
Notícias Relacionadas
Contribuições brasileiras
Contribuições brasileiras para IA generativa aumentam 55% no GitHub em 2024
O Brasil obteve um crescimento notável em suas contribuições a projetos de inteligência artificial generativa no GitHub em 2024, registrando um aumento de 55%. Esses dados, apresentados no relatório anual State of the Octoverse da plataforma, mostram que o país não só expandiu em número de desenvolvedores, como também avançou em sua participação na criação […]
Tecnologia inovadora
Por que os resumos de IA da Samsung podem se destacar em relação aos da Apple
A Samsung está desenvolvendo uma ferramenta de IA para resumir notificações que promete superar a solução da Apple, oferecendo suporte a múltiplos idiomas e recursos inovadores.
Custos e eficácia
Os golpes demonstrados variaram em complexidade e custo, indo de US$ 0,75 (cerca de R$ 4,28) para ataques simples até US$ 2,51 (cerca de R$ 14,30) para transferências bancárias mais complexas. Embora o custo por tentativa seja baixo, os lucros potenciais desses golpes são elevados. Golpes envolvendo roubo de credenciais em e-mails foram os mais bem-sucedidos, com uma taxa de sucesso de 60%.
Resposta da OpenAI e futuras proteções
A OpenAI, em resposta ao estudo, enfatizou que seu modelo de pré-visualização “o1” oferece maior resistência a abusos, marcando 93% em testes de segurança, comparado aos 71% do GPT-4o. A empresa reforçou que aprimora continuamente suas tecnologias e considera esses estudos essenciais para aumentar a segurança de suas IAs.
Apesar dessas melhorias, a ameaça de exploração por modelos menos protegidos permanece real, destacando a importância de monitorar e evoluir a segurança em tecnologias de IA com comando de voz.
