O deepfake, ou criação de imagens e vídeos falsos com pessoas verdadeiras está se tornando um grande problema. Agora, as vítimas são principalmente mulheres que, de repente, tiveram imagens falsas no Telegram. Simplesmente, robôs estão recriando imagens e expondo as mulheres no app de mensagens. Assim, os chamados DeepNude Bots no Telegram criaram mais de 100 mil nus com deepfake. A descoberta é da empresa de inteligência de ameaças visuais, Sensity.
Ela descobriu uma rede maliciosa de deepfake bots no aplicativo de mensagens Telegram. Estes bots permitem aos usuários criar AI -generated com “explícitas deepfakes“. A Sensity afirma que a rede de bots já criou fotos falsas computadorizadas ou deepfakes de mais de 104.000 mulheres. A empresa também confirmou que um “número limitado” de vítimas é menor de idade.
DeepNude Bots do Telegram criaram mais de 100 mil nus com deepfake
De acordo com o site Engadget, os deepfake bots viram um aumento alarmante no tráfego de 200% nos últimos três meses. Um fator determinante por trás disso é que os bots são de uso gratuito e acessíveis na maioria dos telefones.
A Sensity constatou que cerca de 70% da base de usuários de robôs deepfake está na Rússia, apesar de o país ter desbloqueado o Telegram apenas recentemente. O que é mais preocupante é que a rede de bots também se infiltrou no maior site de rede social da Rússia, a VK.
Notícias Relacionadas
Tecnologia móvel
Samsung destaca avanço nas mensagens RCS com suporte no iOS
O suporte a RCS chega ao iOS com o iOS 18.1, permitindo que usuários de Android e iPhone aproveitem uma experiência de mensagens aprimorada e sem necessidade de redes sociais.
Mercado elétrico
Xiaomi atinge R$ 7,14 bilhões em receita com veículos elétricos no 3º trimestre de 2024
Xiaomi fecha o 3º trimestre de 2024 com R$ 7,14 bilhões em receita com veículos elétricos, impulsionado pelo sucesso da série SU7, apesar do prejuízo operacional.
No entanto, os bots ainda não conseguiram se firmar em países de língua inglesa, como Reino Unido, Estados Unidos, Austrália etc.
Como funcionam os DeepNude Bots no Telegram para produzirem deepfakes
A Sensity especula que os bots do Telegram podem estar usando o mesmo algoritmo de aprendizado de máquina usado pelo aplicativo DeepNude. Embora o DeepNude tenha sido removido em junho de 2019, o código-fonte permanece disponível em vários sites de torrent e repositórios de código aberto. Existem até sites prometendo o programa totalmente grátis para instalação.
Com o avanço da IA continuamente preenchendo a lacuna entre a mídia real e a falsa, os deepfakes recentemente invadiram a Internet de várias formas, desde vídeos transformados de políticos a imagens explícitas de celebridades.
Portanto, plataformas como o Telegram devem tomar medidas eficazes para reprimir o conteúdo ilícito e garantir um ambiente social seguro online.
