O deepfake, ou criação de imagens e vídeos falsos com pessoas verdadeiras está se tornando um grande problema. Agora, as vítimas são principalmente mulheres que, de repente, tiveram imagens falsas no Telegram. Simplesmente, robôs estão recriando imagens e expondo as mulheres no app de mensagens. Assim, os chamados DeepNude Bots no Telegram criaram mais de 100 mil nus com deepfake. A descoberta é da empresa de inteligência de ameaças visuais, Sensity.
Ela descobriu uma rede maliciosa de deepfake bots no aplicativo de mensagens Telegram. Estes bots permitem aos usuários criar AI -generated com “explícitas deepfakes“. A Sensity afirma que a rede de bots já criou fotos falsas computadorizadas ou deepfakes de mais de 104.000 mulheres. A empresa também confirmou que um “número limitado” de vítimas é menor de idade.
DeepNude Bots do Telegram criaram mais de 100 mil nus com deepfake
De acordo com o site Engadget, os deepfake bots viram um aumento alarmante no tráfego de 200% nos últimos três meses. Um fator determinante por trás disso é que os bots são de uso gratuito e acessíveis na maioria dos telefones.
A Sensity constatou que cerca de 70% da base de usuários de robôs deepfake está na Rússia, apesar de o país ter desbloqueado o Telegram apenas recentemente. O que é mais preocupante é que a rede de bots também se infiltrou no maior site de rede social da Rússia, a VK.
No entanto, os bots ainda não conseguiram se firmar em países de língua inglesa, como Reino Unido, Estados Unidos, Austrália etc.
Como funcionam os DeepNude Bots no Telegram para produzirem deepfakes
A Sensity especula que os bots do Telegram podem estar usando o mesmo algoritmo de aprendizado de máquina usado pelo aplicativo DeepNude. Embora o DeepNude tenha sido removido em junho de 2019, o código-fonte permanece disponível em vários sites de torrent e repositórios de código aberto. Existem até sites prometendo o programa totalmente grátis para instalação.
Com o avanço da IA continuamente preenchendo a lacuna entre a mídia real e a falsa, os deepfakes recentemente invadiram a Internet de várias formas, desde vídeos transformados de políticos a imagens explícitas de celebridades.
Portanto, plataformas como o Telegram devem tomar medidas eficazes para reprimir o conteúdo ilícito e garantir um ambiente social seguro online.
