O deepfake pode sumir da China muito em breve, de acordo com o regulador de internet daquele país. A China vai banir tecnologia deepfake porque considera que isso coloca em risco a segurança de empresas, pessoas e do próprio país.
As novas regras da China que proíbem a criação de deepfakes de IA usados ??para espalhar notícias falsas e se passar por pessoas sem consentimento já estão em vigor.
China vai banir tecnologia deepfake
As políticas governamentais aplicadas pela Administração do Ciberespaço da China (CAC) exigirão “provedores de serviços de síntese profunda” para garantir que seus algoritmos de IA não sejam usados indevidamente para atividades ilegais, como cometer fraudes, golpes ou distribuir informações falsas e prejudiciais. Eles também devem rotular claramente o conteúdo sintético adicionando uma marca d’água.
O CAC disse que a mídia sintética ameaça a estabilidade social e a segurança nacional da China. O regulador da Internet alertou contra o uso de IA para “produzir, copiar, publicar e disseminar informações ilegais e prejudiciais” ou se passar pela identidade de outra pessoa para cometer fraudes, de acordo com a tradução de um comunicado divulgado no mês passado.
Medida já está valendo
As novas regras descritas no “Regulamento de Administração de Síntese Profunda de Serviços de Informações da Internet” entram em vigor em 10 de janeiro de 2023. As identidades online precisam de autenticação por plataformas e os usuários devem poder denunciar conteúdo falso suspeito. Enquanto isso, as empresas devem proteger os dados do usuário para evitar que informações confidenciais sirvam para criar deepfakes maliciosos.
“Serviços que fornecem funções como diálogo inteligente, voz humana sintética, geração de rosto humano e cenas realistas imersivas que geram ou alteram significativamente o conteúdo da informação devem ser marcados com destaque para evitar confusão pública ou identificação incorreta. É necessário que nenhuma organização ou indivíduo deve usar meios técnicos para excluir, adulterar ou ocultar marcas relevantes”, acrescentou o CAC.
Tecnologia evoluiu e coloca em risco a segurança
A tecnologia Deepfake melhorou drasticamente ao longo dos anos, levando a aplicações comerciais apresentadas em anúncios e filmes. Embora ofereça novas técnicas criativas, muitos questionam se é justo imitar a imagem de alguém treinando um modelo em suas fotografias e falas sem permissão. Alguns acharam errado quando a voz de Anthony Bourdain foi clonada em um documentário sobre ele após sua morte, por exemplo.
A UE também possui regras que restringem deepfakes online, incluindo multar empresas que não possuem políticas para detectar e remover desinformação e contas de bots. Alguns estados dos EUA proibiram o uso de deepfakes para influenciar eleições ou fazer pornografia de vingança.