in

Aplicativo ‘Deepfake’ causa medo de fraude e privacidade na China

Um aplicativo de inteligência artificial que permite aos usuários inserir seus rostos no lugar dos personagens de filmes e TV causou controvérsia na China.

aplicativo-deepfake-causa-medo-de-fraude-e-privacidade-na-china

Zao provocou receios e sugestões sobre privacidade que poderiam ser usados ??para burlar sistemas usando o reconhecimento facial. Ele apareceu na China em 29 de agosto e tornou-se muito popular.

Mas isso levou os desenvolvedores Momo a se desculparem devido ao seu contrato de usuário final, onde retirou os direitos dos usuários sobre suas imagens. E, quando o aplicativo se tornou viral, os proprietários de Zao ficaram com medo de que seus usuários derrubassem os servidores do aplicativo.

Sua popularidade também chamou a atenção da Alipay, parte da gigante chinesa da web Alibaba, dizendo que é impossível que os chamados vídeos deepfake criados pelo aplicativo sejam usados ??para enganar o sistema de reconhecimento facial Smile to Pay.

O que é Zao?

O Zao é um aplicativo que troca o rostos, e ele usa clipes de filmes e programas de TV, mudando de forma convincente o rosto de um personagem usando selfies no telefone do usuário.

Confira o vídeo abaixo, onde um usuário demonstrou o uso do Zao:

Mas alguns usuários observaram que os termos e condições do aplicativo “deram aos desenvolvedores o direito global de usar permanentemente qualquer imagem criada no aplicativo gratuitamente”, relatou o South China Morning Post de Hong Kong .

“Além disso, os desenvolvedores tinham o direito de transferir essa autorização para terceiros sem a permissão do usuário”, afirmou o jornal, acrescentando que especialistas acreditam que isso infringe a lei chinesa.

Momo posteriormente excluiu a cláusula controversa e emitiu um pedido de desculpas, dizendo que seu aplicativo não armazenaria informações biométricas dos usuários nem “coletaria informações excessivamente do usuário”, disse o jornal The Paper, de Xangai .

Mas a popular plataforma de mídia social WeChat proibiu os usuários de enviarem vídeos Zao através de sua plataforma, citando “riscos à segurança”.

O aplicativo também pode ser vítima de seu próprio sucesso, com Zao dizendo que, em sua conta de mídia social Sina Weibo, havia usado um terço de sua capacidade mensal de servidores, orçada em 7 milhões de yuans (£ 805.000), em sua primeira noite.

E no dia seguinte, quando os usuários se queixaram de um serviço lento, “com o coração pesado”, os servidores estavam em plena capacidade.

O que esta circulando na imprensa chinesa?

As preocupações com o aplicativo chegaram à imprensa chinesa. O Global Times disse que este é outro exemplo de “relativo a” aplicativos movidos a IA “que pode ser usado maliciosamente”.

A China já estava considerando regulamentações mais rígidas que governam a tecnologia facial por IA, segundo o jornal. E o advogado Zhang Xinnian disse que as leis que regem os termos e condições dos aplicativos de telefone precisam ser mais rígidas.

Os termos iniciais de Zao “violaram a privacidade do usuário e, uma vez vazadas e abusadas, as informações pessoais podem levar a incidentes criminais”, acrescentou.

Enquanto isso, o professor de direito Zhu Wei disse à agência de notícias estatal Xinhua : “As pessoas estão usando um aplicativo que envolve informações sobre identidade pessoal, propriedade, códigos de verificação e pagamentos e não conseguem ver exatamente quais informações são capturadas pelo aplicativo é muito perigoso”.

Um comentário no Beijing News chegou a perguntar se o aplicativo poderia se tornar “uma ameaça à segurança nacional”.

Com preocupações genuínas sobre a segurança nacional e sobre possíveis novos serviços deepfake, “é necessário regulá-los o mais rápido possível com disposições legais claras”, acrescentou.

Um editorial do Guangzhou Daily disse: “Vídeos que mudam os rostos são divertidos, mas os riscos potenciais à segurança não podem ser ignorados”.

Com informações da BBC, BBC Monitoring, Guangzhou Daily, The Paper, Beijing News, Global Time, Zhu Wei, Xinhua, Pan Helin

Escrito por Emanuel Negromonte

Fundador do SempreUPdate. Acredita no poder do trabalho colaborativo, no GNU/Linux, Software livre e código aberto. É possível tornar tudo mais simples quando trabalhamos juntos, e tudo mais difícil quando nos separamos.

Livros pirateados estão cheios de malwares

Livros pirateados estão cheios de malwares

Manifestantes em Hong Kong usam aplicativos de mensagem offline

Manifestantes em Hong Kong usam aplicativos de mensagem offline