O Google anunciou o lançamento de um grande conjunto de deepfakes visuais produzidos em colaboração com a Jigsaw, a incubadora de tecnologia interna da gigante da tecnologia que visam derrotar vídeos deepfake. Dessa maneira, ele foi incorporado à nova Universidade Técnica de Munique e ao novo benchmark FaceForensics da Universidade Federica II de Nápoles – um esforço que o Google co-patrocina – onde está disponível gratuitamente aos pesquisadores para uso no desenvolvimento de técnicas de detecção de vídeo sintética.
O lançamento segue um conjunto de fala contendo frases faladas pelos modelos de conversão de texto em voz da empresa de Mountain View, como parte da competição AVspoof 2019 para desenvolver sistemas que podem distinguir entre fala real e gerada por computador. O Google diz que foi baixado por mais de 150 organizações de pesquisa e indústria até o momento.
Google libera conjunto de dados para ajudar a derrotar deepfake
O cientista do Google, Nick Dufour, e o gerente de pesquisa técnica da Jigsaw, Andrew Gully, em uma postagem no blog, escreveram:
Desde [a] primeira aparição [dos deepfakes] no final de 2017, surgiram muitos métodos de geração de deepfake de código aberto, levando a um número crescente de clipes de mídia sintetizados. Enquanto muitos provavelmente pretendem ser engraçados, outros podem ser prejudiciais aos indivíduos e à sociedade.
Segundo o Google, a compilação do conjunto de dados exigia o trabalho de atores pagos e autorizados para gravar “centenas” de vídeos. A empresa e seus parceiros, incluindo a equipe por trás do FaceForensics, produziram “milhares” de deepfakes a partir dos vídeos, resultando na coleta de amostras reais e falsas.
O Google diz que será adicionado ao conjunto à medida que a tecnologia deepfake evoluir ao longo do tempo e que continuará a trabalhar com parceiros no espaço. Dufour e Gully acrescentaram :
Acreditamos firmemente em apoiar uma comunidade de pesquisa próspera em torno da mitigação de possíveis danos causados pelo uso indevido de mídia sintética. Além disso, a liberação de hoje do nosso conjunto de dados deepfake no benchmark FaceForensics é um passo importante nessa direção.
O potencial impacto de vídeos deepfakes
Os sistemas de IA que podem ser usados para gerar mídias enganosas foram objeto de um exame minucioso recentemente. Em setembro, os membros do Congresso enviaram uma carta ao diretor de Inteligência Nacional, Dan Coats. Eles solicitaram um relatório das agências de inteligência sobre o potencial impacto dos deepfakes sobre a democracia e a segurança nacional. (Deepfakes: Vídeos feitos usando IA que digitalmente enxertam rostos nos corpos de outras pessoas). Igualmente, os membros do Congresso conversaram com o COO do Facebook, Sheryl Sandberg, e o CEO do Twitter, Jack Dorsey. Assim, eles expressaram preocupação com o potencial impacto de vídeos manipulativos em uma audiência no Congresso no final de 2018.
Há muitas razões para se preocupar. O aplicativo chinês gerador de deepfakes ZAO se tornou viral no início deste ano, ao mesmo tempo em que surgiram relatos do que poderia ter sido o primeiro uso de uma voz sintética para se passar pelo CEO de uma grande corporação.
A luta contra os deepfakes está aumentando
Felizmente, a luta contra os deepfakes parece estar aumentando. No último verão, os membros do programa Media Forensics da DARPA testaram um sistema prototípico que podia detectar automaticamente vídeos gerados por IA. Em parte, procuraram por pistas como piscadas não naturais. Startups como a Truepic levantaram uma rodada de financiamento de US $ 8 milhões em julho. Dessa forma, elas estão experimentando modelos de negócios de “detecção como serviço” das deepfakes. E, no início deste mês, o Facebook, juntamente com a Partnership on AI, Microsoft e acadêmicos, lançou o Deepfake Detection Challenge. Esse desafio oferecerá até US $ 10 milhões em doações e prêmios para estimular o desenvolvimento de sistemas de detecção de deepfake.
Se gostou deste artigo sobre o Google se mobilizando para derrotar vídeos deepfake, não deixe de compartilhar!
Fonte: Venture Beat
Leia também: Facebook, Microsoft e acadêmicos lançam competição de detecção de deepfake
