Em 2019, o Facebook lançou o Deepfake Detection Challenge: um concurso público para desenvolver sistemas de detecção para combater a ameaça emergente de vídeos deepfake. Depois de quase um ano, a plataforma anunciou os vencedores do desafio, dentre um conjunto de mais de 2.000 concorrentes globais.
Os deepfakes apresentam um desafio único para as plataformas de mídia social pois são capazes de ser produzidos com pouco mais do que uma GPU e software de nível que pode ser baixado da internet. Com isso, os indivíduos podem criar rápida e facilmente clipes de vídeo fraudulentos.
O desafio do Facebook procura combater essas informações erradas em grande escala, detectando e sinalizando automaticamente vídeos potencialmente ofensivos para posterior análise.
Facebook anuncia o vencedor do Deepfake Detection Challenge
Mike Schroepfer, CTO do Facebook, disse:
Nosso interesse pessoal nisso são os tipos de vídeos compartilhados em plataformas como o Facebook. Portanto, esses vídeos não tendem a ter iluminação profissional, não estão em estúdio […]; tentamos imitar o máximo possível o conjunto de dados.
O Facebook gastou cerca de US$ 10 milhões no concurso e contratou mais de 3.500 atores para gerar milhares de vídeos (38,5 dias de dados). Era o tipo de amador por telefone que você costuma ver nas mídias sociais, em vez dos vídeos perfeitamente iluminados e em estúdio criados por influenciadores.
A empresa então deu esses conjuntos de dados aos pesquisadores. O primeiro era um conjunto disponível ao público, o segundo, um conjunto de “caixa preta” de mais de 10.000 vídeos com truques técnicos adicionais, como taxas de quadros e qualidades de vídeo ajustadas, sobreposições de imagem, imagens não relacionadas, intercaladas pelos quadros do vídeo. Inclusive incluiu alguns efeitos benignos e não profundos.
Nos conjuntos de dados públicos, os concorrentes obtiveram média de precisão acima de 82%. No entanto, para o conjunto de caixas pretas, o modelo do participante vencedor, Selim Seferbekov, obteve média acima de 65% de precisão, apesar dos truques e armadilhas digitais necessários.
Schroepfer disse:
O concurso foi mais bem sucedido do que eu jamais poderia ter esperado. Tivemos 2000 participantes que enviaram 35.000 modelos.
Por fim, a empresa pretende liberar esses modelos sob uma licença de código-fonte aberto, permitindo que qualquer engenheiro de software empreendedor tenha acesso livre ao código.
Fonte: Engadget