Microsoft combate deepfakes com novas ferramentas de autenticação

A Microsoft lançou uma nova ferramenta de autenticador de vídeo, que pode analisar uma foto ou vídeo para fornecer uma porcentagem da chance de um pedaço de mídia ser artificialmente manipulado (deepfakes).

No caso de vídeos, a Microsoft disse que poderia fornecer essa porcentagem em tempo real para cada quadro à medida que o vídeo é reproduzido. Ele funciona detectando o limite de mesclagem dos elementos deepfake (fotos, vídeos ou arquivos de áudio manipulados por inteligência artificial); e tons de cinza que podem não ser detectados pelo olho humano.

Microsoft combate deepfakes com novas ferramentas de autenticação

A Microsoft disse que a detecção de deepfakes é crucial na preparação para as eleições nos EUA. A tecnologia foi criada usando um conjunto de dados público do Face Forensic++ e foi testada no DeepFake Detection Challenge Dataset, um modelo líder para treinamento e teste de tecnologias de detecção de deepfake.

Assim, a Microsoft disse:

Esperamos que os métodos de geração de mídia sintética continuem a crescer em sofisticação. Como todos os métodos de detecção de IA têm taxas de falha, temos que entender e estar prontos para responder a deepfakes que escapam aos métodos de detecção.

Assim, a longo prazo, devemos buscar métodos mais fortes para […] certificar a autenticidade de artigos de notícias e outras mídias.

Além disso, a Microsoft revelou uma nova tecnologia que pode detectar conteúdo manipulado e garantir às pessoas que a mídia que estão vendo é autêntica.

A tecnologia tem dois componentes, sendo o primeiro uma ferramenta incorporada ao Microsoft Azure; que permite a um produtor de conteúdo adicionar hashes e certificados digitais a uma parte do conteúdo. O segundo é um leitor que verifica os certificados e combina os hashes para determinar a autenticidade.

Por fim, a Microsoft também fez parceria com a AI Foundation para disponibilizar o autenticador de vídeo para organizações envolvidas no processo democrático; incluindo veículos de notícias e campanhas políticas.

Fonte: ZDNET