Microsoft e grandes empresas de tecnologia trabalham para trazer autenticidade aos vídeos e fotos

Presidentes falando o que, na verdade, não disseram. Rostos transformados em um vídeo num passe de mágica. Estamos falando das deep fakes ou manipulaçõ de imagens que podem colocar em risco a segurança de pessoas e países, dependendo da finalidade para a qual é usada. Afinal, dá para confiar no que estamos vendo e ouvindo? Isso se tornou um grande desafio com o avanço da tecnologia. Diantes dessas novas ameaças, grandes empresas como a Microsoft e outras ligadas à tecnologia já trabalham para garantir autenticidade a vídeos e fotos.

Empresas e governos estão cada vez mais preocupados com os efeitos nocivos dos deepfakes – imagens, vídeo ou áudio tão habilmente alterados por redes geradoras de inteligência artificial para se parecerem com outra pessoa que é difícil dizer que não são reais – podem causar à sua reputação, e também como poderiam ser usado para fraude ou hacking e phishing. 

Mas em uma pesquisa recente realizada pela Attestiv, enquanto 80% estão preocupados com o risco, menos de 30% tomaram alguma providência e outros 46% não têm nenhum plano. Aqueles que esperam contar com o treinamento de funcionários para detectar falsificações profundas (provavelmente ainda mais difícil do que usar o treinamento para lidar com phishing) ou na detecção e filtragem automatizadas.A Microsoft tem um questionário que você pode responder para ver se consegue identificar deepfakes sozinho; isso é menos uma ferramenta de treinamento e mais uma tentativa de aumentar a conscientização e o conhecimento da mídia.

Ferramentas como o Autenticador de Vídeo da Microsoft procuram por artefatos onde a imagem foi alterada que podem revelar falsificações profundas que você pode não conseguir ver por si mesmo, mas eles não localizam tudo. No momento, o Autenticador de Vídeo está disponível apenas para veículos de notícias e campanhas políticas por meio da iniciativa Reality Defender 2020 da AI Foundation, provavelmente porque torná-lo amplamente disponível pode permitir que os criadores de ferramentas deepfake as ajustem para evitar a detecção.

“Podemos construir um detector que possa distinguir a realidade real desta realidade virtual sintetizada? Deepfakes são imperfeitos agora; você pode encontrar todos os tipos de artefatos”, disse o engenheiro da Microsoft, Paul England. Mas, como os deepfakes são criados por várias ferramentas, os artefatos são diferentes para cada técnica de criação de deepfake e mudam conforme as ferramentas evoluem. Há uma janela de um ou dois anos em que as ferramentas de verificação de deepfake serão úteis, mas a janela fechará rapidamente – e as ferramentas para detectar deepfakes podem realmente acelerar isso.

Você tem um sistema de IA que está criando deepfakes e um sistema de IA que detecta deepfakes. Então, se você construir o melhor detector do mundo e colocá-lo neste ciclo de feedback, tudo o que terá alcançado é ajudar seu criador deepfake melhores falsificações.

Microsoft e grandes empresas de tecnologia trabalham para trazer autenticidade aos vídeos e fotos

No entanto, em vez de depender de humanos ou computadores para detectar falsificações, a Microsoft está envolvida em várias iniciativas para permitir que os criadores provem que seu conteúdo não foi manipulado, garantindo de onde ele vem e sendo transparente sobre o que foi feito com ele. “Estamos atolados em informações, e uma fração decrescente delas vem de onde diz que está, e é do que diz que é”, disse ele. “Precisamos fazer algo para fortalecer as fontes de informação mais confiáveis.””Estamos atolados em informações e uma fração decrescente disso vem de onde diz que está e é do que diz que é. Precisamos fazer algo para apoiar as fontes de informação mais confiáveis.”Eminente engenheiro da Microsoft, Paul England.

A desinformação não é nova, mas está ficando muito mais fácil. O que costumava precisar de um estúdio de efeitos especiais de Hollywood e um orçamento enorme pode ser feito no Photoshop ou no TikTok.

“Há décadas que temos problemas com imagens. Chegou ao ponto em que é acessível ao usuário médio, e a escalabilidade de um ataque é muito maior agora com as redes sociais. O impacto dessas coisas é muito maior , e a capacidade das pessoas de determinar o que é real e falso está se desgastando rapidamente”, alertou o líder de segurança de mídia do Azure, Andrew Jenks.

Embora mostrar a procedência do conteúdo não resolva o problema da desinformação na web, ele espera que isso possa ser “um pequeno bloco de construção para ajudar a reconstruir a confiança e a credibilidade”.

Provando a verdade em vez de detectar falsificações

A Microsoft, a Adobe e uma série de organizações ligadas ao setor de mídia estão colaborando em várias iniciativas relacionadas com o objetivo de normalizar a verificação de onde as imagens e vídeos que vemos vêm e se foram adulterados.

Project Origin é uma aliança entre a Microsoft, a BBC, CBC / Radio-Canada e o New York Times para usar uma tecnologia da Microsoft chamada Autenticação de Mídia via Proveniência para publicar metadados à prova de adulteração – o local GPS onde uma foto foi tirada ou o original nome de um videoclipe, digamos – envolto em um manifesto assinado digitalmente que pode ser incorporado ao arquivo ou registrado em um livro razão do Confidential Consortium Framework. A mídia também pode ser autenticada por um hash criptográfico; uma impressão digital que será diferente para cada arquivo, portanto, editar o arquivo mudará a impressão digital – provando que foi adulterada. Essa impressão digital é armazenada no arquivo de imagem, vídeo ou áudio (pode abranger conteúdo de realidade mista no futuro).

A Microsoft está usando isso para colocar uma marca d’água digital no áudio criado por uma voz neural personalizada do Azure, para que não possa ser fingida como algo dito pelo humano que fez as gravações em que a voz neural se baseia. Também está criando um serviço Azure que criadores de conteúdo como a BBC podem usar para adicionar hashes e certificados a arquivos como metadados e um leitor que pode ser uma extensão de navegador ou incorporado em um aplicativo para verificar esses certificados e hashes e confirmar quem é o conteúdo de e que não foi alterado desde que foi criado.

A iniciativa

A Content Authenticity Initiative é um amplo grupo de organizações (incluindo a Microsoft) interessadas na autenticidade do conteúdo, liderado pela Adobe, que está criando uma ferramenta para permitir que os usuários do Photoshop e do Behance salvem dados de localização, detalhes do criador e até mesmo o histórico de cada edição feito para uma imagem dentro dessa imagem, novamente usando metadados, para que as pessoas olhando para a imagem mais tarde possam ver como ela foi editada.

Os dois projetos cobrem partes ligeiramente diferentes do problema. “A Adobe se concentra no processo criativo e editorial, no fluxo de trabalho por meio de um departamento editorial ou no fluxo de trabalho criativo em um departamento de arte”, disse England. “O foco da Microsoft está na distribuição de transmissão, uma vez que você tenha um produto acabado e o coloque na web. Você pode imaginar enviá-lo de volta à fonte da mídia – o celular ou câmera de alta qualidade que costumava Capture-o.”

Para reunir todas essas peças, a Coalition for Content Provenance and Authenticity está combinando-as em um padrão para provar de onde o conteúdo vem, de autoria da Adobe, Arm, BBC, Intel, Microsoft, TruePic e agora Twitter.

O C2PA permitirá que criadores e editores garantam seu conteúdo e sejam transparentes sobre qualquer edição que tenha sido feita nele, disse Andy Parsons, da Adobe, diretor da Content Authenticity Initiative.

“Se a BBC deseja garantir seu conteúdo e você confia na visão de mundo da BBC e nos métodos de fornecimento de conteúdo e verificação de fatos da BBC, estamos provando criptograficamente que algo que parece ser da BBC – independentemente de onde você o veja, seja no seu desktop [navegador] ou no Twitter ou no Facebook – é na verdade da BBC. O C2PA torna isso comprovável e evidente: se algo foi mexido, isso é detectável”, disse Parsons.

Comparações

Parsons comparou certificados C2PA a HTTPS para sites – um padrão da indústria que os consumidores agora esperam ver em sites confiáveis ??que fornece um nível de transparência sobre com quem você está falando, mas não garante como eles se comportarão – e proteção de direitos de informação em documentos comerciais. Isso não o impede de tirar uma foto do documento na tela para compartilhar com alguém que não está autorizado a vê-lo, mas o impede de fingir que não sabia que estava burlando os controles do documento para fazer isso.

“Não diz nada sobre a veracidade do que é retratado em uma imagem”, explicou. “Fala sobre quando algo foi feito e quem o fez: quando foi produzido, como foi editado e, finalmente, como foi publicado e chegou ao consumidor.”