Veja como os cibercriminosos manipulam a realidade com as Deep Fakes

As Deep Fakes estão alastrando a internet, na maioria dos casos, trazendo desinformação e sendo usadas por cibercriminosos para golpes digitais. A verdade é que essa tecnologia pode se tornar um vetor de ataque bem proeminente. Veja como identificar uma Deep Fake e se livrar de um possível ataque, por exemplo.

Deep Fakes

Deep Fake é o ato de substituir maliciosamente imagens e vídeos reais por outros fabricados para realizar a manipulação de informações. Para criar imagens, vídeo e áudio com qualidade suficiente para serem usados em deep fakes, AI e ML são necessários. Esse uso de IA, ML e substituição de imagem difere de outros tipos de manipulação de informações, que usam técnicas de manipulação menos extremas, como deturpação de informações, isolando partes das informações ou editando-as de maneira enganosa.

Deep fakes vêm em todas as formas e tamanhos. Alguns são mais simples e alguns são mais avançados.

Alguns dos exemplos mais populares de deep fakes são:

Troca de rosto: A troca de rosto é o ato de substituir o rosto em um vídeo ou imagem de uma pessoa para outra. A troca de rosto requer um software dedicado, mas não precisa ser baseado em tecnologia avançada. Hoje é possível até encontrar aplicativos móveis que suportam a troca de rosto. A troca de rosto disponível em aplicativos móveis geralmente é limitada a casos de uso simples, como a troca entre as fotos do usuário e os rostos dos atores em cenas de filmes.

Troca de rosto avançada: A troca de face mais avançada existe, mas requer mais treinamento e código de modelo e, como resultado, GPUs, o que é caro e consome muitos recursos.

Puppet Master (Lip Sync): O deep fake do “Puppet Master” é uma técnica na qual a imagem dos movimentos da boca de uma pessoa é manipulada, fazendo parecer que a pessoa está dizendo algo que na verdade não disse. Em comparação com a troca de rosto, que treina um modelo no novo rosto trocado, o Puppet Master treina um modelo no rosto da imagem original e, especificamente, nos movimentos da boca.

Aqui está o que parece:

A tecnologia por trás do “Puppet Master” é baseada em sintetizar a máscara, ou seja, a imagem original, e colocá-la em cima do modelo da pessoa que está personificando e sincronizando os lábios.

veja-como-os-cibercriminosos-manipulam-a-realidade-com-as-deep-fakes

Áudio: Deep fakes de áudio são arquivos de áudio que pegam a voz de uma pessoa real e fazem parecer que ela está dizendo algo que nunca havia dito. As falsificações profundas de áudio são criadas pegando arquivos de áudio, alocando anotações aos sons, treinando um modelo de ML com base nas anotações para associar sons a texto e, em seguida, gerando um novo arquivo de áudio.

Deep Fakes vs. Correções baratas

Nem todas as imagens ou áudios modificados são deep fakes. Enquanto deep fakes são mídias sintetizadas ou modificadas usando IA, correções baratas são mídias sintetizadas ou modificadas usando métodos de baixa tecnologia, que são fáceis de detectar. Frequentemente, eles têm distorções e foram claramente manipulados.

O risco cibernético das falsificações profundas

Deep fakes tornaram-se mais realistas e acessíveis e também são mais rápidos de criar do que nunca. Isso os torna uma ferramenta poderosa para armamento. Como resultado, eles representam um risco para as empresas e para os países. Eles podem ser usados para crimes cibernéticos, engenharia social, fraude, por países atores de ameaças para influenciar operações estrangeiras e muito mais.

Deep fakes também podem ser usados para espalhar desinformação, ou seja, distribuição falsa de informações para influenciar a opinião pública ou obscurecer a verdade. Por exemplo, deep fakes podem ser usados para se passar por líderes mundiais e iniciar um ataque, ou para se passar por um CEO e manipular o preço das ações de uma empresa. Em outros casos, deep fakes permitem negação plausível, em que as pessoas podem negar todas as fontes de mídia alegando que são deep fakes, o que cria uma quebra de confiança social.

Finalmente, deep fake pode ser usado para difamação, ou seja, prejudicar a boa reputação de alguém. Por exemplo, criando pornografia de vingança.

Como detectar falsificações profundas

Existem dois tipos principais de métodos para detectar com precisão deep fakes: métodos de detecção de baixo nível e métodos de detecção de alto nível. Os métodos de detecção de baixo nível dependem de modelos de ML treinados para identificar artefatos ou pixelações que foram introduzidos por meio do processo de geração de deep fake.

Já os métodos de detecção de alto nível usam modelos que podem identificar recursos semanticamente significativos. Isso inclui movimentos não naturais, como piscar, pose de cabeça ou maneirismos únicos e incompatibilidades de fonema-visema.

Hoje, esses métodos de detecção são considerados precisos. No entanto, à medida que a tecnologia deep fake melhora e se torna mais sofisticada, espera-se que ela se torne menos eficaz e precise ser atualizada e aprimorada.

Assuntos