A inteligência artificial consegue detectar fake news?

O papel da inteligência artificial em detectar fake news

Espera-se que as fake news sejam uma grande pedra no sapato das eleições por vir, sem mencionar seu efeito corrosivo global em nosso discurso público em geral. Na sociedade conectada de hoje, discernir fato de ficção tornou-se cada vez mais difícil, o que leva alguns pesquisadores a focar no poder da inteligência artificial (IA) para abordar esse problema.

A esperança, claro, é que máquinas, ou mais precisamente algoritmos, são melhores que humanos em detectar mentiras. Mas essa é uma expectativa realista, ou apenas outro caso de enfiar tecnologia em um problema aparentemente intratável?

Para pegar um ladrão…

Uma das maneiras que cientistas de dados estão planejando aguçar a perspicácia da IA nessa área é por permitir que ela própria gere fake news. O Instituto Allen para IA na Universidade de Washington desenvolveu e lançou publicamente o Grover, um motor processador de linguagem natural projetado para criar histórias falsas em uma grande variedade de tópicos.

Enquanto isso pode parecer contraproducente à primeira vista, isso é na verdade uma tática razoavelmente comum para treinamento de IA em que uma máquina analisa o resultado produzido por outra máquina. Desta maneira, o lado analítico pode ser introduzido para aumentar a velocidade ainda mais, ao invés de apenas depender de fake news reais.

O instituto afirma que o Grover já consegue operar com uma taxa de 92% de precisão, mas é importante notar que ele somente é hábil em distinguir entre conteúdo gerado por IA versus conteúdo gerado por humanos, o que significa que uma pessoa esperta ainda pode passar uma história falsa por ele.

Nas mãos certas, é claro, o Grover pode rapidamente avançar nosso entendimento de como as fake news são criadas e como elas se espalham, e isso pode teoricamente ser usado para frustrá-las no mundo real. Porém, alguns especialistas que levaram o sistema para um ensaio estão alarmados sobre o quão efetivo ele é em criar mentiras críveis, e inclusive imitar os estilos de escrita de agências de notícias legítimas como o Wall Street Journal e o The New York Times.

Como diferenciar emoção de calculo frio

Mas já que mentir é um ato intrinsicamente intuitivo e movido pela emoção, é possível que mesmo as máquinas mais espertas, que ainda são movidas por uma fria e forte lógica, possam algum dia chegar ao nível de entendimento contextual necessário para detectar uma mentira? Maria Almeida, do blog Unbabel, recentemente notou que enquanto algumas interações podem ficar muito boas nisso, nenhum algoritmo pode esperar atingir entendimento completo de um ser humano. Isso significa que a IA talvez seja capaz de fazer melhorias dramáticas em checagem de fatos e em análise comparativa, mas a última palavra deve ser deixada para especialistas treinados.

Ironicamente, no entanto, essa capacidade será mais útil em detectar os vídeos de deep fake que estão começando a dar as caras nas redes sociais. Com IA capaz de analisar dados visuais diretamente em pixels individuais, será muito mais hábil em detectar imagens alteradas do que palavras e conceitos alterados.

Instinto humano vs verdade

Segundo Charles Towers-Clark, da Forbes, o problema central com as fake news não é que poucas pessoas estão criando-as, mas que muitas pessoas são influenciadas por elas. As pessoas tendem a acreditar no que elas querem acreditar, não no que os fatos levam-nas a acreditar. Então, mesmo que um motor de IA altamente desenvolvido declare que sua crença está errada, as pessoas estarão mais aptas a duvidar da máquina do que de si mesmas.

Ainda segundo Charles: