O papel da inteligência artificial em detectar fake news
Espera-se que as fake news sejam uma grande pedra no sapato das eleições por vir, sem mencionar seu efeito corrosivo global em nosso discurso público em geral. Na sociedade conectada de hoje, discernir fato de ficção tornou-se cada vez mais difícil, o que leva alguns pesquisadores a focar no poder da inteligência artificial (IA) para abordar esse problema.
A esperança, claro, é que máquinas, ou mais precisamente algoritmos, são melhores que humanos em detectar mentiras. Mas essa é uma expectativa realista, ou apenas outro caso de enfiar tecnologia em um problema aparentemente intratável?
Para pegar um ladrão…
Uma das maneiras que cientistas de dados estão planejando aguçar a perspicácia da IA nessa área é por permitir que ela própria gere fake news. O Instituto Allen para IA na Universidade de Washington desenvolveu e lançou publicamente o Grover, um motor processador de linguagem natural projetado para criar histórias falsas em uma grande variedade de tópicos.
Enquanto isso pode parecer contraproducente à primeira vista, isso é na verdade uma tática razoavelmente comum para treinamento de IA em que uma máquina analisa o resultado produzido por outra máquina. Desta maneira, o lado analítico pode ser introduzido para aumentar a velocidade ainda mais, ao invés de apenas depender de fake news reais.
O instituto afirma que o Grover já consegue operar com uma taxa de 92% de precisão, mas é importante notar que ele somente é hábil em distinguir entre conteúdo gerado por IA versus conteúdo gerado por humanos, o que significa que uma pessoa esperta ainda pode passar uma história falsa por ele.
Nas mãos certas, é claro, o Grover pode rapidamente avançar nosso entendimento de como as fake news são criadas e como elas se espalham, e isso pode teoricamente ser usado para frustrá-las no mundo real. Porém, alguns especialistas que levaram o sistema para um ensaio estão alarmados sobre o quão efetivo ele é em criar mentiras críveis, e inclusive imitar os estilos de escrita de agências de notícias legítimas como o Wall Street Journal e o The New York Times.
Como diferenciar emoção de calculo frio
Mas já que mentir é um ato intrinsicamente intuitivo e movido pela emoção, é possível que mesmo as máquinas mais espertas, que ainda são movidas por uma fria e forte lógica, possam algum dia chegar ao nível de entendimento contextual necessário para detectar uma mentira? Maria Almeida, do blog Unbabel, recentemente notou que enquanto algumas interações podem ficar muito boas nisso, nenhum algoritmo pode esperar atingir entendimento completo de um ser humano. Isso significa que a IA talvez seja capaz de fazer melhorias dramáticas em checagem de fatos e em análise comparativa, mas a última palavra deve ser deixada para especialistas treinados.
Ironicamente, no entanto, essa capacidade será mais útil em detectar os vídeos de deep fake que estão começando a dar as caras nas redes sociais. Com IA capaz de analisar dados visuais diretamente em pixels individuais, será muito mais hábil em detectar imagens alteradas do que palavras e conceitos alterados.
Instinto humano vs verdade
Segundo Charles Towers-Clark, da Forbes, o problema central com as fake news não é que poucas pessoas estão criando-as, mas que muitas pessoas são influenciadas por elas. As pessoas tendem a acreditar no que elas querem acreditar, não no que os fatos levam-nas a acreditar. Então, mesmo que um motor de IA altamente desenvolvido declare que sua crença está errada, as pessoas estarão mais aptas a duvidar da máquina do que de si mesmas.
Ainda segundo Charles:
Implementar machine learning para combater a propagação de fake news é admirável, e há necessidade de abordar esse problema à medida que a confiabilidade das agências de notícias da grande mídia é questionada. Mas com a propagação da desinformação agravada pelas redes sociais, poder detectar e revelar as fontes das fake news supera o instinto humano de acreditar no que é dito para nós?
O verdadeiro desafio, então, não é identificar e desmascarar fake news, mas entender por que elas tendem a se disseminar nas redes sociais muito mais rápido do que as notícias verdadeiras. Em parte, isso se deve à própria natureza das fake news: o que tende a ser empolgante e indecente versus o comparativo tédio da realidade. No fim, é realista esperar que a tecnologia corrija o que é essencialmente um problema não-técnico?
Parando a propagação
É por isso que é importante focar a IA no aspecto técnico das fake news, não no aspecto humano, diz Robin Harris da ZDNet. E, na verdade, a maioria dos pesquisadores estão treinando IA para distinguir entre padrões de propagação artificial através das redes sociais.
Métricas essenciais como taxas de conversão, tempo de retweet e reação de dados em geral podem ser usadas para identificar e neutralizar campanhas de desinformação mesmo se a fonte estiver escondida sob camadas de artifícios digitais. Ao mesmo tempo, IA pode ser usada para gerenciar outras tecnologias, como a blockchain, para manter canais de informações rastreáveis e verificáveis.
O fato é que as fake news não são um fenômeno novo. Do jornalismo sensacionalista cedo no século 20 até lá atrás na propaganda das primeiras civilizações, enganar o público é uma tradição antiga tanto para governos como para revolucionários.
A diferença hoje é que a tecnologia digital democratizou essa capacidade de mostrar que quase qualquer um pode postar uma mentira e assisti-la espalhar-se pelo globo em questão de horas. Tecnologias como IA certamente podem ajudar a trazer um pouco de claridade para essa confusão, mas apenas pessoas podem entender completamente, e julgar, a verdade.
Gostou do conteúdo sobre IA detectar fake news? Não deixe de compartilhar!
Leia também: O uso da inteligência artificial no mercado de crédito.
