Facebook diz que aprimoramentos de inteligência artificial reforçaram sua moderação de conteúdo

O Facebook disse que fez melhorias significativas na tecnologia de inteligência artificial que usa para detectar e remover incitação ao ódio e outras violações dos padrões da comunidade, incluindo informações enganosas relacionadas à COVID-19.

A empresa tem dependido de moderadores humanos como base de sua moderação de conteúdo. No entanto, esses moderadores geralmente não podem trabalhar em casa devido à natureza gráfica de seu trabalho. Por sua vez, a empresa enfrentou um potencial acúmulo de moderação de conteúdo, já que a pandemia forçou os escritórios a permanecer fechados.

Facebook diz que aprimoramentos de inteligência artificial reforçaram sua moderação de conteúdo

A empresa agora está confiando mais na tecnologia para ajudar a gerenciar o trabalho de moderação. Por exemplo, o Facebook está usando inteligência artificial (IA) para criar um sistema de classificação que prioriza o conteúdo mais crítico para as equipes de moderação humana revisarem. A IA avalia a gravidade da ameaça em um conteúdo e sinaliza para revisão imediata.

Guy Rosen, vice-presidente de integridade do Facebook, disse:

Se você voltar atrás e pensar em como a tecnologia ajuda na moderação de conteúdo… a IA ajuda a garantir que, com uma força de trabalho reduzida, ainda possamos nos concentrar nas categorias mais graves e críticas que requerem revisão e ação.

Com as melhorias na tecnologia, Rosen disse que a taxa de detecção de discurso de ódio no Facebook aumentou 95%; como resultado: 22,5 milhões de peças de conteúdo removidas no segundo trimestre. No Instagram, a detecção proativa resultou na remoção de 3,3 milhões de postagens.