Nesta semana, o YouTube publicou uma atualização de seus esforços para remover discurso de ódio de sua plataforma. Ele alega ter removido mais de 100.000 vídeos e 17.000 canais especificamente sobre discurso de ódio. Ao mesmo tempo, isso é bom e meio aterrorizante quando você para para pensar.
Novas diretrizes
As diretrizes de discurso de ódio mudaram no início deste ano, com o YouTube especificamente proibindo vídeos que alegam que um grupo é superior com o objetivo de justificar discriminação, segregação ou exclusão baseado em qualidades como idade, gênero, raça, casta, religião, orientação sexual ou status de veterano. Ele também adicionou que removeria vídeos glorificando a ideologia nazista e aqueles que negavam eventos violentos bem documentados como Sandy Hook ou o Holocausto.
Isso foi em junho de 2019, então melhor tarde do que nunca, certo?
Se você quiser olhar isso de outra maneira, é meio assustador contemplar que o YouTube tinha 17.000 canais com flagrante discurso de ódio que o site foi capaz de identificar e remover. Muitos têm reclamado sobre a abordagem desleixada do YouTube em vigiar sua plataforma. Logo antes da nova política ser anunciada, o New York Times publicou uma reportagem sobre como os algoritmos do YouTube sexualizavam crianças ao recomendar vídeos delas parcialmente vestidas a usuários que haviam assistido vídeos similares anteriormente, o que exatamente não gerou confiança nos algoritmos da plataforma.
O YouTube tenta lutar contra conteúdo questionável?
No passado, executivos do Google e do YouTube tentaram defender a permissividade do site com relação a conteúdo questionável ao apontar o quão grande o site é. Sundar Pichai, CEO do Google, deu uma entrevista para o site Axios na época em que as novas diretrizes foram lançadas e disse que o YouTube tem a escala de toda a Internet. O YouTube aparentemente tem uma equipe de 10.000 pessoas revisando vídeos de conteúdo questionável. Certamente, não há dúvidas de que a equipe poderia ser bem maior e todos ainda teriam uma agenda bem cheia.
Vale também lembrar as circunstâncias sob as quais essa diretriz de disurso de ódio foi posta em prática. Além da referida reportagem sobre segurança de crianças, o YouTube também foi apanhado em maus lençóis por causa de suposto discurso de ódio direcionado a um jornalista. No início, a empresa insistiu que o discurso não violava suas diretrizes, mas depois reverteu o rumo. Isso foi especialmente difícil considerando que o alegado discurso de ódio em questão foi homofóbico por natureza e tudo isso aconteceu no mês do orgulho LGBT. Portanto, as diretrizes foram bem-vindas, mas não pareciam abordar exatamente o problema imediato.
Bons resultados começam a aparecer
Mesmo assim, o YouTube também diz que melhorou em sua habilidade de remover vídeos de ódio antes que eles alcancem uma grande audiência. Como um exemplo da efetividade de sua equipe, o anúncio da empresa diz:
…os quase 30.000 vídeos que removemos por discurso de ódio durante o último mês gerou apenas 3% das visualizações que vídeos de tricô fizeram no mesmo período.
Isso parece uma piada com vídeos de tricô. Como um consumidor de vídeos de tricô, eu não tenho certeza se eu deveria estar zangado ou não.
Tenho certeza de que o YouTube tem algumas coisas para cuidar se ele espera erradicar discurso de ódio da plataforma inteira. Ainda mais, 17.000 canais não são algo para se desprezar. Há sempre o medo de que a empresa possa, no processo, varrer canais que não propagam ódio. Além disso, nem precisamos mencionar que tentar anular discurso de ódio é frequentemente equiparável ao jogo Bate na Toupeira. Mas, considerando tudo, esse é um risco com o qual estou confortável.
Afinal, você gostou de saber que o YouTube tem uma equipe que remove discurso de ódio de sua plataforma?
Fonte: The Next Web.
Leia também: YOUTUBE | Como o conteúdo nocivo é removido da plataforma
