in

Falha projeto da Microsoft que troca jornalistas por IA

Sistema ainda precisa evoluir muito até ser usado com segurança.

Ainda estamos no começo do processo e é possível que a situação evolua. No entanto, começou com falha o projeto da Microsoft que troca jornalistas por Inteligência Artificial (IA). O anúncio sobre a substituição foi feita no mês passado. Os humanos seriam substituídos por software de IA para curadoria de notícias no MSN. Paralelamente, muitas demissões foram feitas nos dias seguintes. Acontece que a decisão de demitir jornalistas humanos saiu pela culatra rapidamente. Agora, o serviço está sendo criticado por atrapalhar uma notícia.

O trabalho do software de IA é coletar artigos de notícias de várias publicações e anexar uma imagem a ela. O MSN publicou recentemente um artigo sobre o racismo experimentado pelo músico do Little Mix, Jade Thirlwall, mas adicionou uma foto de Leigh-Anne Pinnock. Pinnock também é membro do Little Mix. A notícia rapidamente chamou a atenção de Thirlwall, que expressou sua raiva em uma história no Instagram.

@MSN Se você quiser copiar e colar artigos de outros meios de comunicação, verifique se está usando uma imagem correta. Essa merd* acontece com @leighannepinnock e eu o tempo todo e até já se tornou uma piada. Me ofende que você não possa diferenciar as duas mulheres de cor dentre quatro membros de um grupo … FAÇA MELHOR!

Conforme relatado pelo jornal britânico The Guardian, citando fontes da Microsoft, a imagem errada foi adicionada à história pelo software de IA. No entanto, seria mera coincidência que Thirlwall tivesse adivinhado o que aconteceu nos bastidores.

Falha projeto da Microsoft que troca jornalistas por IA

Notícias do Microsoft AI Racism Little Mix
Captura de tela da história do MSN com a imagem de Pinnock. Fonte: Jade Thirlwall

Tudo isso ocorre em um momento em que os protestos contra o racismo estão aumentando em todo o mundo após a morte de George Floyd. Thirlwall também participou de um evento Black Lives Matter em Londres. No momento, o software de inteligência artificial que interfere e possivelmente prejudica os ânimos das pessoas não é uma coisa boa para a Microsoft.

Falha projeto da Microsoft que troca jornalistas por IA
Captura de tela da história do MSN com a imagem de Pinnock. Fonte: Jade Thirlwall

Embora possamos culpar o editor de robôs por sua ineficiência, o The Verge apontou que o potencial erro de identificação das imagens fornecidas pelos serviços de transmissão por fio poderia ser uma das razões por trás do incidente. Ainda assim, não se pode ignorar que não conseguiu diferenciar entre dois colegas de banda de raça diferentes.

Assim que ficamos sabendo desse problema, imediatamente tomamos medidas para resolvê-lo e substituímos a imagem incorreta, disse um porta-voz da Microsoft em comunicado.

Enquanto isso, os jornalistas humanos restantes que trabalham para o MSN são aconselhados a ficar de olho nos contratempos criados por seus colegas de inteligência artificial. Eles são aconselhados a excluir as histórias publicadas automaticamente pelo software, caso encontrem algum problema como o relatado.

No entanto, as chances são de que o editor do robô possa anular suas ações e tentar republicar a história. Portanto, os funcionários precisam ficar de olho nisso também. Só podemos esperar que o software de IA melhore com o tempo.

Fossbytes