A IA pode produzir muito conteúdo próximo da realidade e, à medida que as linhas entre o conteúdo gerado por humanos e o gerado por IA ficam cada vez mais confusas, as empresas de tecnologia estão tomando medidas para manter os usuários informados sobre o tipo de conteúdo com o qual estão lidando. A Meta, por exemplo, está desenvolvendo ferramentas de detecção de IA para suas redes sociais.
A Samsung é outra empresa que tem se preocupado com isso. Por exemplo, cada foto manipulada por meio do novo recurso Generative Edit da Samsung e cada papel de parede Generative da série Galaxy S24 tem uma pequena marca d’água e metadados para confirmar suas origens de IA.
Meta: ferramentas de detecção de IA está sendo desenvolvida para suas redes sociais
Já há algum tempo, a Meta possui uma ferramenta semelhante para fotos criadas com o gerador de imagens Meta AI. Esta ferramenta permite que os usuários da Meta saibam quando estão vendo conteúdo gerado por IA por meio de prompts de texto simples, marcas d’água e marcas d’água invisíveis.
Esta semana, a Meta anunciou uma nova iniciativa para rotular imagens geradas por IA no Facebook, Instagram e Ameaças, incluindo aquelas geradas por diferentes sistemas de IA de outras empresas.
Meta quer maior transparência de IA nas redes sociais
Embora as empresas de IA incluam sinais nos seus geradores de IA, existem formas de as pessoas retirarem marcadores invisíveis, pelo que ainda não é possível identificar todo o conteúdo gerado pela IA. No entanto, a Meta está trabalhando no desenvolvimento de ferramentas que possam detectar automaticamente conteúdo de IA, mesmo que não possua marcadores invisíveis.
A empresa anunciou que está trabalhando junto com parceiros da indústria para estabelecer padrões para identificar fotos, vídeos e áudio que foram sintetizados usando IA e postados em plataformas de mídia social. A Meta afirma que está construindo ferramentas líderes do setor, capazes de detectar conteúdo gerado por IA em grande escala. Com novos sistemas implementados, nos próximos meses, a Meta rotulará o conteúdo de IA no Facebook, Instagram e Threads sempre que puder detectar indicadores padrão da indústria de conteúdo gerado por IA.
Antes que a indústria possa adotar essas novas ferramentas de detecção de IA em escala, a Meta adicionará um novo recurso que permitirá aos usuários de mídia social usar a IA de forma responsável e divulgar quando o conteúdo que estão compartilhando é gerado por uma IA. Se os usuários não conseguirem rotular seu conteúdo de IA de acordo, eles poderão ser penalizados.