A empresa Meta adicionará rótulos de IA ao Facebook, Instagram e Threads. A IA generativa tornou possível criar imagens realistas que parecem ter sido tiradas por um humano, tornando mais difícil diferenciar entre o que é real e o que é gerado por IA. Como resultado, a Meta anunciou vários esforços em relação a imagens geradas por IA para ajudar a combater a desinformação.
Na terça-feira, a Meta anunciou por meio de uma postagem no blog que, nos próximos meses, adicionará novos rótulos no Instagram, Facebook e Threads que indicam quando uma imagem foi gerada por IA.
A Meta está atualmente trabalhando com parceiros do setor para determinar padrões técnicos comuns que sinalizam quando o conteúdo foi criado usando IA generativa. Então, usando esses sinais, a Meta está construindo um recurso que emite rótulos em todos os idiomas em postagens em suas plataformas, delineando que a imagem foi gerada por IA, como visto na foto no topo do artigo.
“À medida que a diferença entre conteúdo humano e sintético fica borrada, as pessoas querem saber onde está o limite”, disse Nick Clegg, presidente de assuntos globais da Meta. “Por isso, é importante que ajudemos as pessoas a saber quando o conteúdo fotorrealista que estão vendo foi criado usando IA.”
Essa rotulagem funcionaria de forma semelhante aos rótulos de conteúdo gerado por IA do TikTok, lançados em setembro, que aparecem em vídeos do TikTok contendo imagens, áudio ou vídeos realistas gerados por IA.
Meta adicionará rótulos de IA ao Facebook, Instagram e Threads
O Meta inclui marcadores visíveis, marcas d’água invisíveis e metadados IPTC incorporados em cada imagem gerada usando os recursos de fotogeração do Meta AI. A empresa então rotula essas imagens com um rótulo “Imagined by AI” para designar que foram criadas artificialmente.
A Meta compartilha que está construindo ferramentas líderes do setor que podem detectar marcas d’água invisíveis, como metadados IPTC, em imagens geradas por geradores de IA de diferentes empresas. Isso inclui Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock, para incluir rótulos de IA para essas imagens também.
Claro, isso deixa uma brecha para atores mal-intencionados. Se a empresa não cumprir com a adição de metadados ao seu gerador de imagens de IA, a Meta não terá como marcar a imagem com o rótulo. Ainda assim, parece ser um passo na direção certa.
Apesar dos esforços das empresas para incluir sinais em imagens geradas por IA, o mesmo esforço ainda não foi feito em relação a vídeos e áudio gerados por IA. Enquanto isso, a Meta está adicionando um recurso no qual as pessoas podem divulgar que usaram IA para gerar uma imagem para que a Meta pudesse adicionar um rótulo.
Penalidades aos usuários
A empresa está impondo a divulgação voluntária, ameaçando adicionar penalidades se um usuário não divulgar. A empresa também mantém a capacidade de adicionar um rótulo mais proeminente a imagens, áudio ou vídeos que criem um risco particularmente alto de enganar o público.
“Exigiremos que as pessoas usem essa ferramenta de divulgação e rótulo quando postarem conteúdo orgânico com um vídeo fotorrealista ou áudio realista que foi criado ou alterado digitalmente, e podemos aplicar penalidades se não o fizerem”, acrescentou Clegg.
Os desenvolvimentos dessas ferramentas ocorrem em um momento especialmente crítico com eleições no horizonte. Criar desinformação crível é mais fácil do que nunca e pode impactar negativamente a opinião pública dos candidatos e atrapalhar o processo democrático de votação. Como resultado, outras empresas, incluindo a OpenAI, também tomaram medidas para implementar grades de proteção antes das eleições.
