O AI Classifier foi projetado para reconhecer textos escritos por inteligência artificial, logo após a criação do ChatGPT. Agora a OpenAI, a empresa por trás do ChatGPT, está desativando a ferramenta. De acordo com as informações, essa desativação se deu porque o AI Classifier foi considerado impreciso.
O AI Text Classifier é uma ferramenta gratuita de desenvolvimento e TI que permite verificar a probabilidade de um texto ter sido escrito por um ser humano ou com o uso de uma IA. Este programa foi desenvolvido pela OpenAI, que é a mesma desenvolvedora por trás do ChatGPT.
OpenAI desativa o AI Classifier
A partir de agora, o AI Classifier não está mais disponível devido à sua baixa precisão, de acordo com a própria OpenAI. Eles agora estão trabalhando na análise do feedback e atualmente pesquisando métodos mais eficazes para determinar a origem dos textos, de acordo com o breve anúncio.
Além disso, além do reconhecimento de texto, a OpenAI também se comprometeu a desenvolver e usar mecanismos que permitam aos usuários reconhecer se o conteúdo de áudio ou visual é gerado por IA.
A partir de 20 de julho de 2023, o classificador AI não está mais disponível devido à sua baixa taxa de precisão. Estamos trabalhando para incorporar feedback e atualmente pesquisando técnicas de proveniência mais eficazes para texto e nos comprometemos a desenvolver e implantar mecanismos que permitam aos usuários entender se o conteúdo de áudio ou visual é gerado por IA.
Treinamos um classificador para distinguir entre texto escrito por um ser humano e texto escrito por IAs de vários provedores. Embora seja impossível detectar de forma confiável todo o texto escrito por IA, acreditamos que bons classificadores podem fornecer atenuações para alegações falsas de que o texto gerado por IA foi escrito por um humano: por exemplo, executando campanhas automatizadas de desinformação, usando ferramentas de IA para desonestidade acadêmica e posicionando um chatbot de IA como humano.
Notícias Relacionadas
Quando o classificador (AI Classifier) foi lançado no final de janeiro, a empresa apontou que em testes internos com um “challenge set” de textos em inglês, o classificador classificou corretamente apenas 26% dos textos escritos pela IA como “provavelmente escritos por a IA”. Textos escritos por humanos foram erroneamente classificados como escritos pela IA (falso positivo) 9% das vezes.
Nosso classificador não é totalmente confiável. Em nossas avaliações em um “conjunto de desafios” de textos em inglês, nosso classificador identifica corretamente 26% do texto escrito por IA (verdadeiros positivos) como “provavelmente escrito por IA”, enquanto rotula incorretamente o texto escrito por humanos como escrito por IA 9% dos o tempo (falsos positivos).
Segundo a empresa, a confiabilidade do seu classificador geralmente melhora à medida que o comprimento do texto de entrada aumenta. “Comparado ao nosso classificador lançado anteriormente, esse novo classificador é significativamente mais confiável em textos de sistemas de IA mais recentes”.
