A OpenAI, empresa por trás do DALL-E e do ChatGPT, lançou uma ferramenta gratuita que diz ser destinada a "distinguir entre textos escritos por um ser humano e textos escritos por inteligências artificiais". Ela alerta que o classificador "não é completamente confiável" em um comunicado de imprensa e "não deve ser usado como ferramenta de tomada de decisão principal". De acordo com a OpenAI, ele pode ser útil na tentativa de determinar se alguém está tentando passar por texto gerado como algo escrito por uma pessoa.

A ferramenta, conhecida como classifier, é relativamente simples, embora você precise ter uma conta gratuita na OpenAI para usá-la. Basta colar o texto em uma caixa, clicar em um botão e ele lhe dirá se ele acha que o texto é muito improvável, improvável, incerto se é, possivelmente ou provável de ser gerado por IA.

Em testes, ele identificou 26% do texto escrito por IA como "provável escrito por IA".

Na sua nota de imprensa, a OpenAI diz que treinou o modelo que alimenta a ferramenta usando "pares de textos escritos por humanos e textos escritos por IA sobre o mesmo tópico".

No entanto, ele oferece vários avisos sobre o uso da ferramenta. Acima da caixa de texto, a empresa destaca algumas limitações:

• Requer um mínimo de 1.000 caracteres, o que equivale a aproximadamente 150 a 250 palavras.
• O classificador nem sempre é preciso; ele pode rotular tanto textos gerados por IA quanto textos escritos por seres humanos de forma errada.
• Textos gerados por IA podem ser facilmente editados para evadir o classificador.
• O classificador provavelmente cometerá erros em textos escritos por crianças e em textos não em inglês, porque foi principalmente treinado com conteúdo em inglês escrito por adultos.

A empresa também diz que às vezes "rotulará incorreta mas confiantemente" textos escritos por humanos como sendo de uma IA, especialmente se forem muito diferentes de qualquer dado de treinamento. Eles deixam claro que o classificador ainda é muito um "trabalho em andamento".

Um lugar onde a OpenAI está se concentrando realmente nesta tecnologia de detecção é na educação. Seu comunicado de imprensa diz que "identificar texto gerado por IA tem sido um ponto importante de discussão entre educadores", já que escolas diferentes reagiram ao ChatGPT proibindo ou abraçando-o. A empresa diz que está "engajada com educadores nos EUA" para entender o que eles veem do ChatGPT em suas salas de aula e está solicitando feedback de qualquer pessoa envolvida na educação.