Para evitar o banimento de seu popular chatbot ChatGPT, a OpenAI lançou uma ferramenta para detectar texto escrito por IA.
A OpenAI lançou um classificador de texto AI que tenta detectar se o conteúdo de entrada foi gerado usando ferramentas de inteligência artificial como o ChatGPT.
OpenAI lançou uma ferramenta para detectar texto escrito por IA
A OpenAI lançou a ferramenta depois que várias universidades e distritos escolares K-12 baniram o popular chatbot ChatGPT AI da empresa devido à sua capacidade de concluir a lição de casa dos alunos, como escrever relatórios e ensaios de livros e até terminar tarefas de programação.
“O AI Text Classifier é um modelo GPT ajustado que prevê a probabilidade de um texto ter sido gerado por IA a partir de uma variedade de fontes, como o ChatGPT”, explica uma nova postagem no blog da OpenAI.
De acordo com o BusinessInsider, o ChatGPT foi banido nos distritos escolares públicos de Nova York, Seattle, Los Angeles e Baltimore K-12, com universidades na França e na Índia também banindo a plataforma dos computadores escolares.
O site BleepingComputer testou o novo classificador de texto de IA da OpenAI e, na maioria das vezes, achou-o bastante inconclusivo.
Ao testar o classificador de texto AI da OpenAI em relação à maior parte do nosso próprio conteúdo, ele determinou corretamente que um humano escreveu nossos artigos.
No entanto, ao analisar o conteúdo gerado pelo ChatGPT e pelo chatbot AI do You.com, ele teve muitas dificuldades para detectar se o texto foi gerado por AI.
Como os educadores provavelmente usarão os novos classificadores de texto AI para verificar se os alunos trapacearam em suas tarefas de casa, o OpenAI adverte que não deve ser usado como a “única evidência” para determinar a desonestidade acadêmica.
“Nosso classificador não é totalmente confiável”, alerta a OpenAI.
“Em nossas avaliações em um ‘conjunto de desafios’ de textos em inglês, nosso classificador identifica corretamente 26% do texto escrito por IA (verdadeiros positivos) como ‘provavelmente escrito por IA’, enquanto rotula incorretamente o texto escrito por humanos como 9% escrito por IA do tempo (falsos positivos).”
“A confiabilidade do nosso classificador geralmente melhora à medida que o comprimento do texto de entrada aumenta”
O sucesso do classificador provavelmente melhorará com o passar do tempo e será treinado com mais dados. Por enquanto, porém, não é uma ferramenta confiável para detectar conteúdo gerado por IA.