OpenAI lançou uma ferramenta para detectar texto escrito por IA

Para evitar o banimento de seu popular chatbot ChatGPT, a OpenAI lançou uma ferramenta para detectar texto escrito por IA.

A OpenAI lançou um classificador de texto AI que tenta detectar se o conteúdo de entrada foi gerado usando ferramentas de inteligência artificial como o ChatGPT.

OpenAI lançou uma ferramenta para detectar texto escrito por IA

OpenAI lançou uma ferramenta para detectar texto escrito por IA
OpenAI lançou uma ferramenta para detectar texto escrito por IA

A OpenAI lançou a ferramenta depois que várias universidades e distritos escolares K-12 baniram o popular chatbot ChatGPT AI da empresa devido à sua capacidade de concluir a lição de casa dos alunos, como escrever relatórios e ensaios de livros e até terminar tarefas de programação.

“O AI Text Classifier é um modelo GPT ajustado que prevê a probabilidade de um texto ter sido gerado por IA a partir de uma variedade de fontes, como o ChatGPT”, explica uma nova postagem no blog da OpenAI.

De acordo com o BusinessInsider, o ChatGPT foi banido nos distritos escolares públicos de Nova York, Seattle, Los Angeles e Baltimore K-12, com universidades na França e na Índia também banindo a plataforma dos computadores escolares.

O site BleepingComputer testou o novo classificador de texto de IA da OpenAI e, na maioria das vezes, achou-o bastante inconclusivo.

Ao testar o classificador de texto AI da OpenAI em relação à maior parte do nosso próprio conteúdo, ele determinou corretamente que um humano escreveu nossos artigos.

OpenAI lançou uma ferramenta para detectar texto escrito por IA
OpenAI lançou uma ferramenta para detectar texto escrito por IA – Resposta do classificador de texto AI da OpenAI para o conteúdo avaliado

No entanto, ao analisar o conteúdo gerado pelo ChatGPT e pelo chatbot AI do You.com, ele teve muitas dificuldades para detectar se o texto foi gerado por AI.

Como os educadores provavelmente usarão os novos classificadores de texto AI para verificar se os alunos trapacearam em suas tarefas de casa, o OpenAI adverte que não deve ser usado como a “única evidência” para determinar a desonestidade acadêmica.

“Nosso classificador não é totalmente confiável”, alerta a OpenAI.

“Em nossas avaliações em um ‘conjunto de desafios’ de textos em inglês, nosso classificador identifica corretamente 26% do texto escrito por IA (verdadeiros positivos) como ‘provavelmente escrito por IA’, enquanto rotula incorretamente o texto escrito por humanos como 9% escrito por IA do tempo (falsos positivos).”

“A confiabilidade do nosso classificador geralmente melhora à medida que o comprimento do texto de entrada aumenta”

O sucesso do classificador provavelmente melhorará com o passar do tempo e será treinado com mais dados. Por enquanto, porém, não é uma ferramenta confiável para detectar conteúdo gerado por IA.

Sobre o Edivaldo Brito

Edivaldo Brito é analista de sistemas, gestor de TI, blogueiro e também um grande fã de sistemas operacionais, banco de dados, software livre, redes, programação, dispositivos móveis e tudo mais que envolve tecnologia.

Deixe um comentário

Esse site utiliza o Akismet para reduzir spam. Aprenda como seus dados de comentários são processados.