ChatGPT: OpenAI anuncia identificador de texto criado por IA

O laboratório OpenAI, responsável pela ferramenta ChatGPT, anunciou na terça-feira (31) o lançamento de um mecanismo para distinguir texto fabricado por IA do texto escrito por humanos. A novidade ocorre após polêmicas relacionadas ao uso do ChatGPT para trabalhos acadêmicos e até mesmo criação de vírus.

Segundo a empresa, é muito difícil distinguir com 100% de clareza os textos feitos por inteligência artifical. No entanto, ferramentas como o novo identificador podem ser úteis para apontar campanhas de desinformação automatizadas, por exemplo.

OpenAI pede feedback dos usuários sobre novo classificadorFonte:  Divulgação: OpenAI 

Eficácia do classificador

A companhia ainda está treinando um classificador para identificar o conteúdo produzido por Inteligência Artificial e admite que ele ainda "não é totalmente confiável". Nos testes mais recentes utilizando textos em inglês, a ferramenta identificou corretamente 26% do texto escrito por IA.

Além disso, a ferramenta classificou erroneamente 9% dos textos escritos por humanos como feitos por IA. No entanto, a empresa aponta que a solução deve ficar melhor com o tempo.

De acordo com o post no blog oficial da OpenAI, o classificador é menos eficaz em textos com menos de mil caracteres — e mesmo assim, às vezes textos mais longos ainda são rotulados incorretamente. Além disso, a recomendação é utilizar somente textos em inglês, por ter o melhor desempenho neste idioma.

"A confiabilidade do nosso classificador geralmente melhora à medida que o comprimento do texto de entrada aumenta", explica a companhia. "Comparado ao nosso classificador lançado anteriormente, esse novo classificador é significativamente mais confiável em textos de sistemas de IA mais recentes."

Disponível para testes

A OpenAI anunciou que está disponibilizando publicamente o classificador para testes, a fim de obter feedbacks. A empresa também acredita que o uso mais intenso da ferramenta por diferentes usuários pode torná-la mais efetiva.

No entanto, a empresa ressalta que, devido às limitações de lançamento, a solução não deve ser considerada 100% confiável. A OpenAI, por exemplo, recomenda o uso da solução em textos feitos em inglês em um primeiro momento.