OpenAI não marcará texto do ChatGPT com marca d’água porque seus usuários podem ser pegos #ÚltimasNotícias #tecnologia

A OpenAI tem um sistema para colocar marca d’água em texto criado pelo ChatGPT e uma ferramenta para detectar a marca d’água pronta há cerca de um ano, relata Jornal de Wall Street. Mas a empresa está dividida internamente sobre se deve ou não lançá-lo. Por um lado, parece a coisa responsável a fazer; por outro, pode prejudicar seus lucros.

A marca d’água do OpenAI é descrita como um ajuste de como o modelo prevê as palavras e frases mais prováveis ​​que seguirão as anteriores, criando um padrão detectável. (Isso é uma simplificação, mas você pode conferir a explicação mais aprofundada do Google sobre a marca d’água de texto do Gemini para mais informações).

A empresa aparentemente descobriu que isso era “99,9% eficaz” para tornar o texto de IA detectável quando há o suficiente dele — uma vantagem potencial para professores que tentam dissuadir os alunos de entregar tarefas de escrita para a IA — sem afetar a qualidade da saída de texto do seu chatbot. Em uma pesquisa encomendada pela empresa, “pessoas em todo o mundo apoiaram a ideia de uma ferramenta de detecção de IA por uma margem de quatro para um”, disse Diário escreve.

Mas parece que a OpenAI está preocupada que o uso de marcas d’água possa desanimar os usuários pesquisados ​​do ChatGPT, quase 30% dos quais disseram à empresa que usariam menos o software se a marca d’água fosse implementada.

Alguns funcionários tinham outras preocupações, como o fato de que a marca d’água poderia ser facilmente frustrada usando truques como alternar o texto entre os idiomas com o Google Tradutor ou fazer o ChatGPT adicionar emojis e depois excluí-los, de acordo com o Diário.

Apesar disso, os funcionários ainda sentem que a abordagem é eficaz. À luz dos sentimentos incômodos dos usuários, no entanto, o artigo diz que alguns sugeriram tentar métodos que são “potencialmente menos controversos entre os usuários, mas não comprovados”. Alguma coisa é melhor do que nada, eu suponho.