Cresce a demanda por detectores confiáveis ​​de textos gerados por IA #ÚltimasNotícias

Além disso, é importante considerar algumas questões éticas que envolvem o uso de detectores de IA, tais como privacidade, segurança de dados e o uso indevido de ferramentas de detecção, violando a confidencialidade e os direitos de propriedade do autor. Portanto, também é importante ter transparência na implantação e utilização de detectores, garantindo que os usuários estejam cientes de que seus dados estão sendo verificados, utilizados e protegidos.

Do lado da confiabilidade, os detectores de IA precisam ser examinados a priori, por meio de testes empíricos e estudos de caso, antes de serem utilizados em situações reais. Vários experimentos podem ser programados para avaliar o desempenho dos detectores de IA atualmente em uso, revelando resultados concordantes ou uma mistura de resultados que discordam entre si. Alguns detectores apresentam altas taxas de precisão em ambientes controlados, mas têm dificuldades em identificar textos humanizados ou parafraseados gerados por IA. Esta variabilidade destaca a necessidade de testes e validação contínua das ferramentas de detecção.

Opção gratuita e disponível

Levando tudo isso em conta, desenvolvi com o aluno João Gabriel Gralha, do Centro Técnico Científico da Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio), o sistema computacional Gotcha-GPT. Gratuito e disponível no repositório Github, este sistema já pode detectar textos científicos em inglês gerados por IA e por humanos, e pode ser facilmente treinado em pouco tempo para avaliar qualquer texto, inclusive em português e em qualquer nível de complexidade. A única limitação é o tamanho do texto, que tem até 1024 tokens, ou aproximadamente 700 palavras.

O Gotcha-GPT também pode ser utilizado em conjunto com outros detectores de textos gerados por IA, como Originality AI, Copyleaks, ZeroGPT, GPTZero, Writer AI, Hive AI, Detector Content At Scale e Giant Language Model Test Room. É importante destacar, porém, que não endossamos nenhuma das ferramentas acima, nas quais os usuários precisam testar e serem treinados para ganhar experiência.

*André Silva Pimentel, cientista do Nosso Estado da FAPERJ e professor associado do Departamento de Química do Centro Técnico Científico da Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio)