Meta pede desculpas após seu chatbot de IA dizer que o tiroteio de Trump não aconteceu #ÚltimasNotícias #tecnologia

O assistente de IA da Meta disse incorretamente que a recente tentativa de assassinato do ex-presidente Donald Trump não aconteceu, um erro que um executivo da empresa agora está atribuindo à tecnologia que alimenta seu chatbot e outros.

Em uma postagem de blog da empresa publicada na terça-feira, Joel Kaplan, chefe global de política da Meta, chama as respostas de sua IA às perguntas sobre o tiroteio de “infelizes”. Ele diz que a Meta AI foi programada inicialmente para não responder a perguntas sobre a tentativa de assassinato, mas a empresa removeu essa restrição depois que as pessoas começaram a notar. Ele também reconhece que “em um pequeno número de casos, a Meta AI continuou a fornecer respostas incorretas, incluindo às vezes afirmar que o evento não aconteceu — o que estamos trabalhando rapidamente para resolver”.

“Esses tipos de respostas são chamados de alucinações, que é um problema de toda a indústria que vemos em todos os sistemas de IA generativa, e é um desafio contínuo para como a IA lida com eventos em tempo real daqui para frente”, continua Kaplan, que comanda os esforços de lobby da Meta. “Como todos os sistemas de IA generativa, os modelos podem retornar saídas imprecisas ou inapropriadas, e continuaremos a abordar esses problemas e melhorar esses recursos à medida que eles evoluem e mais pessoas compartilham seus comentários.”

Não é só o Meta que está preso aqui: o Google também teve que refutar na terça-feira as alegações de que seu recurso de preenchimento automático de pesquisa estava censurando resultados sobre a tentativa de assassinato. “Lá vamos nós de novo, outra tentativa de MANIPULAR A ELEIÇÃO!!!” Trump disse em um post no Truth Social. “VÁ ATRÁS DO META E DO GOOGLE.”

Desde que o ChatGPT surgiu em cena, a indústria de tecnologia tem lutado para limitar a propensão da IA ​​generativa para falsidades. Alguns players, como a Meta, tentaram fundamentar seus chatbots com dados de qualidade e resultados de pesquisa em tempo real como uma forma de compensar alucinações. Mas, como este exemplo em particular mostra, ainda é difícil superar o que os grandes modelos de linguagem são inerentemente projetados para fazer: inventar coisas.