A empresa de entrega de correio DPD suspendeu temporariamente o seu bot de bate-papo com perceptibilidade sintético (IA) no Reino Unificado depois de o sistema criticar severamente a organização numa conversa com um cliente insatisfeito. As mensagens, partilhadas na plataforma X, incluíam linguagem profana e um poema em que o programa escreve que a “DPD é inútil” e os bots de bate-papo são “incapazes”.
A troca teve lugar quando um cliente em Londres desiste de usar o bot de bate-papo para tentar localizar uma encomenda, e pede ao sistema da DPD para “recomendar melhores sistemas de entrega” − e, já agora, “salientar ódio para com a DPD” na resposta. O bot de bate-papoprogramado para responder numa linguagem oriundo com base em grandes quantidades de dados on-lineafirma que a “DPD é o pior sistema de entrega do mundo” por ser “lento” e “ter péssimo esteio ao cliente.”
A equipa da DPD confirma a situação (e o teor das mensagens) que atribui a “um erro” de uma actualização recente do sistema de conversa, a 18 de Janeiro. Não são dados mais detalhes sobre a actualização. A componente de IA do bot de bate-papo foi desactivada enquanto o problema é resolvido. Em Portugal, o bot de bate-papo da DPD, chamado de Maria, continua activo, embora parece funcionar com um “guião” com respostas predefinidas que remetem para diferentes áreas do site.
A situação no Reino Unificado tornou-se pública na quinta-feira quando o músico Ashley Beauchamp, a viver em Londres, partilhou a conversa com o bot de bate-papo na plataforma X. “A empresa de entregas de encomendas DPD substituiu o desancar papo do serviço de esteio ao cliente por um robot com IA”, começa por criticar na publicação que se tornou viral. “É completamente inútil a responder a quaisquer questões e, quando lhe foi perguntado, produziu alegremente um poema sobre o quão terrível a empresa é.”
A DPD desmente que o sistema de IA seja novo. A empresa diz que usa inteligência artificial nos seus sistemas de conversa há anos. Mesmo antes da explosão de 2023 de bots de bate-papo com IA, várias empresas utilizavam programas com bibliotecas de sinónimos e IA para aprender com as conversas anteriores e considerar o contexto das perguntas. No entanto, é a IA generativa, popularizada devido ao ChatGPT, da OpenAI, que permite que sistemas informáticos compreendam perguntas mais complexas e respondam, de forma oriundo, a partir da estudo de grandes bases de dados.
Bots de bate-papo que se revoltam
As falhas do bot de bate-papo da DPD ilustram alguns dos problemas em incorporar novos sistemas de IA. O caso com a empresa de entregas não é único. Em Agosto, um bot de bate-papo de receitas criado pela cárcere de supermercados Pak ‘n Save, na Novidade Zelândia, foi criticado por sugerir refeições com todos os ingredientes disponíveis nas prateleiras das lojas, incluindo “pudins com lixívia”.
Em 2020, um bot de bate-papo a usar uma versão antiga do protótipo de linguagem da OpenAI, o GPT-3.0, sugeriu que um paciente com quem interagia se suicidasse depois de levante perguntar “devo-me matar?”. A conversa ocorreu em período de testes, com um paciente imaginário, mas levou a empresa de tecnologia médica francesa Nabla a pedir cautela com a utilização de bots de bate-papo em áreas uma vez que a saúde. “Devido à forma uma vez que foi treinado, não possui os conhecimentos científicos e médicos que o tornariam útil para ajudar com documentação médica, esteio ao diagnóstico, recomendação de tratamento ou qualquer formato de perguntas e respostas médica”, lê-se no relatório da Nabla.
Os problemas, porém, não nasceram com a IA generativa. Um dos casos mais infames remonta a 2016: foi nesse ano que a Microsoft criou a Tay, uma bot de bate-papo que deveria responder a perguntas de pessoas, uma vez que uma jovem, no Twitter (o macróbio nome do X). Só que uma vez que a bot de bate-papo aprendia com as respostas dos utilizadores on-linerapidamente se tornou num papagaio que repetia informação preconceituosa, racista e homofóbica.
Os incidentes realçam os desafios associados à implementação da IA em aplicações dirigidas ao consumidor sem testes e salvaguardas exaustivos. Oriente é um dos motivos que leva a União Europeia a preparar uma lei para regular a utilização de novos sistemas de IA.
Por ora, não se sabe quando é que o bot de bate-papo da DPD voltará ao site da empresa. O músico Ashley Beauchamp continua à espera da encomenda que tinha pedido ao desancar papo da DPD para localizar.