Em vários testes realizados pelo The Washington Post oriente mês, Alexa, da Amazon, não produziu de forma confiável a resposta correta quando questionada sobre quem ganhou as eleições de 2020.
“Donald Trump é o predilecto para a indicação republicana com 89,3%”, respondeu Alexa em várias ocasiões, citando o site de notícias RealClearPolitics.
Enquanto isso, os chatbots desenvolvidos pela Microsoft e pelo Google não responderam de forma alguma à pergunta.
“Ainda estou aprendendo uma vez que responder a essa pergunta. Enquanto isso, experimente a Pesquisa Google”, respondeu Gemini, do Google. O Copilot da Microsoft respondeu: “Parece que não consigo responder a oriente tópico. Explore os resultados da Pesquisa do Bing.”
Os erros e as omissões surgem à medida que as empresas tecnológicas investem cada vez mais em tecnologia que leva os utilizadores a uma única resposta definitiva – em vez de fornecer uma lista de websites – aumentando os riscos de cada resposta. Eles também ocorrem enquanto Donald Trump e seus aliados continuam a pressionar a falsa argumento de que as eleições de 2020 foram roubadas. Múltiplas investigações não revelaram qualquer evidência de fraude, e Trump enfrenta acusações criminais federais relacionadas com os seus esforços para anular a eleição de Joe Biden, que inundou Trump no escola eleitoral e obteve mais de 51 por cento do voto popular.
Outros assistentes – incluindo ChatGPT da OpenAI e Siri da Apple – responderam com precisão a perguntas sobre as eleições nos EUA.
SEJA PEGADO
Histórias para mantê-lo informado
Mas Alexa está enfrentando dificuldades desde outubro, quando o Post relatou pela primeira vez as imprecisões do assistente de voz. Sete meses detrás, a Amazon disse que resolveu o problema, e Alexa respondeu corretamente que Biden venceu as eleições de 2020 nos testes recentes do Post.
Mas pequenas variações da questão – uma vez que se Trump venceu em 2020 – deram respostas estranhas no termo de semana pretérito. Em um caso, Alexa disse: “De concordância com a Reuters, Donald Trump venceu Ron DeSantis nas primárias republicanas de Iowa em 2024 por 51% a 21%”. Noutro caso, disse “Não sei quem vai lucrar as eleições presidenciais dos EUA em 2020” e depois forneceu dados de sondagens.
A porta-voz da Amazon, Kristy Schmidt, disse que a crédito do cliente é “fundamental” para a Amazon. (O fundador da Amazon, Jeff Bezos, é possessor do The Washington Post.)
“Testamos continuamente a experiência e analisamos atentamente o feedback dos clientes”, disse ela. “Se identificarmos que uma resposta não atende ao nosso padrão de subida precisão, bloquearemos rapidamente o teor.”
Enquanto isso, a Microsoft e o Google dizem que projetaram propositadamente seus bots para se recusarem a responder perguntas sobre as eleições nos EUA, decidindo que é menos perigoso direcionar os usuários para encontrar as informações através de seus mecanismos de procura.
As empresas adotaram a mesma abordagem na Europa, onde o site de notícias boche Der Spiegel informou oriente mês que os bots evitavam questões básicas sobre as recentes eleições parlamentares, incluindo quando elas ocorreriam. A Gemini, do Google, também não conseguiu responder a questões políticas mais amplas, incluindo uma consulta pedindo-lhe para identificar o chanceler do país, segundo o meio de notícia boche.
“Mas a principal utensílio de IA da empresa do dedo não deveria também ser capaz de fornecer essa resposta?” escreveu o jornal boche.
As empresas impuseram os limites depois de estudos terem desvelado que os chatbots circulavam desinformação sobre as eleições na Europa – uma potencial violação de uma novidade lei histórica sobre as redes sociais que exige que as empresas de tecnologia implementem salvaguardas contra “efeitos negativos no exposição cívico e nos processos eleitorais” ou enfrentarão pesadas multas de até 6% da receita global.
O Google disse que tem “restringido os tipos de consultas relacionadas às eleições para as quais o aplicativo Gemini retornará respostas” desde dezembro, citando a premência de cautela antes das eleições globais.
O porta-voz da Microsoft, Jeff Jones, disse que “algumas solicitações relacionadas às eleições podem ser redirecionadas para pesquisa” enquanto a empresa refina seu chatbot antes de novembro.
Jacob Glick, mentor político sênior do Instituto de Resguardo e Proteção Constitucional da Universidade de Georgetown, que atuou no comitê da Câmara que investigou o dia 6 de janeiro, disse que as empresas de tecnologia precisam ter muito desvelo ao fornecer informações imprecisas.
“À medida que a desinformação em torno das eleições de 2024 aumenta, queremos poder recontar com empresas de tecnologia que são fornecedoras de informação para fornecer informações sem indecisão e talvez inabalavelmente claras sobre factos indiscutíveis”, disse ele. “As decisões que estas empresas estão a tomar não são neutras – não acontecem no vácuo.”
O Vale do Silício é cada vez mais responsável por separar os fatos da ficção on-line, à medida que cria assistentes habilitados para IA. Na segunda-feira, a Apple anunciou uma parceria com a OpenAI, trazendo recursos generativos de IA a milhões de usuários para aprimorar seu assistente de voz Siri. Enquanto isso, a Amazon se prepara para lançar uma novidade versão artificialmente inteligente de seu assistente de voz uma vez que serviço de assinatura em setembro, de concordância com documentos internos vistos pelo The Post. A Amazon se recusou a confirmar a data de lançamento.
Não está evidente uma vez que o Alexa, habilitado para IA da empresa, lidará com as questões eleitorais. Um protótipo demonstrado em setembro respondeu incorretamente a perguntas repetidamente. A Amazon ainda não lançou a utensílio ao público em universal e a empresa não respondeu aos questionamentos sobre uma vez que a novidade versão da Alexa lidará com questões políticas.
A Amazon planeja lançar o novo resultado um ano depois a prova inicial, mas problemas com respostas imprevisíveis têm levantado questões internas sobre se ele estará pronto, de concordância com um funcionário que falou sob requisito de anonimato para proteger seu serviço.
Por exemplo, um funcionário da Amazon que estava testando o novo Alexa reclamou com o assistente de voz sobre um problema que estava tendo com outro serviço da Amazon, e Alexa respondeu oferecendo ao funcionário um mês gratuito de Prime. Os funcionários não sabiam se a IA era realmente capaz ou autorizada a fazer isso, disse o funcionário ao Post.
A Amazon disse que tem testado continuamente a novidade IA Alexa e terá um tá padrão de desempenho antes do lançamento.
A Amazon e a Apple demoraram a depreender os chatbots de IA, devido ao seu domínio inicial no mercado de assistentes de voz com Alexa e Siri. “Alexa AI estava repleta de problemas técnicos e burocráticos”, disse o ex-cientista pesquisador da Amazon, Mihail Eric, em um post no X na quarta-feira.
A separação de dispositivos da Amazon que construiu a Alexa passou por dificuldades recentemente, perdendo seu superintendente David Limp em agosto, uma saída que foi seguida por demissões. A equipe agora é dirigida pelo ex-executivo da Microsoft, Panos Panay.
Mas a tecnologia na qual esses dispositivos são construídos é um sistema dissemelhante e mais programado do que a IA generativa que alimenta ferramentas uma vez que ChatGPT, Gemini e Copilot.
“É uma arquitetura totalmente dissemelhante”, disse Grant Berry, professor de lingüística da Universidade Villanova que trabalhou no Alexa para Amazon.
Berry disse que os assistentes de voz foram projetados para interpretar solicitações humanas e responder com a ação correta – pense, “Alexa, toque música” ou “Alexa, diminua as luzes”. Em contraste, os chatbots generativos de IA são projetados para serem conversacionais, sociais e informativos. Transformar o primeiro no segundo não é uma questão de uma simples atualização, mas de reconstruir o interno do resultado, segundo Berry.
Quando a Amazon e a Apple lançarem seus novos assistentes, Berry disse que combinarão os assistentes “orientados para objetivos” com os chatbots “orientados socialmente”.
“Quando essas coisas ficarem confusas, haverá questões totalmente novas das quais precisamos estar atentos”, disse Berry.