Teorias da conspiração não são páreo para um chatbot de IA, aparentemente #ÚltimasNotícias #tecnologia

Considerando o debate presidencial desta semana, você provavelmente ouviu muita desinformação e teorias da conspiração.

De fato, repórteres e verificadores de fatos estavam trabalhando horas extras para determinar especificamente se imigrantes haitianos em Ohio estavam comendo animais domésticos, como grotescamente alegado pelo candidato presidencial republicano Donald Trump e seu companheiro de chapa vice-presidencial, o senador de Ohio JD Vance. Nenhum deles apresentou evidências provando sua alegação, e autoridades locais dizem que não é verdade. Ainda assim, a falsa alegação está por toda a internet.

Especialistas há muito se preocupam com a rapidez com que as teorias da conspiração podem se espalhar, e algumas pesquisas sugerem que as pessoas não podem ser persuadidas por fatos que contradizem essas crenças.

Mas um novo estudo publicado hoje em Ciência oferece esperança de que muitas pessoas podem e irão abandonar as teorias da conspiração sob as circunstâncias certas.

Neste caso, os pesquisadores testaram se as conversas com um chatbot alimentado por inteligência artificial generativa poderiam interagir com sucesso com pessoas que acreditavam em teorias da conspiração populares, como a de que os ataques de 11 de setembro foram orquestrados pelo governo americano e que o vírus COVID-19 foi uma tentativa humana de “elites globais” de “controlar as massas”.

Os 2.190 participantes do estudo tinham conversas personalizadas de ida e volta sobre uma única teoria da conspiração de sua escolha com o GPT-4 Turbo da OpenAI. O modelo tinha sido treinado em uma grande quantidade de dados da internet e de fontes licenciadas.

Após as discussões dos participantes, os pesquisadores encontraram uma redução de 20% na crença em conspiração. Em outras palavras, um quarto dos participantes havia parado de aderir à teoria da conspiração que haviam discutido. Essa diminuição persistiu dois meses após a interação com o chatbot.

David Rand, coautor do estudo, disse que as descobertas indicam que a mente das pessoas pode ser mudada com fatos, apesar do pessimismo sobre essa perspectiva.

“Fatos e evidências importam substancialmente para muitas pessoas.”

“A evidência não está morta”, Rand disse ao Mashable. “Fatos e evidências importam em um grau substancial para muitas pessoas.”

Principais histórias do Mashable

Continue após a publicidade

Rand, que é professor de ciência da administração e ciências cognitivas e cerebrais no MIT, e seus coautores não testaram se os participantes do estudo tinham mais probabilidade de mudar de ideia depois de falar com um chatbot em comparação com alguém que eles conhecem na vida real, como um melhor amigo ou irmão. Mas eles suspeitam que o sucesso do chatbot tem a ver com a rapidez com que ele consegue reunir fatos e evidências precisos em resposta.

Em uma conversa de amostra incluída no estudo, um participante que acha que os ataques de 11 de setembro foram encenados recebe uma explicação científica exaustiva do chatbot sobre como as Torres Gêmeas desabaram sem o auxílio de detonações explosivas, entre outras alegações populares de conspiração relacionadas. No início, o participante se sentiu 100% confiante na teoria da conspiração; no final, sua confiança caiu para 40%.

Para qualquer um que já tentou discutir uma teoria da conspiração com alguém que acredita nela, eles podem ter experimentado trocas rápidas cheias do que Rand descreveu como “fatos e links esotéricos estranhos” que são incrivelmente difíceis de refutar. Um chatbot de IA generativa, no entanto, não tem esse problema, porque ele pode responder instantaneamente com informações baseadas em fatos.

Nem um chatbot de IA é prejudicado pela dinâmica de relacionamento pessoal, como se uma rivalidade de longa data entre irmãos ou uma amizade disfuncional molda como um teórico da conspiração vê a pessoa que oferece informações contrárias. Em geral, o chatbot foi treinado para ser educado com os participantes, construindo um relacionamento com eles ao validar sua curiosidade ou confusão.

Os pesquisadores também perguntaram aos participantes sobre sua confiança na inteligência artificial. Eles descobriram que quanto mais um participante confiava na IA, mais provável era que ele suspendesse sua crença na teoria da conspiração em resposta à conversa. Mas mesmo aqueles céticos da IA ​​foram capazes de mudar de ideia.

Mais importante, os pesquisadores contrataram um verificador de fatos profissional para avaliar as alegações feitas pelo chatbot, para garantir que ele não estava compartilhando informações falsas ou inventando coisas. O verificador de fatos classificou quase todas elas como verdadeiras e nenhuma delas como falsa.

Por enquanto, as pessoas curiosas sobre o trabalho dos pesquisadores podem experimentá-lo por si mesmas usando seus DesmascararBotque permite aos usuários testar suas crenças em relação a uma IA.

Rand e seus coautores imaginam um futuro em que um chatbot pode ser conectado a contas de mídia social como uma forma de combater teorias da conspiração que circulam em uma plataforma. Ou as pessoas podem encontrar um chatbot quando pesquisam on-line por informações sobre rumores virais ou fraudes, graças a anúncios de palavras-chave vinculados a certos termos de pesquisa de conspiração.

Rand disse que o sucesso do estudo, que ele e seus coautores replicaram, oferece um exemplo de como a IA pode ser usada para o bem.

Ainda assim, ele não é ingênuo sobre o potencial de atores mal-intencionados usarem a tecnologia para construir um chatbot que confirme certas teorias da conspiração. Imagine, por exemplo, um chatbot que foi treinado em postagens de mídia social que contêm alegações falsas.

“Resta ver, essencialmente, como tudo isso vai se desenrolar”, disse Rand. “Se as pessoas estão usando principalmente esses modelos de fundação de empresas que estão se esforçando muito para realmente tentar torná-los precisos, temos uma chance razoável de que isso se torne uma ferramenta amplamente útil e confiável.”