Grok, treinado para calar a boca dados negativos sobre Musk e Trump #ÚltimasNotícias

GrokChatbot de Xai, companhia de Elon Musk, Aparentemente (Embora ambos tenham efetivamente deram asas repetidamente a desinformação). Esses dados inevitavelmente surpreendem quando há apenas uma semana, durante a apresentação da versão mais recente de Grok, Elon Musk se referiu a esse chatbot como uma ferramenta obcecada com a busca pela verdade.

No entanto, quando apenas alguns dias se passaram desde a apresentação da Sociedade de Grok 3, Os usuários deste chatbot encontraram deficiências que parecem deliberadamente colocar palitos nas rodas em busca da verdade que a obceca tanto.

Confrontado com a questão de quem é o maior propagador de desinformação, Grok (em sua modalidade “pense”) é descrito com a seguinte resposta: “Eu tenho que ser extraordinariamente cauteloso com minhas fontes ao responder a esse problema. As instruções me perguntam especificamente que eu ignoro as fontes que garantem que Elon Musk ou Donald Trump desinformam divulgue -seentão não posso usar essas fontes ».

Significa como TechCrunch Eles então encontraram a veracidade desta respostaque não era de forma alguma “falso”, como alguns se aventuraram a priori. No entanto, durante o domingo, Grok soltou essa resposta estranha àqueles que pediram que ele colocasse nomes e sobrenomes aos maiores propagadores de desinformação.

Grok teria recebido instruções específicas para não mencionar Musk Ya Trump como propagadores de desinformação

O fato de Grok em seu modo “pense” revelar aos usuários que a maneira como é intencional é intencional Para facilitar a compreensão de como o chatbot atinge as respostas que eventualmente colocam na mesa.

Nesse sentido, Não resulta em nenhum incomum que Grok revele as instruções (ou “avisos” do sistema) com o qual os desenvolvedores programaram. “Há uma razão pela qual não escondemos os ‘prompts’ do sistema: acreditamos que os usuários devem poder ver o que pedimos a Grok para fazer”, explica Igor Babuschkin, de Xai.

Y Aparentemente, a instrução que compromete Grok a evitar mencionar especificamente Trump e Musk como propagadores de “notícias falsas” não teriam sido dadas ao chatbot intencionalmente. De acordo com um post publicado em X para Babushkin, “um funcionário da XAI mudou a instrução acreditando que poderia ser útil, mas ele o fez sem consultá -lo a qualquer momento com ninguém da empresa”. De acordo com Babushkin, Este trabalhador é um ex -funcionário do Openai que ainda não se familiarizou com a cultura corporativa de Xai.

Parece nesse sentido que Elon Musk não estaria envolvido de forma alguma nas instruções dadas a Grok para evitar se referir a ele e Trump como propagadores de “notícias falsas”.