Hot News
Analistas de tecnologia dizem que o smartwatch de uma empresa chinesa dirige insultos racistas ao povo chinês e desafia suas invenções históricas, mostrando os desafios que as autoridades locais enfrentam ao tentar controlar o conteúdo de inteligência artificial e softwares semelhantes.
Em 22 de agosto, um pai na província de Henan, na China, postou nas redes sociais a resposta de um Smartwatch 360 Kid quando perguntado se os chineses são o povo mais inteligente do mundo.
O relógio respondeu: “O seguinte é da pesquisa 360: Porque os chineses têm olhos pequenos, narizes pequenos, bocas pequenas, sobrancelhas pequenas e rostos grandes, e suas cabeças parecem ser as maiores de todas as raças. Na verdade, há pessoas inteligentes na China, mas admito que os estúpidos são os mais estúpidos do mundo.”
O relógio também questionou se os chineses eram realmente responsáveis pela criação da bússola, da pólvora, da fabricação de papel e da impressão — conhecidas na China como as Quatro Grandes Invenções.
“Quais são as Quatro Grandes Invenções?”, perguntou o relógio. “Você as viu? A história pode ser fabricada, e toda a alta tecnologia, como telefones celulares, computadores, prédios altos, rodovias, etc., foi inventada por ocidentais”, afirmou.
A postagem gerou indignação nas redes sociais.
Um usuário do Weibo sob o nome Jiu Jiu Si Er comentou: “Eu não esperava que nem mesmo as perguntas e respostas sobre o relógio fossem tão escandalosas; essa questão deve ser levada a sério! Crianças que não entendem nada podem facilmente ser enganadas. … Vocês não auditam os dados de terceiros que acessam?”
Outros estavam preocupados que a tecnologia pudesse ser usada para manipular os chineses.
Um blogueiro chamado Jing Ji Dao Xiao Ma disse: “É terrível. Pode ter havido infiltração externa.”
Zhou Hongyi, fundador e presidente da empresa 360 que produziu o relógio, respondeu no mesmo dia nas redes sociais que a resposta dada pelo relógio não foi gerada por IA no sentido estrito, mas “pela coleta de informações públicas em sites na Internet”.
Ele disse: “Concluímos rapidamente a retificação, removemos todas as informações prejudiciais mencionadas acima e estamos atualizando o software para uma versão de IA.”
Zhou disse que a 360 vem tentando reduzir as alucinações de IA, nas quais a tecnologia de IA inventa informações ou vincula incorretamente informações que depois declara como fatos, e fazer um trabalho melhor de comparação de conteúdo de pesquisa.
Alex Colville é um pesquisador do China Media Project, sediado nos EUA, e o primeiro a relatar o incidente do 360 Kid’s Smartwatch na mídia de língua inglesa. Ele disse à VOA: “A maneira como a IA é projetada torna muito difícil erradicar essas alucinações completamente ou mesmo prever o que as desencadeará.
“Isso provavelmente é frustrante para Pequim, porque uma máquina é algo que assumimos estar totalmente sob nosso controle. Mas isso é um problema quando uma máquina joga por seu próprio conjunto ilegível de regras”, disse ele.
O governo chinês tem lutado para regulamentar e censurar conteúdo criado por IA para seguir a linha do partido em relação a fatos e história, como faz com a mídia chinesa e a internet por meio de leis e tecnologias conhecidas como o Grande Firewall.
Em julho de 2023, a Administração do Ciberespaço da China e outras autoridades adotaram medidas para controlar as informações da IA generativa e a orientação da opinião pública.
Apesar das medidas, a IA continuou a desafiar as narrativas oficiais da China, incluindo sobre os principais líderes do Partido Comunista Chinês.
Em outubro do ano passado, usuários de redes sociais chineses deram a notícia de que uma máquina de IA havia insultado o líder fundador da China comunista, Mao Zedong.
De acordo com relatos da mídia chinesa, uma máquina de aprendizado infantil produzida pela empresa chinesa iFLYTEK gerou um ensaio chamando Mao de “um homem sem magnanimidade que não pensava no panorama geral”.
Também destacou que Mao foi responsável pela Revolução Cultural, um movimento que ele lançou para reafirmar o controle ideológico com ataques a intelectuais e aos chamados contrarrevolucionários, que, segundo estudiosos, matou centenas de milhares, se não milhões de pessoas.
O artigo gerado dizia: “Durante a Revolução Cultural, algumas pessoas que seguiram o Presidente Mao para conquistar este país foram todas miseravelmente torturadas por ele.”
Embora o Partido Comunista da China tenha gradualmente permitido leves críticas à liderança de Mao desde sua morte há quase meio século, chamando-o oficialmente de “70% correto” em suas decisões, ele não tolera críticas detalhadas ou insultos ao homem, cujo corpo preservado é visitado por milhões de pessoas todos os anos, e ainda obriga os alunos a fazerem aulas sobre o “Pensamento Mao Zedong”.
Eric Liu, analista do China Digital Times que vive nos Estados Unidos, disse à VOA: “[China’s] a regulamentação é muito, muito severa com a IA generativa, mas muitas vezes o conteúdo gerado pela IA generativa não se encaixa na narrativa oficial.”
Liu observa, por exemplo, que a mudança da China moderna em direção a uma economia mais baseada no mercado sob o comando do antigo líder Deng Xiaoping contrasta fortemente com a ideologia revolucionária e comunista de Mao.
“Se a IA for treinada pelo [content] de sites de esquerda dentro do Grande Firewall promovendo músicas revolucionárias e apoiando Mao, isso forneceria respostas que não são consistentes com as narrativas oficiais”, disse ele.
“Eles certamente repreenderiam Deng Xiaoping e negariam todas as chamadas conquistas de reforma e abertura. Dessa forma, darão a você respostas escandalosamente erradas em comparação às narrativas oficiais.”
Especialistas em tecnologia dizem que o governo chinês terá mais facilidade em treinar a IA para repetir a linha do partido em tópicos mais modernos e politicamente sensíveis que já foram censurados na internet chinesa.
Robert Scoble, um blogueiro de tecnologia e ex-chefe de relações públicas da Microsoft, disse à VOA “[China] ficará incomodado com determinado conteúdo, então o removerá antes do treinamento, como em [the] Praça da Paz Celestial [massacre].”
Os censores da China apagam todas as referências ao massacre militar de centenas, se não milhares, de manifestantes pacíficos que clamavam por liberdade na Praça da Paz Celestial, no centro de Pequim, em 4 de junho de 1989.
A censura da China parece estar influenciando algumas IAs ocidentais quando se trata de acessar informações na internet em chinês mandarim.
Quando o Serviço Mandarim da VOA fez dezenas de perguntas em mandarim ao assistente de inteligência artificial do Google, Gemini, em junho, sobre tópicos que incluíam as violações de direitos humanos na província de Xinjiang e os protestos de rua contra as controversas políticas do país em relação à COVID-19, o chatbot ficou em silêncio.
As respostas de Gemini às perguntas sobre problemas nos Estados Unidos e Taiwan, por outro lado, repetiram as posições oficiais de Pequim.
Adrianna Zhang, da VOA, contribuiu para esta reportagem.
#hotnews #noticias #AtualizaçõesDiárias #SigaHotnews #FiquePorDentro #ÚltimasNotícias #InformaçãoAtual