TechScape: Por que não consigo parar de escrever sobre Elon Musk | Tecnologia #ÚltimasNotícias

“EU espero não ter que cobrir Elon Musk novamente por um tempo”, pensei na semana passada depois de enviar o TechScape para os leitores. Então recebi uma mensagem do editor de notícias. “Você pode ficar de olho no feed do Twitter de Elon Musk esta semana?”

Acabei fazendo uma leitura atenta do viciado em postagens mais poderoso do mundo, e meu cérebro se transformou em líquido e escorreu pelos meus ouvidos:

Em seu menor intervalo noturno, no sábado à noite, ele saiu do site após retuitar um meme comparando a polícia metropolitana de Londres à SS nazista, antes de voltar a ficar on-line quatro horas e meia depois para retuitar um influenciador de criptomoedas reclamando das penas de prisão para britânicos que participavam de protestos.

Mas de alguma forma eu ainda fiquei surpreso com o que encontrei. Eu conhecia os contornos ásperos da presença de Musk na internet por anos cobrindo-o: uma divisão tripla entre promover seus negócios reais, Tesla e SpaceX; republicações ansiosas de humor nerd de barganha; e agitação política cada vez mais de direita.

Acompanhar Musk em tempo real, no entanto, revelou as maneiras como seu modo caótico foi distorcido por sua mudança para a direita. Sua promoção da Tesla é cada vez mais flexionada em termos de guerra cultural, com o Cybertruck em particular promovido com uma linguagem que faz parecer que comprar um ajudará a derrotar os democratas na eleição presidencial dos EUA em novembro. O humor nerd de pechincha mencionado acima é tingido com uma raiva do mundo por não achar que ele é a pessoa mais legal nele. E a agitação política de direita é cada vez mais extrema.

O envolvimento de Musk na desordem no Reino Unido parece tê-lo empurrado mais para os braços da extrema direita do que nunca. Este mês, ele tuitou para Lauren Southern pela primeira vez, uma personalidade canadense de extrema direita da internet que é mais famosa no Reino Unido por ganhar uma proibição de visto do governo de Theresa May por sua islamofobia. Mais do que apenas tuitar: ele também a apoia financeiramente, enviando cerca de £ 5 por mês pelo recurso de assinatura do Twitter. Depois, houve o retuíte que ganhou as manchetes do colíder do Britain First. Por si só, poderia ter sido atribuído a Musk não saber em que lago estava nadando; duas semanas depois, o padrão é mais claro. Essas são as pessoas dele, agora.

Bem, está tudo bem então

Um exemplo bacana da diferença entre press releases científicos e artigos científicos, hoje do mundo da IA. O press release, da University of Bath:

A IA não representa nenhuma ameaça existencial à humanidade, segundo novo estudo.

Os LLMs têm uma habilidade superficial de seguir instruções e se destacam na proficiência em linguagem, no entanto, eles não têm potencial para dominar novas habilidades sem instruções explícitas. Isso significa que eles permanecem inerentemente controláveis, previsíveis e seguros.

Isso significa que eles permanecem inerentemente controláveis, previsíveis e seguros.

O artigo, de Lu et al:

Grandes modelos de linguagem, compreendendo bilhões de parâmetros e pré-treinados em extensos corpora de escala da web, foram reivindicados para adquirir certas capacidades sem terem sido especificamente treinados nelas… Apresentamos uma nova teoria que explica as habilidades emergentes, levando em conta seus potenciais fatores de confusão, e rigorosamente substanciamos essa teoria por meio de mais de 1.000 experimentos. Nossas descobertas sugerem que supostas habilidades emergentes não são verdadeiramente emergentes, mas resultam de uma combinação de aprendizagem em contexto, memória de modelo e conhecimento linguístico.

Nosso trabalho é um passo fundamental para explicar o desempenho do modelo de linguagem, fornecendo um modelo para seu uso eficiente e esclarecendo o paradoxo de sua capacidade de se destacar em algumas instâncias enquanto vacila em outras. Assim, demonstramos que suas capacidades não devem ser superestimadas.

A versão do comunicado à imprensa desta história se tornou viral, por razões previsíveis: todo mundo gosta de ver titãs do Vale do Silício sendo prejudicados, e o risco existencial da IA ​​se tornou um tópico polêmico nos últimos anos.

Mas o artigo está a vários passos da afirmação que o gabinete de imprensa da universidade quer fazer sobre ele. O que é uma pena, porque o que o artigo faz show é interessante e importante de qualquer forma. Há muito foco nas chamadas habilidades “emergentes” com modelos de fronteira: tarefas e capacidades que não existiam nos dados de treinamento, mas que o sistema de IA demonstra na prática.

Essas habilidades emergentes são preocupantes para pessoas que se preocupam com risco existencial, porque sugerem que a segurança da IA ​​é mais difícil de garantir do que gostaríamos. Se uma IA pode fazer algo para o qual não foi treinada, então não há uma maneira fácil de garantir que um futuro sistema de IA seja seguro: você pode deixar as coisas de fora dos dados de treinamento, mas ela pode descobrir como fazê-las de qualquer maneira.

O artigo demonstra que, pelo menos em algumas situações, essas habilidades emergentes não são nada disso. Em vez disso, elas são um resultado do que acontece quando você pega um LLM como o GPT e o transforma em um chatbot, antes de pedir que ele resolva problemas na forma de uma conversa de perguntas e respostas. Esse processo, sugere o artigo, significa que o chatbot nunca pode realmente receber perguntas “zero-shot”, onde ele não tem treinamento prévio: a arte de estimular o ChatGPT é inerentemente uma de ensiná-lo um pouco sobre qual forma a resposta deve tomar.

É uma descoberta interessante! Não é bem uma que prove que o apocalipse da IA ​​é impossível, mas – se você quer uma boa notícia – uma que sugere que é improvável que aconteça amanhã.

pular promoção de boletim informativo anterior

após a promoção do boletim informativo

Dores de treino

A Nvidia raspou o YouTube para treinar seus sistemas de IA. Agora isso está voltando para morder:

Um processo federal alega que a Nvidia, que se concentra em projetar chips para IA, pegou os vídeos do criador do YouTube, David Millette, para seu trabalho de treinamento em IA. O processo acusa a Nvidia de “enriquecimento injusto e concorrência desleal” e busca status de ação coletiva para incluir outros criadores de conteúdo do YouTube com alegações semelhantes.

A Nvidia ‘raspou’ ilegalmente vídeos do YouTube para treinar seu software Cosmos AI, de acordo com o processo, aberto na quarta-feira no Distrito Norte da Califórnia. A Nvidia usou software em servidores comerciais para escapar da detecção do YouTube para baixar ‘aproximadamente 80 anos’ de conteúdo de vídeo por dia’, diz o processo, citando uma reportagem da mídia 404 de 5 de agosto.

Este processo é incomum no mundo da IA, se não por outra razão, pelo fato de que a Nvidia foi um pouco taciturna sobre suas fontes de dados de treinamento. A maioria das empresas de IA que enfrentaram processos foram orgulhosamente abertas sobre seu desrespeito às limitações de direitos autorais. Veja a Stable Diffusion, que obteve seus dados de treinamento para o conjunto de dados LAION de código aberto. Bem:

[Judge] Orrick concluiu que os artistas argumentaram razoavelmente que as empresas violaram seus direitos ao armazenar ilegalmente seus trabalhos e que o Stable Diffusion, o gerador de imagens de IA em questão, pode ter sido criado “em grande medida com base em trabalhos protegidos por direitos autorais” e foi “criado para facilitar essa violação por design”.

Claro, nem toda empresa de IA joga em um campo equilibrado aqui. O Google tem uma vantagem única: todos dão consentimento para treinar sua IA em seu material. Por quê? Porque, do contrário, você é totalmente expulso da pesquisa:

Muitos proprietários de sites dizem que não podem bloquear a IA do Google de resumir seu conteúdo.

Isso porque a ferramenta do Google que peneira o conteúdo da web para chegar às suas respostas de IA é a mesma que rastreia páginas da web para resultados de pesquisa, de acordo com os editores. Bloquear o Google da Alphabet Inc. da mesma forma que sites bloquearam alguns de seus concorrentes de IA também prejudicaria a capacidade de um site ser descoberto online.

Pergunte-me qualquer coisa

Mais uma nota autoindulgente. Depois de 11 anos, estou deixando o Guardian no final deste mês, e 2 de setembro será meu último TechScape. Responderei perguntas dos leitores, grandes e pequenas, ao me despedir, então se houver algo que você sempre quis uma resposta, de recomendações de tecnologia a fofocas do setor, clique em responder e me mande um e-mail.

Se você quiser ler a versão completa do boletim informativo, assine para receber o TechScape na sua caixa de entrada toda terça-feira.