Geoffrey Hinton, pioneiro da IA ​​e figura de proa do doomerismo, ganha o Prêmio Nobel de Física #ÚltimasNotícias

Hinton divide o prêmio com seu colega cientista da computação John Hopfield, que inventou um tipo de rede neural de correspondência de padrões que poderia armazenar e reconstruir dados. Hinton baseou-se nesta tecnologia, conhecida como rede Hopfield, para desenvolver a retropropagação, um algoritmo que permite que as redes neurais aprendam.

Hopfield e Hinton tomaram emprestados métodos da física, especialmente técnicas estatísticas, para desenvolver suas abordagens. Nas palavras do comité do Prémio Nobel, a dupla é reconhecida “pelas descobertas e invenções fundamentais que permitem a aprendizagem automática com redes neurais artificiais”.

Mas desde maio de 2023, quando Revisão de tecnologia do MIT ajudou a dar a notícia de que Hinton agora estava com medo da tecnologia que ele ajudou a criar, o cientista de 76 anos tornou-se muito mais conhecido como uma figura de proa do doomerismo – a ideia de que há um risco muito real de que a IA em um futuro próximo poderia precipitar eventos catastróficos, incluindo a extinção humana.

O doomerismo não era novo, mas Hinton – que ganhou o Turing Award, o principal prêmio em ciência da computação, em 2018 – trouxe nova credibilidade a uma posição que muitos de seus colegas já consideraram excêntrica.

O que levou Hinton a se manifestar? Quando o encontrei em sua casa em Londres, no ano passado, Hinton me disse que ficou impressionado com o que os novos grandes modelos de linguagem poderiam fazer. O mais recente modelo carro-chefe da OpenAI, GPT-4, foi lançado algumas semanas antes. O que Hinton viu convenceu-o de que essa tecnologia – baseada na aprendizagem profunda – se tornaria rapidamente mais inteligente que os humanos. E ele estava preocupado com as motivações que isso teria quando acontecesse.

“De repente mudei de opinião sobre se essas coisas serão mais inteligentes do que nós”, ele me disse na época. “Acho que eles estão muito perto disso agora e serão muito mais inteligentes do que nós no futuro. Como podemos sobreviver a isso?”

As opiniões de Hinton desencadearam um burburinho nos meios de comunicação social que durou meses e transformaram o tipo de riscos existenciais que ele e outros estavam a imaginar (do colapso económico aos robôs genocidas) em preocupações dominantes. Centenas de cientistas e líderes tecnológicos assinaram cartas abertas alertando sobre as desvantagens desastrosas da inteligência artificial. Foi lançada uma moratória sobre o desenvolvimento da IA. Os políticos garantiram aos eleitores que fariam o que pudessem para evitar o pior.

Apesar do burburinho, muitos consideram as opiniões de Hinton fantásticas. Yann LeCun, cientista-chefe de IA da Meta e colega ganhador do Prêmio Turing de 2018 de Hinton, chamou o doomerismo de “absurdamente ridículo”.

O prémio de hoje recompensa o trabalho fundamental numa tecnologia que se tornou parte da vida quotidiana. Também certamente iluminará ainda mais as opiniões mais alarmistas de Hinton.