Com o aviso da IA, o vencedor do Nobel junta-se ao grupo de laureados que alertaram sobre os riscos do seu próprio trabalho #ÚltimasNotícias

CNN
–

Quando o cientista da computação Geoffrey Hinton ganhou o Prêmio Nobel de Física na terça-feira por seu trabalho em aprendizado de máquina, ele imediatamente emitiu um alerta sobre o poder da tecnologia que sua pesquisa ajudou a impulsionar: a inteligência artificial.

“Será comparável à Revolução Industrial”, disse ele logo após o anúncio. “Mas em vez de exceder as pessoas em força física, irá exceder as pessoas em capacidade intelectual. Não temos experiência de como é ter coisas mais inteligentes do que nós.”

Hinton, que deixou o Google para alertar sobre os perigos potenciais da IA, foi chamado de padrinho da tecnologia. Agora afiliado à Universidade de Toronto, ele dividiu o prêmio com o professor da Universidade de Princeton, John Hopfield, “por descobertas e invenções fundamentais que permitem o aprendizado de máquina com redes neurais artificiais”.

E embora Hinton reconheça que a IA pode transformar partes da sociedade para melhor – levando a uma “grande melhoria na produtividade” em áreas como os cuidados de saúde, por exemplo – ele também enfatizou o potencial para “uma série de possíveis consequências negativas, particularmente a ameaça dessas coisas ficando fora de controle.”

“Estou preocupado que a consequência geral disto possa ser que sistemas mais inteligentes do que nós acabem por assumir o controlo”, disse ele.

Hinton não é o primeiro ganhador do Nobel a alertar sobre os riscos da tecnologia que ajudou a criar. Aqui estão outras pessoas que emitiram advertências semelhantes sobre seu próprio trabalho.

O Prêmio Nobel de Química de 1935 foi dividido por uma equipe de marido e mulher, Frederic Joliot e Irene Joliot-Curie (filha dos laureados Marie e Pierre Curie), pela descoberta dos primeiros átomos radioativos criados artificialmente. Foi um trabalho que contribuiria para avanços importantes na medicina, incluindo o tratamento do câncer, mas também para a criação da bomba atômica.

Na sua palestra do Nobel daquele ano, Joliot concluiu com um aviso de que os futuros cientistas seriam “capazes de provocar transmutações de tipo explosivo, verdadeiras reações químicas em cadeia”.

“Se tais transmutações conseguirem espalhar-se na matéria, a enorme libertação de energia utilizável pode ser imaginada”, disse ele. “Mas, infelizmente, se o contágio se espalhar por todos os elementos do nosso planeta, as consequências de desencadear tal cataclismo só poderão ser vistas com apreensão.”

No entanto, previu Joliot, seria “um processo que [future] os investigadores sem dúvida tentarão perceber enquanto tomam, esperamos, as precauções necessárias.”

Sir Alexander Fleming dividiu o Prêmio Nobel de Medicina de 1945 com Ernst Chain e Sir Edward Florey pela descoberta da penicilina e sua aplicação na cura de infecções bacterianas.

Fleming fez a descoberta inicial em 1928 e, quando proferiu a palestra do Nobel em 1945, já tinha um aviso importante para o mundo: “Não é difícil tornar micróbios resistentes à penicilina em laboratório, expondo-os a concentrações não suficiente para matá-los, e a mesma coisa aconteceu ocasionalmente no corpo”, disse ele.

“Pode chegar o momento em que a penicilina poderá ser comprada por qualquer pessoa nas lojas”, continuou ele. “Há também o perigo de que o homem ignorante possa facilmente tomar uma dose insuficiente e, ao expor os seus micróbios a quantidades não letais da droga, torná-los resistentes.”

Foi “um pensamento muito importante e presciente há muitos anos”, disse o Dr. Jeffrey Gerber, médico de doenças infecciosas do Hospital Infantil da Filadélfia e diretor médico do Programa de Administração Antimicrobiana.

Quase um século após a descoberta inicial de Fleming, a resistência antimicrobiana – a resistência de patógenos como bactérias a medicamentos destinados a tratá-los – é considerada uma das maiores ameaças à saúde pública global, segundo a Organização Mundial da Saúde, responsável por 1,27 milhão de mortes em 2019. sozinho.

A parte principal do alerta de Fleming pode ter sido o uso excessivamente amplo de antibióticos, em vez da ideia de dosagem baixa.

“Mais frequentemente, as pessoas recebem antibióticos de forma totalmente desnecessária”, disse Gerber à CNN por e-mail. E “cada vez com mais frequência, vemos insetos que são resistentes a quase todos (e às vezes todos) os antibióticos que temos”.

Paul Berg, que ganhou o Prémio Nobel da Química em 1980 pelo desenvolvimento do ADN recombinante, uma tecnologia que ajudou a impulsionar a indústria da biotecnologia, não emitiu um alerta tão severo como alguns dos seus colegas laureados sobre os riscos potenciais da sua investigação.

Mas ele reconheceu os receios em torno do que a engenharia genética poderia levar, incluindo a guerra biológica, os alimentos geneticamente modificados e a terapia genética, uma forma de medicina que envolve a substituição de um gene defeituoso que causa a doença por um que funcione normalmente.

Na sua palestra do Nobel de 1980, Berg concentrou-se especificamente na terapia genética, dizendo que a abordagem “tem muitas armadilhas e incógnitas, entre as quais estão questões relativas à viabilidade e conveniência de qualquer doença genética específica, para não falar dos riscos”.

“Parece-me”, continuou ele, “que se algum dia quisermos prosseguir nesta linha, precisaremos de um conhecimento mais detalhado de como os genes humanos são organizados e como funcionam e são regulados”.

Numa entrevista décadas mais tarde, Berg observou que ele e outros cientistas da área já se tinham reunido publicamente para reconhecer os perigos potenciais da tecnologia e trabalhar em guarda-corpos, numa conferência conhecida como Asilomar, em 1975.

“As preocupações sobre o ADN recombinante ou a engenharia genética vieram dos cientistas, portanto esse foi um facto muito crucial”, disse ele à escritora científica Joanna Rose em 2001, de acordo com uma transcrição no website do Nobel.

Ao reconhecer publicamente os riscos e a necessidade de os examinar, disse Berg, “ganhámos uma enorme admiração pública, por assim dizer, e tolerância, e assim fomos autorizados a realmente começar a lidar com a questão de como podemos prevenir alguma coisa perigosa saindo do nosso trabalho?”

Em 2001, disse ele, “a experiência e os experimentos realizados mostraram que as preocupações originais que realmente acreditávamos serem possíveis, na verdade, não existiam”.

Agora, a terapia genética é uma área crescente da medicina, com tratamentos aprovados para a doença falciforme, distrofia muscular e algumas formas hereditárias de cegueira, embora não seja amplamente utilizada porque ainda é complicada de administrar e muito cara. No início, a tecnologia levou à morte, em 1999, de um participante de um ensaio clínico de 17 anos, Jesse Gelsinger, levantando questões éticas sobre como a pesquisa era feita e retardando o trabalho na área.

E embora o próprio Berg tenha manifestado preocupações, concluiu a sua palestra do Nobel em 1980 com um apelo ao optimismo e à “necessidade de prosseguir”.

“A descoberta do ADN recombinante proporcionou-nos uma abordagem nova e poderosa às questões que intrigaram e atormentaram o homem durante séculos”, disse ele. “Eu, por exemplo, não recuaria diante desse desafio.”

Há quatro anos, Jennifer Doudna e Emmanuelle Charpentier dividiram o Prêmio Nobel de Química pelo desenvolvimento de um método de edição de genoma chamado CRISPR-Cas9.

Na sua palestra, Doudna detalhou “oportunidades extraordinárias e emocionantes” para a tecnologia na saúde pública, agricultura e biomedicina.

Mas ela especificou que o trabalho deve prosseguir com muito mais cuidado quando aplicado às células germinativas humanas, cujas alterações genéticas seriam transmitidas à descendência, versus células somáticas, onde quaisquer alterações genéticas seriam limitadas ao indivíduo.

“A herdabilidade torna a edição do genoma de células germinativas uma ferramenta muito poderosa quando pensamos em usá-la em plantas ou para criar melhores modelos animais de doenças humanas, por exemplo”, disse Doudna. “É muito diferente quando pensamos nas enormes questões éticas e sociais levantadas pela possibilidade de usar a edição da linha germinativa em humanos.”

Doudna, que fundou o Innovative Genomics Institute, disse à CNN esta semana que acredita que “avisos apropriados dos cientistas sobre o potencial uso indevido das suas descobertas são uma responsabilidade importante e um serviço público útil, especialmente quando o trabalho tem amplas implicações sociais”.

“Aqueles de nós mais próximos da ciência do CRISPR entendem que é uma ferramenta poderosa que pode transformar positivamente a nossa saúde e o mundo, mas que pode ser potencialmente usada de forma nefasta”, disse ela. “Vimos essa capacidade de dupla utilização com outras tecnologias transformadoras, como a energia nuclear – e agora com a IA.”

Christian Edwards e Katie Hunt, da CNN, contribuíram para este relatório.