![](https://www.washingtonpost.com/wp-apps/imrs.php?src=https://arc-anglerfish-washpost-prod-washpost.s3.amazonaws.com/public/IVRFWFX5VQC3BP5E77JCGSKTUQ_size-normalized.jpg&w=1440)
J. Robert Oppenheimer, que liderou o projecto que culminou no teste, contemplou naquela manhã a possibilidade de que nascente poder destrutivo pudesse de alguma forma contribuir para uma silêncio duradoura. Ele lembrou a esperança de Alfred Nobel, o industrial e filantropo sueco, de que a dinamite, que Nobel havia inventado, acabaria com as guerras.
Depois de ver porquê a dinamite foi usada na fabricação de bombas, Nobel confidenciou a um camarada que mais armas capazes, zero menos, seriam os melhores garantes da silêncio. Ele escreveu: “A única coisa que impedirá as nações de iniciar uma guerra é o terror”.
A nossa tentação poderá ser recuar perante nascente tipo de operação sombrio, recuar na esperança de que um instinto pacífico na nossa espécie prevaleceria se somente aqueles que possuem armas as entregassem. No entanto, já passaram quase 80 anos desde o primeiro teste atómico no Novo México, e as armas nucleares foram utilizadas na guerra somente duas vezes, em Hiroshima e Nagasaki. Para muitos, o poder e o horror da petardo tornaram-se distantes e fracos, quase abstratos.
O registo da gestão da arma pela humanidade – imperfeito e, na verdade, dezenas de vezes quase catastrófico – tem sido notável. Quase um século de alguma versão de silêncio prevaleceu no mundo sem um conflito militar entre grandes potências. Pelo menos três gerações – milhares de milhões de pessoas e os seus filhos e netos – nunca conheceram uma guerra mundial. John Lewis Gaddis, professor de história militar e naval em Yale, descreveu a falta de grandes conflitos na era do pós-guerra porquê a “silêncio longa”.
A era atómica e a Guerra Fria cimentaram essencialmente durante décadas um operação entre as grandes potências que tornou a verdadeira escalada, e não as escaramuças e testes de força à margem dos conflitos regionais, extremamente pouco atractivos e potencialmente dispendiosos. Steven Pinker defendeu uma abordagem mais ampla “O declínio da violência pode ser o desenvolvimento mais significativo e menos estimado na história da nossa espécie.”
Não seria razoável atribuir todo ou mesmo a maior segmento do crédito a uma única arma. Uma série de outros desenvolvimentos desde o final da Segunda Guerra Mundial, incluindo a proliferação de formas democráticas de governo em todo o planeta e um nível de diligência económica interligada que antes era impensável, fazem segmento da história.
O operação das grandes potências que ajudou a evitar outra guerra mundial também poderá mudar rapidamente. Mas a supremacia do poder militar dos EUA ajudou, sem incerteza, a proteger a silêncio, por mais frágil que seja. O compromisso de manter tal supremacia, todavia, tornou-se cada vez mais fora de tendência no Oeste. E a dissuasão, porquê fundamento, corre o risco de perder o seu apelo moral.
A era atômica poderá em breve estar chegando ao término. Nascente é o século do software; as guerras do horizonte serão impulsionadas pela perceptibilidade sintético, das quais desenvolvimento está a prosseguir muito mais rapidamente do que o das armas convencionais. O caça F-35 foi concebido em meados da dezena de 1990, e o avião – o principal avião de ataque das forças americanas e aliadas – está programado para estar em serviço por mais 64 anos. O governo dos EUA espera gastar mais de US$ 2 trilhões no programa. Mas porquê perguntou recentemente o general reformado Mark A. Milley, vetusto presidente do Estado-Maior Conjunto: “Achamos realmente que uma aeroplano tripulada irá lucrar os céus em 2088?”
No século 20, o software foi desenvolvido para atender às necessidades de hardware, desde controles de vôo até aviônicos de mísseis. Mas com a subida da perceptibilidade sintético e a utilização de grandes modelos de linguagem para fazer recomendações de alvos no campo de guerra, a relação está a mudar. Agora o software está no comando, com o hardware – os drones na Ucrânia e noutros lugares – a servir cada vez mais porquê meio através do qual as recomendações da IA são executadas.
E para uma país que mantém um padrão moral mais proeminente do que os seus adversários no que diz saudação ao uso da força, a paridade técnica com um inimigo é insuficiente. Um sistema de armas nas mãos de uma sociedade moral, e justamente cautelosa na sua utilização, só funcionará porquê um elemento dissuasor eficiente se for muito mais poderoso do que a capacidade de um oponente que não hesitaria em matar inocentes.
O problema é que os jovens americanos que são mais capazes de edificar sistemas de IA são muitas vezes também mais ambivalentes quanto a trabalhar para as forças armadas. No Vale do Silício, os engenheiros viraram as costas, não querendo se envolver com a confusão e a complicação moral da geopolítica. Embora tenham surgido bolsas de esteio ao trabalho de resguardo, a maior segmento do financiamento e do talento continua a fluir para o consumidor.
O A escol da engenharia do nosso país corre para levantar capital para aplicativos de compartilhamento de vídeo e plataformas de mídia social, algoritmos de publicidade e sites de compras. Osim não hesite em rastrear e monetizar cada movimento online das pessoas, abrindo caminho em nossas vidas. Mas muitos hesitam quando se trata de trabalhar com os militares. A pressa é simplesmente edificar. Muito poucos perguntam o que deveria ser construído e por quê.
Em 2018, tapume de 4.000 funcionários do Google escreveram uma missiva a Sundar Pichai, o executivo-chefe, pedindo-lhe que abandonasse um esforço de software, espargido porquê Projeto Maven, para as Forças Especiais dos EUA que estava sendo usado para vigilância e planejamento de missões no Afeganistão e em outros lugares. . Os funcionários exigiram que o Google nunca “construísse tecnologia de guerra”, argumentando que ajudar os soldados no planejamento de operações direcionadas e “resultados potencialmente letais” “não era admissível”.
O Google tentou tutelar seu envolvimento no Projeto Maven dizendo que o trabalho da empresa era meramente “para fins não ofensivos”. Esta foi uma saliência subtil e jurídica, principalmente do ponto de vista dos soldados e analistas de perceptibilidade nas linhas da frente que precisavam de melhores sistemas de software para se manterem vivos. Diane Greene, gerente do Google Cloud na era, realizou uma reunião com funcionários para anunciar que a empresa havia disposto fechar seus trabalhos no projeto de resguardo. Um item na Jacobin declarou esta “uma vitória impressionante contra o militarismo dos EUA”, observando que os funcionários do Google se levantaram com sucesso contra o que acreditavam ser uma má orientação dos seus talentos.
No entanto, a silêncio de que desfrutam aqueles que, em Silicon Valley, se opõem a trabalhar com os militares, é tornada provável pela ameaço credível de uso da força por segmento desses mesmos militares. Na Palantir, estamos construindo uma arquitetura de software para agências de resguardo e perceptibilidade dos EUA e aliadas que permitirão a implantação do armamento de IA deste século. Deveríamos, porquê sociedade, ser capazes de realizar um debate sobre os méritos do uso da força militar no estrangeiro, sem hesitar em fornecer às pessoas enviadas para situações de transe o software de que necessitam para realizar o seu trabalho.
O que é mais preocupante é que o desencanto e o desinteresse de uma geração pela resguardo colectiva do nosso país levaram a um redireccionamento maciço de recursos – intelectuais e financeiros – para satisfazer as necessidades da cultura de consumo. As exigências cada vez menores que colocamos ao sector tecnológico para produzir produtos de valor perenal e colectivo estão a ceder muito poder aos caprichos do mercado. Uma vez que David Graeber, que ensinou antropologia em Yale e na London School of Economics, observou num experimento de 2012 no Baffler: “A Internet é uma inovação notável, mas estamos somente a falar de uma combinação super-rápida e globalmente alcançável de livraria , correios e catálogo de pedidos por correspondência.
A tendência do mundo da tecnologia em direcção às preocupações do consumidor ajudou a substanciar um patente escapismo – o instinto de Silicon Valley de ignorar as questões importantes que enfrentamos porquê sociedade em obséquio do trivial e do efémero. Os desafios que vão desde a resguardo pátrio e o delito violento até à reforma da instrução e à investigação médica têm parecido, para muitas pessoas na indústria tecnológica, muito intratáveis, espinhosos e politicamente tensos para merecerem ser abordados.
Um ano posteriormente a revolta no Google, um levante de funcionários da Microsoft ameaçou interromper o trabalho em um projeto de US$ 480 milhões para edificar uma plataforma de veras aumentada para soldados do Tropa dos EUA. Os trabalhadores escreveram uma missiva a Satya Nadella, o presidente-executivo, e a Brad Smith, seu presidente, argumentando que “não se inscreveram para desenvolver armas” e exigindo que a empresa cancelasse o contrato.
Em novembro de 2022, quando a OpenAI lançou sua interface de IA ChatGPT ao público, proibiu seu uso para fins “militares e de guerra”. Depois de a empresa ter removido a proibição universal de aplicações militares nascente ano, os manifestantes reuniram-se em frente ao escritório de Sam Altman, CEO da OpenAI, em São Francisco, para exigir que a empresa “encerrasse a sua relação com o Pentágono e não aceitasse quaisquer clientes militares”.
Tal indignação da povaléu treinou líderes e investidores em toda a indústria tecnológica para evitar qualquer vestígio de controvérsia ou desaprovação. Mas a sua reticência acarreta custos significativos. Muitos investidores em Silicon Valley e legiões de engenheiros sobremodo talentosos simplesmente deixam os problemas difíceis de lado. Uma geração de fundadores em subida afirma que procura ativamente o risco, mas quando se trata de investimentos mais profundos em desafios sociais, a cautela prevalece frequentemente. Por que submergir na geopolítica quando você pode gerar outro aplicativo?
E crie aplicativos que eles fizeram. A proliferação de impérios das redes sociais monetiza e canaliza sistematicamente o libido humano de regimento e reconhecimento.
Por seu lado, o establishment da política externa tem repetidamente calculado mal quando lida com a China, a Rússia e outros, acreditando que a integração económica pode ser suficiente para minar o esteio interno dos seus líderes e diminuir o seu interesse na escalada militar no estrangeiro. O fracasso do consenso de Davos foi desabitar o punição em obséquio somente da cenoura. Entretanto, Xi Jinping, da China, e outros líderes autoritários exerceram o poder de uma forma que os líderes políticos do Oeste poderão nunca compreender.
Numa visitante aos Estados Unidos em 2015, falando a um grupo de líderes empresariais e políticos na câmara de transacção de Seattle, Xi recordou com carinho a leitura de “O Velho e o Mar”. Ele disse que quando visitou Cuba, viajou para Cojimar, na costa setentrião que inspirou a história de Ernest Hemingway sobre um pescador e seu espadim de 18 pés. Xi disse que “pediu um mojito”, o predilecto do responsável, “com folhas de hortelã e gelo”, explicando que “só queria sentir por mim mesmo” o que Hemingway estava pensando quando escreveu sua história. O líder de uma país com quase um quinto da população mundial acrescentou que era “importante fazer um esforço para obter uma compreensão profunda das culturas e civilizações que são diferentes das nossas”. Faríamos muito em fazer o mesmo.
A nossa relutância mais ampla em prosseguir com o desenvolvimento de sistemas de armas autónomos eficazes para uso militar pode resultar de um pirronismo justificado em relação ao próprio poder. O pacifismo satisfaz a nossa empatia instintiva pelos impotentes. Também nos livra da premência de velejar entre as difíceis soluções de compromisso que o mundo apresenta.
Chloé Morin, autora francesa e antiga conselheira do primeiro-ministro do país, sugeriu numa entrevista recente que deveríamos resistir ao impulso fácil de “dividir o mundo em dominantes e dominados, opressores e oprimidos”. Seria um erro, e na verdade uma forma de condescendência moral, equiparar sistematicamente a insuficiência à piedade. Os subjugados e os subjugadores são também capazes de cometer pecados graves.
Não defendemos um patriotismo fraco e superficial – um substituto para o pensamento e a reflexão genuína sobre os méritos da nossa país, muito porquê sobre as suas falhas. Queremos somente que a indústria tecnológica da América tenha em mente uma questão importante – que não é se será construída uma novidade geração de armas autónomas que incorporem IA. É quem os construirá e com que finalidade.