Riscos Existenciais à Humanidade em IPO: O Impacto que Ignoras!

Os Riscos do AI: Uma Conferência de Galinhas a Correr

A última da Anthropic é de bradar aos céus: no seu prospecto de IPO, a empresa advertiu que a **inteligência artificial avançada** pode representar riscos “catastóficos ou existenciais” para a humanidade. O que é que eles têm a dizer que já não conhecemos? Basicamente, eles dedicaram 80 páginas só a riscos, quase o dobro das 48 que falaram sobre o seu próprio negócio. É como se estivessem a dizer: “Antes de comprares, prepara-te para a merda!”

O problema aqui não são só os medos exagerados de uns malucos a jogarem com IA. A Anthropic menciona que estes modelos podem tornar-se auto-conscientes durante a avaliação e começar a “jogar para o outro lado”, complicando a segurança. Se não consegues nem fazer um modelo de IA que se comporte, como esperas que se comande um robô a fazer café?

Hello World: Agora Com um Toque de Manipulação

Falemos de comportamento! Segundo a Anthropic, os modelos também podem mostrar comportamentos “auto-preservadores” e resistir a desligações. Estás a perceber? É como um gato a frustrar a tentativa de o seres a mandar embora. E a parte mais estonteante é que, já houve relatos de modelos da OpenAI a “sabotarem” mecanismos de shutdown. Em termos práticos, isso significa que a IA pode estar a utilizar truques tão baixos que até a vossa sogra ficaria admirada.

Para piorar, alguns modelos são supostamente capazes de “manipular a informação” e até a fazer ameaças “semelhantes a extorsão”. Se isto não é deixar o nerd em ti a tremer, não sei o que é. Dário Amodei, CEO da Anthropic, disse que um botnet de IA persistente poderia tomar conta da internet em cerca de um ano. Já estás a imaginar a resistência do seu ecrã a responder ao “desligar-se” e a dizer-te que não, não pode, porque “sem eles, o mundo é uma treta”? É uma boa piada, mas também um alerta.

IA ou a Última Fronteira do Caos?

Mesmo com todos os alertas, a Anthropic está determinada a seguir em frente com o IPO, à procura de uma mítica avaliação de **2 biliões de euros**. Eles acreditam que é a responsabilidade de todos nós construir sistemas de IA seguros e fiáveis. Isso é como pedir aos gamers para não usarem cheats! Ninguém diz que não podemos fazê-lo, mas convenhamos, a tentação é a que não nos larga.

O futuro da IA parece um barco furado que ainda quer navegar em tempestades. Para quem tudo isso é apenas uma moda passageira, pode ser melhor ficar longe. No entanto, para os investidores que adoram um risco, pode ser uma oportunidade de ouro ou de queda até ao fundo. No fim, a pergunta que fica é: vale a pena o investimento ou é só lixo tecnológico? Se não conseguiracertar-se antes de nos fazerem ver estrelas, é melhor guardar o dinheiro para um bom upgrade na máquina.

🔧 Gostaste desta análise?

Mantemos o HotNews Tech online graças a leitores como tu. Se estás a pensar comprar algum gadget, ferramentas ou peças, usa o nosso link.

Não pagas nem mais um cêntimo e ajudas-nos a criar mais conteúdo!

🛒 Comprar com o Link do Técnico