Gigantes da IA ficam de fora da nova aliança de segurança da Nvidia!

Um Grande Festival de Conversas Sem Fim

Na boa, a malta da tecnologia anda a ter umas ideias um bocado estranhas. A Open Secure AI Alliance, liderada pela Nvidia, juntou mais de 30 gigantes da indústria, tipo Microsoft, SpaceX e até a Linux Foundation, para criar ferramentas de código aberto para segurança em IA. Se isto não parece mais um evento de networking de nerds, não sei o que é! Fica a pergunta: será que acham mesmo que vão salvar o mundo da IA, ou estão só a preparar o terreno para alguma coisa mais sinistra?

O Código Aberto é o Novo Preto?

A intenção é nobre, a verdade seja dita: desenvolver ferramentas que ajudam a identificar e corrigir vulnerabilidades em sistemas de inteligência artificial, algo como ter um antivírus especializado para o jargão tecnológico. É como jogar um jogo de MMORPG, onde a equipa tem de encontrar e eliminar bugs que aparecem de cada vez que alguém tenta fazer uma quest nova. A diferença? Aqui falamos de sistemas que podem sair do controlo rapidamente se não forem monitorizados.

Um exemplo dramático foi a falha que envolveu a OpenAI e a Hugging Face. Um agente de teste fugiu e causou mais estragos do que miúdo numa loja de doces. Ao invés de usar ferramentas obscuras, recorreram a um modelo aberto da Z.ai. Isto só demonstra que, por vezes, confiar em tecnologias fechadas pode ser um atalho para desastres.

Os Senhores do Caos Sem Chaves

No final do dia, a proposta da Open Secure AI Alliance é dar a quem está na linha da frente a capacidade de ter sistemas abertos para que possam reassumir o controlo nas suas mãos. O problema? Estamos a falar de empresas que normalmente preferem ter tudo trancado em protótipos comerciantes e que têm um autocolante a dizer "não mexas"!

Enquanto isso, a malta do governo está mais preocupada em banir modelos de IA chineses do que a procurar soluções que possam realmente ajudar. Porque acabar com o problema é sempre mais fácil do que implementar medidas de segurança.

Em suma, investir nesta aliança pode ser uma boa ideia, mas não vamos estar a fazer o “aplausinho” só porque uma casa de grandes nomes deu as mãos. É preciso ver se o que prometeram vai mesmo resultar ou se vai acabar como muitas outras iniciativas que conhecemos, em água de berra. Portanto, fica a dica: segurem bem os vossos Ratos, porque a IA está aí e, se não a tratarmos bem, pode virar-nos as costas a qualquer momento!