Califórnia não exigirá que grandes empresas de tecnologia testem a segurança da IA ​​depois que Newsom matar Bill | Califórnia #ÚltimasNotícias

O governador da Califórnia, Gavin Newsom, vetou no domingo um projeto de lei de segurança de inteligência artificial altamente contestado depois que a indústria de tecnologia levantou objeções. Newsom disse que exigir que as empresas testem grandes modelos de IA antes de lançá-los poderia afastar os negócios de IA do estado e dificultar a inovação.

“A Califórnia abriga 32 das 50 principais empresas de IA do mundo”, disse o governador em comunicado que acompanha o veto. “O projeto de lei aplica padrões rigorosos até mesmo às funções mais básicas – desde que um grande sistema o implemente. Não acredito que esta seja a melhor abordagem para proteger o público das ameaças reais representadas pela tecnologia.”

A Lei de Inovação Segura e Protegida para Modelos de Inteligência Artificial de Fronteira, oficialmente conhecida como SB 1047, teria como alvo empresas que desenvolvem IA generativa – que pode responder a solicitações com texto, imagens ou áudio totalmente formados, bem como executar tarefas repetitivas com intervenção mínima. As empresas que construíssem modelos que custassem mais de 100 milhões de dólares teriam de implementar “interruptores de interrupção” para a sua IA, bem como publicar planos para testar e atenuar riscos extremos.

Newsom disse que pediu aos principais especialistas do Instituto de Segurança de IA dos EUA em IA generativa para ajudar a Califórnia a “desenvolver barreiras de proteção viáveis” que se concentrem “no desenvolvimento de uma análise de trajetória empírica e baseada na ciência”. Ele também ordenou que as agências estatais expandissem a sua avaliação dos riscos de potenciais eventos catastróficos ligados ao uso da IA.

Apesar do veto, o governador disse: “Não podemos esperar que ocorra uma grande catástrofe antes de tomar medidas para proteger o público… Protocolos de segurança devem ser adotados”.

“Embora bem-intencionado, o SB 1047 não leva em consideração se um sistema de IA é implantado em ambientes de alto risco, envolve tomadas de decisão críticas ou o uso de dados confidenciais”, escreveu Newsom. “Por estas razões, não posso assinar este projeto de lei.”

O SB 1047, escrito pelo senador estadual democrata Scott Wiener, de São Francisco, incluiu uma série de medidas de proteção e supervisão, incluindo a exigência de que as empresas implementem a capacidade de desligar completamente o modelo em caso de emergências, de usar o modelo de IA apenas para os casos declarados. propósito, bem como proteções de denúncias para funcionários que desejam divulgar problemas com um sistema de IA.

Em resposta ao veto de Newsom, Wiener disse: “Este veto nos deixa com a realidade preocupante de que as empresas que pretendem criar uma tecnologia extremamente poderosa não enfrentam restrições vinculativas por parte dos legisladores dos EUA… Ao mesmo tempo, o debate em torno do SB 1047 avançou dramaticamente a questão. da segurança da IA ​​no cenário internacional.”

Empresas de IA e grupos aliados ao Vale do Silício elogiaram o veto de Newsom. O capitalista de risco Marc Andreessen escreveu: “Obrigado @gavinnewsom por vetar o SB1047 – por se aliar ao dinamismo da Califórnia, ao crescimento económico e à liberdade de computação, em vez do safetyismo, do omerismo e do declínio.” O cientista-chefe de IA da Meta, Yann Lecun, também chamou o projeto de lei de “extremamente regressivo”. Os representantes da Califórnia, Nancy Pelosi e Ro Khanna, ambos democratas, manifestaram a sua oposição nas semanas que antecederam a sua decisão.

Rompendo com grande parte da indústria de tecnologia, o CEO da Tesla e proprietário do X, Elon Musk, ofereceu apoio moderado à legislação, twittando em agosto que “a Califórnia provavelmente deveria aprovar o projeto de lei de segurança de IA SB 1047”, embora ele tenha dito que sair a favor dela era uma “chamada difícil”.

Os críticos do rápido crescimento da IA ​​criticaram a decisão do governador. Daniel Colson, o fundador do grupo de reflexão sobre IA, a AI Policy Institution, chamou o veto de Newsom de “imprudente” e “fora de sintonia com as pessoas que ele tem a tarefa de governar”.

O SB 1047 foi alvo de intensas críticas pela forma como algumas organizações dizem que isso afetaria a comunidade de código aberto. A Mozilla Foundation, uma organização sem fins lucrativos proprietária do desenvolvedor do navegador Mozilla Firefox, já havia instado Newsom a vetar o projeto.

“Hoje, vemos paralelos com o início da Internet no ecossistema de IA, que também se tornou cada vez mais fechado e consolidado nas mãos de algumas grandes empresas de tecnologia”, escreveu a fundação num comunicado anterior. “Estamos preocupados que o SB 1047 promova esta tendência, prejudicando a comunidade de código aberto e tornando a IA menos segura – e não mais.”

O projeto recebeu apoio de uma lista de artistas de Hollywood, que instaram Newsom a assiná-lo em uma carta publicada no início deste mês.

O ator Mark Ruffalo escreveu em comunicado: “Este projeto de lei é perfeito? Nada é. Será que dá o tom certo para regulamentar uma indústria que tem a possibilidade de causar grandes danos e também benefícios? Isso acontece. Protegerá a sociedade e estabelecerá as bases para uma expansão segura da IA ​​nas nossas vidas.”