Assembleia Estadual da Califórnia aprova projeto de lei abrangente sobre segurança de IA #ÚltimasNotícias #tecnologia

A Assembleia Estadual da Califórnia aprovou a Lei de Inovação Segura e Protegida para Modelos de Inteligência Artificial de Fronteira (SB 1047), Reuters relatórios. O projeto de lei é uma das primeiras regulamentações significativas de inteligência artificial nos EUA.

O projeto de lei, que tem sido um ponto crítico para debate no Vale do Silício e além, obrigaria as empresas de IA que operam na Califórnia a implementar uma série de precauções antes de treinar um modelo de fundação sofisticado. Isso inclui tornar possível desligar o modelo de forma rápida e completa, garantir que o modelo esteja protegido contra “modificações pós-treinamento inseguras” e manter um procedimento de teste para avaliar se um modelo ou seus derivados estão especialmente em risco de “causar ou permitir um dano crítico”.

O senador Scott Wiener, autor principal do projeto de lei, disse que o SB 1047 é um projeto de lei altamente razoável que pede que grandes laboratórios de IA façam o que já se comprometeram a fazer: testar seus grandes modelos para risco de segurança catastrófico. “Trabalhamos duro o ano todo, com defensores do código aberto, Anthropic e outros, para refinar e melhorar o projeto de lei. O SB 1047 é bem calibrado para o que sabemos sobre riscos previsíveis de IA e merece ser promulgado.”

Críticos do SB 1047 — incluindo OpenAI e Anthropic, os políticos Zoe Lofgren e Nancy Pelosi, e a Câmara de Comércio da Califórnia — argumentaram que ele é excessivamente focado em danos catastróficos e poderia prejudicar indevidamente pequenos desenvolvedores de IA de código aberto. O projeto de lei foi alterado em resposta, substituindo potenciais penalidades criminais por civis, estreitando os poderes de execução concedidos ao procurador-geral da Califórnia e ajustando os requisitos para ingressar em um “Board of Frontier Models” criado pelo projeto de lei.

Após o Senado Estadual votar o projeto de lei alterado — uma votação que deve ser aprovada — o projeto de lei de segurança da IA ​​será encaminhado ao governador Gavin Newsom, que terá até o final de setembro para decidir seu destino, de acordo com O jornal New York Times.

A Anthropic se recusou a comentar além de apontar para uma carta enviada pelo CEO da Anthropic, Dario Amodei, ao governador Newsom na semana passada. A OpenAI se recusou a comentar e apontou para uma carta do diretor de estratégia da OpenAI, Jason Kwon, enviada ao senador Wiener, também na semana passada.

Atualização, 28 de agosto: A OpenAI não quis comentar.