Califórnia aprova projeto de lei de segurança de IA que divide líderes de tecnologia #ÚltimasNotícias

(Bloomberg) — O legislativo da Califórnia aprovou um controverso projeto de lei de segurança de inteligência artificial que exige que as empresas garantam que sua tecnologia não cause grandes danos.

Mais lidos da Bloomberg

O projeto de lei, SB 1047, atraiu críticas e elogios de uma série de figuras nacionais. Agora, ele segue para a mesa do governador Gavin Newsom após passar pela Assembleia estadual na quarta-feira, com o Senado concedendo aprovação final na quinta-feira.

O SB 1047 determina que as empresas que desenvolvem modelos poderosos de IA tomem “cuidado razoável” para garantir que suas tecnologias não causem “danos graves”, como vítimas em massa ou danos materiais acima de US$ 500 milhões. O projeto de lei, que foi apresentado pelo senador estadual Scott Wiener e aprovado pelo Senado estadual em maio, exigiria que as empresas tomassem precauções, como implementar um kill switch que poderia desligar sua tecnologia a qualquer momento. Ele também exige que os modelos sejam submetidos a testes de terceiros para garantir que estejam minimizando riscos graves.

Além disso, o projeto de lei criaria proteções de denunciantes para funcionários de empresas de IA que queiram compartilhar preocupações de segurança. Empresas que não estiverem em conformidade com o projeto de lei podem ser processadas pelo procurador-geral da Califórnia.

“Inovação e segurança podem andar de mãos dadas — e a Califórnia está liderando o caminho”, disse Wiener em uma declaração. “Com esta votação, a Assembleia deu o passo verdadeiramente histórico de trabalhar proativamente para garantir que uma nova tecnologia empolgante proteja o interesse público à medida que avança.” Ele também chamou o projeto de lei de uma “medida leve e de bom senso” que codifica compromissos de segurança que muitas grandes empresas já fizeram.

Nos últimos meses, o projeto de lei recebeu forte oposição de muitos grandes líderes de tecnologia, startups e capitalistas de risco que dizem que ele representa um exagero do governo focado em uma tecnologia ainda em sua infância e pode sufocar a inovação tecnológica no estado. Na semana passada, a OpenAI expressou publicamente sua oposição ao projeto de lei, argumentando que tal política deveria ser implementada em nível federal e não estadual.

Políticos, incluindo a ex-presidente da Câmara Nancy Pelosi, o representante dos EUA Ro Khanna, a prefeita de São Francisco, London Breed, e outros também se opuseram ao projeto de lei, ecoando preocupações da indústria de tecnologia de que ele poderia prejudicar a liderança da Califórnia em inovação de IA.

A história continua

Mas o projeto de lei também ganhou algum apoio de grandes nomes do setor de IA na preparação final para esta votação. Na terça-feira, Elon Musk inesperadamente expressou seu apoio, embora tenha dito que é uma “decisão difícil e deixará algumas pessoas chateadas”. A rival da OpenAI, Anthropic, que tem a reputação de ser orientada para a segurança, também apoiou cautelosamente o projeto de lei, dizendo na semana passada que os “benefícios provavelmente superam os custos” e que poderia implementar as disposições de forma viável. A Anthropic se tornou mais favorável à legislação depois que Wiener implementou várias das emendas que a empresa havia sugerido.

Wiener defendeu o projeto de lei contra os críticos, enfatizando que suas disposições se aplicam apenas a empresas que gastam mais de US$ 100 milhões em treinamento de grandes modelos ou US$ 10 milhões em ajustes finos de modelos, o que isentaria a maioria das startups menores. O legislador também disse que, embora apoiasse a legislação federal, o Congresso tem sido historicamente lento para regulamentar a tecnologia e que, na ausência de ação nacional, ele acredita que a Califórnia tem a responsabilidade de liderar.

A batalha sobre o SB 1047 continuará agora que o projeto de lei está sendo enviado para a mesa de Newsom. A OpenAI, a incubadora de tecnologia Y Combinator e a empresa de capital de risco Andreessen Horowitz — críticas do SB 1047 — todas têm lobistas registrados trabalhando no projeto de lei.

(Atualizações com aprovação do senado estadual no segundo parágrafo)

Mais lidos da Bloomberg Businessweek

©2024 Bloomberg LP