O governador da Califórnia, Newsom, veta o projeto de lei SB 1047 que visa prevenir desastres de IA #ÚltimasNotícias #tecnologia

O governador da Califórnia, Gavin Newsom, vetou o projeto de lei SB 1047, que visa impedir que atores mal-intencionados usem IA para causar “danos críticos” aos humanos. A assembleia estadual da Califórnia aprovou a legislação por uma margem de 41-9 em 28 de agosto, mas várias organizações, incluindo a Câmara de Comércio, instaram Newsom a vetar o projeto. Na sua mensagem de veto em 29 de setembro, Newsom disse que o projeto de lei é “bem intencionado”, mas “não leva em consideração se um sistema de IA é implantado em ambientes de alto risco, envolve tomadas de decisão críticas ou o uso de dados confidenciais”. Em vez disso, o projeto de lei aplica padrões rigorosos até mesmo às funções mais básicas – desde que um grande sistema o implemente”.

O SB 1047 teria responsabilizado os desenvolvedores de modelos de IA pela adoção de protocolos de segurança que impediriam o uso catastrófico de sua tecnologia. Isso inclui medidas preventivas, como testes e avaliação de riscos externos, bem como uma “parada de emergência” que encerraria completamente o modelo de IA. Uma primeira violação custaria um mínimo de US$ 10 milhões e US$ 30 milhões para infrações subsequentes. No entanto, o projeto de lei foi revisto para eliminar a capacidade do procurador-geral do estado de processar empresas de IA com práticas negligentes se um evento catastrófico não ocorrer. As empresas só estariam sujeitas a medidas cautelares e poderiam ser processadas se o seu modelo causasse danos graves.

Esta lei se aplicaria a modelos de IA cujo uso custasse pelo menos US$ 100 milhões e 10^26 FLOPS para treinamento. Também teria coberto projetos derivados nos casos em que terceiros tivessem investido 10 milhões de dólares ou mais no desenvolvimento ou modificação do modelo original. Qualquer empresa que faça negócios na Califórnia estará sujeita às regras se atender aos outros requisitos. Abordando o foco do projeto de lei em sistemas de grande escala, Newsom disse: “Não acredito que esta seja a melhor abordagem para proteger o público de ameaças reais representadas pela tecnologia”. A mensagem de veto acrescenta:

A versão anterior do SB 1047 teria criado um novo departamento chamado Frontier Model Division para supervisionar e fazer cumprir as regras. Em vez disso, o projecto de lei foi alterado antes de uma votação na comissão para colocar a governação nas mãos de um Conselho de Modelos de Fronteira dentro da Agência de Operações Governamentais. Os nove membros serão nomeados pelo governador e pelo legislativo do estado.

O projeto enfrentou um caminho complicado até a votação final. SB 1047 foi de autoria do senador do estado da Califórnia Scott Wiener, que disse TechCrunch: “Temos uma história com a tecnologia de esperar que os danos aconteçam e depois torcer as mãos. Não vamos esperar que algo ruim aconteça. Vamos apenas sair na frente.” Os notáveis ​​pesquisadores de IA Geoffrey Hinton e Yoshua Bengio apoiaram a legislação, assim como o Center for AI Safety, que tem dado o alarme sobre os riscos da IA ​​no ano passado.

Mas o SB 1047 também atraiu forte oposição de todo o setor tecnológico. O pesquisador Fei-Fei Li criticou o projeto, assim como o cientista chefe da Meta AI, Yann LeCun, por limitar o potencial de exploração de novos usos da IA. O grupo comercial que representa gigantes da tecnologia como Amazon, Apple e Google disse que o SB 1047 limitaria novos desenvolvimentos no setor de tecnologia do estado. A empresa de capital de risco Andreeson Horowitz e várias startups também questionaram se o projeto de lei representava encargos financeiros desnecessários para os inovadores da IA. A Antrópica e outros oponentes do projeto original pressionaram por emendas que foram adotadas na versão do SB 1047 que foi aprovada pelo Comitê de Apropriações da Califórnia em 15 de agosto.