Governador Newsom anuncia novas iniciativas para promover IA segura e responsável e proteger os californianos #ÚltimasNotícias

O Governador pediu aos principais especialistas mundiais em GenAI que ajudassem a Califórnia a desenvolver barreiras viáveis ​​para a implantação da GenAI, concentrando-se no desenvolvimento de uma análise de trajetória empírica e baseada na ciência dos modelos de fronteira e das suas capacidades e riscos associados. O Governador continuará a trabalhar com o Legislativo nesta questão crítica durante a sua próxima sessão.

Com base na parceria criada após a ordem executiva do governador de 2023, a Califórnia trabalhará com a “madrinha da IA”, Dra. Fei-Fei Li, bem como com Tino Cuéllar, membro do Comitê da Academia Nacional de Ciências sobre Implicações Sociais e Éticas da Computing Research, e Jennifer Tour Chayes, reitora da Faculdade de Computação, Ciência de Dados e Sociedade da UC Berkeley, neste projeto crítico. Aqui está o que esses principais especialistas têm a dizer:

• “A Frontier AI traz potencial para enormes benefícios, bem como riscos reais que exigem um julgamento cuidadoso e sustentado. Estou ansioso para trabalhar com a Califórnia para encontrar o equilíbrio certo nos próximos dias e meses.” — Mariano-Florentino (Tino) Cuéllar, presidente do Carnegie Endowment for International Peace e membro do Comitê da Academia Nacional de Ciências sobre Implicações Sociais e Éticas da Pesquisa em Computação

• “Estou honrado em continuar a parceria entre a UC Berkeley, Stanford e o Governador Newsom, aproveitando os maiores cientistas e pensadores do mundo em IA, muitos dos quais estão localizados aqui mesmo na Califórnia. É fundamental nutrirmos uma economia de inovação robusta e promovermos a investigação académica – é assim que garantiremos que a IA beneficie o maior número de pessoas, de todas as formas, ao mesmo tempo que protegemos contra maus atores e danos graves. A Faculdade de Computação, Ciência de Dados e Sociedade da UC Berkeley está pronta para fornecer ciência de ponta e recomendações políticas para garantir que alcancemos esses objetivos.”– Jennifer Tour Chayes, Reitora da Faculdade de Computação, Ciência de Dados e Sociedade da UC Berkeley

• “A IA segura e responsável é essencial para o vibrante ecossistema de inovação da Califórnia. Para governar eficazmente esta poderosa tecnologia, precisamos de depender de provas científicas para determinar a melhor forma de promover a inovação e mitigar os riscos. O Stanford Institute for Human-Centered AI (HAI) foi fundado com a missão específica de garantir que a IA seja desenvolvida para beneficiar a sociedade. A HAI espera continuar a parceria com o Estado da Califórnia através da Ordem Executiva do Governador Newsom sobre GenAI para garantir a liderança da Califórnia em IA segura, vibrante e benéfica.” – Dr. Fei-Fei Li, codiretor, Instituto Stanford de Inteligência Artificial Centrada no Ser Humano

A Administração Newsom também envolverá imediatamente a academia para reunir as partes interessadas do trabalho e o setor privado para explorar abordagens para usar a tecnologia GenAI no local de trabalho. A Administração está empenhada em continuar as parcerias com os sindicatos do sector público nas compras governamentais líderes a nível nacional.

Hoje, o Governador Newsom assinou legislação exigindo que o Gabinete de Serviços de Emergência da Califórnia expanda o seu trabalho avaliando as ameaças potenciais representadas pela utilização da GenAI à infra-estrutura crítica da Califórnia, incluindo aquelas que poderiam levar a eventos de vítimas em massa. Essa conta, SB 896 pelo senador Bill Dodd (D-Napa)codifica aspectos da recente Ordem Executiva do Governador de setembro de 2023. Sob a orientação do Governador, Cal OES está trabalhando com empresas modelo de fronteira para analisar riscos de infraestrutura energética e convocou fornecedores do setor de energia para compartilhar ameaças e estratégias de segurança. Com base no trabalho até à data e de acordo com o SB 896, o Governador instruiu a Cal OES a realizar a mesma avaliação de risco com os fornecedores de infra-estruturas hídricas no próximo ano e com o sector das comunicações pouco depois disso. Leia a mensagem de assinatura aqui.

O governador Newsom vetou o SB 1047, um dos vários projetos de lei da GenAI considerados este ano pelo Legislativo da Califórnia. Leia a mensagem de veto aqui.