A Califórnia vai virar a indústria da IA ​​de cabeça para baixo? #ÚltimasNotícias #tecnologia

A inteligência artificial está se movendo rapidamente. Agora, ela é capaz de imitar humanos de forma convincente o suficiente para alimentar golpes telefônicos massivos ou criar imagens deepfake não consensuais de celebridades para serem usadas em campanhas de assédio. A urgência em regulamentar essa tecnologia nunca foi tão crítica — então, é isso que a Califórnia, lar de muitos dos maiores players da IA, está tentando fazer com um projeto de lei conhecido como SB 1047.

O SB 1047, que foi aprovado pela Assembleia Estadual da Califórnia e pelo Senado no final de agosto, está agora na mesa do governador da Califórnia, Gavin Newsom — que determinará o destino do projeto de lei. Enquanto a UE e alguns outros governos vêm martelando a regulamentação da IA ​​há anos, o SB 1047 seria a estrutura mais rigorosa nos EUA até agora. Os críticos pintaram um quadro quase apocalíptico de seu impacto, chamando-o de uma ameaça para startups, desenvolvedores de código aberto e acadêmicos. Os apoiadores o chamam de uma proteção necessária para uma tecnologia potencialmente perigosa — e um corretivo para anos de subregulamentação. De qualquer forma, a luta na Califórnia pode derrubar a IA como a conhecemos, e ambos os lados estão se manifestando com força.

A versão original do SB 1047 era ousada e ambiciosa. Apresentado pelo senador estadual Scott Wiener como o California Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, ele se propôs a regular rigorosamente modelos avançados de IA com uma quantidade suficiente de poder de computação, em torno do tamanho dos maiores sistemas de IA de hoje (que é 10^26 FLOPS). O projeto de lei exigia que os desenvolvedores desses modelos de fronteira conduzissem testes de segurança completos, incluindo avaliações de terceiros, e certificassem que seus modelos não representavam nenhum risco significativo para a humanidade. Os desenvolvedores também tiveram que implementar um “kill switch” para desligar modelos desonestos e relatar incidentes de segurança a uma agência reguladora recém-criada. Eles poderiam enfrentar possíveis processos do procurador-geral por falhas catastróficas de segurança. Se mentissem sobre segurança, os desenvolvedores poderiam até enfrentar acusações de perjúrio, que incluem a ameaça de prisão (no entanto, isso é extremamente raro na prática).

Os legisladores da Califórnia estão em uma posição excepcionalmente poderosa para regular a IA. O estado mais populoso do país abriga muitas empresas líderes de IA, incluindo a OpenAI, que se opôs publicamente ao projeto de lei, e a Anthropic, que hesitou em seu apoio antes das emendas. O SB 1047 também busca regular modelos que desejam operar no mercado da Califórnia, dando a ele um impacto de longo alcance muito além das fronteiras do estado.

Sem surpresa, partes significativas da indústria de tecnologia se revoltaram. Em um evento da Y Combinator sobre regulamentação de IA que participei no final de julho, conversei com Andrew Ng, cofundador da Coursera e fundador do Google Brain, que falou sobre seus planos de protestar contra a SB 1047 nas ruas de São Francisco. Ng fez uma aparição surpresa no palco mais tarde, criticando o projeto de lei por seu potencial dano a acadêmicos e desenvolvedores de código aberto enquanto Wiener observava com sua equipe.

“Quando alguém treina um grande modelo de linguagem… isso é uma tecnologia. Quando alguém os coloca em um dispositivo médico ou em um feed de mídia social ou em um chatbot ou usa isso para gerar deepfakes políticos ou pornografia deepfake não consensual, essas são aplicações”, disse Ng no palco. “E o risco da IA ​​não é uma função. Não depende da tecnologia — depende da aplicação.”

Críticos como Ng temem que o SB 1047 possa retardar o progresso, frequentemente invocando temores de que ele possa impedir a liderança que os EUA têm contra nações adversárias como China e Rússia. Os representantes Zoe Lofgren e Nancy Pelosi e a Câmara de Comércio da Califórnia temem que o projeto de lei esteja muito focado em versões fictícias de IA catastrófica, e o pioneiro da IA ​​Fei-Fei Li alertou em um Fortuna coluna que o SB 1047 iria “prejudicar nosso ecossistema de IA em desenvolvimento”. Esse também é um ponto de pressão para Khan, que está preocupado com a regulamentação federal sufocando a inovação em comunidades de IA de código aberto.

No palco do evento YC, Khan enfatizou que o código aberto é um propulsor comprovado de inovação, atraindo centenas de bilhões em capital de risco para abastecer startups. “Estamos pensando sobre o que o código aberto deve significar no contexto da IA, tanto para todos vocês como inovadores, mas também para nós como aplicadores da lei”, disse Khan. “A definição de código aberto no contexto de software não se traduz perfeitamente no contexto da IA.” Tanto os inovadores quanto os reguladores, ela disse, ainda estão navegando sobre como definir e proteger a IA de código aberto no contexto da regulamentação.

O resultado das críticas foi um segundo rascunho significativamente mais suave do SB 1047, que foi aprovado pelo comitê em 15 de agosto. No novo SB 1047, a agência reguladora proposta foi removida, e o procurador-geral não pode mais processar desenvolvedores por grandes incidentes de segurança. Em vez de enviar certificações de segurança sob a ameaça de perjúrio, os desenvolvedores agora só precisam fornecer “declarações” públicas sobre suas práticas de segurança, sem responsabilidade criminal. Além disso, entidades que gastam menos de US$ 10 milhões em ajustes finos de um modelo não são consideradas desenvolvedores sob o projeto de lei, oferecendo proteção a pequenas startups e desenvolvedores de código aberto.

Ainda assim, isso não significa que o projeto de lei não valha a pena ser aprovado, de acordo com os apoiadores. Mesmo em sua forma enfraquecida, se o SB 1047 “fizer com que pelo menos uma empresa de IA pense em suas ações, ou leve o alinhamento dos modelos de IA aos valores humanos mais a sério, será para o bem”, escreveu Gary Marcus, professor emérito de psicologia e ciência neural na NYU. Ele ainda oferecerá proteções de segurança críticas e escudos para denunciantes, o que alguns podem argumentar ser melhor do que nada.

O CEO da Anthropic, Dario Amodei, disse que o projeto de lei foi “substancialmente melhorado, a ponto de acreditarmos que seus benefícios provavelmente superam seus custos” após as emendas. Em uma declaração em apoio ao SB 1047 relatada por Axios120 funcionários atuais e antigos da OpenAI, Anthropic, DeepMind do Google e Meta disseram que “acreditam que os modelos de IA mais poderosos podem em breve representar riscos graves, como acesso expandido a armas biológicas e ataques cibernéticos a infraestruturas críticas”.

“É viável e apropriado que empresas de IA de ponta testem se os modelos de IA mais poderosos podem causar danos graves e que essas empresas implementem salvaguardas razoáveis ​​contra tais riscos”, disse a declaração.

Enquanto isso, muitos detratores não mudaram sua posição. “As edições são fachada”, postou o sócio geral da Andreessen Horowitz, Martin Casado. “Elas não abordam os problemas ou críticas reais do projeto de lei.”

Há também o diretor de estratégia da OpenAI, Jason Kwon, que disse em uma carta a Newsom e Wiener que “o SB 1047 ameaçaria esse crescimento, desaceleraria o ritmo da inovação e levaria os engenheiros e empreendedores de classe mundial da Califórnia a deixar o estado em busca de maiores oportunidades em outro lugar”.

“Dados esses riscos, precisamos proteger a vantagem da IA ​​dos Estados Unidos com um conjunto de políticas federais — em vez de estaduais — que possam fornecer clareza e certeza para laboratórios e desenvolvedores de IA, ao mesmo tempo em que preservam a segurança pública”, escreveu Kwon.

Embora esta versão altamente alterada do SB 1047 tenha chegado à mesa de Newsom, ele tem estado notavelmente quieto sobre isso. Não é exatamente novidade que a regulamentação da tecnologia sempre envolveu um grau de manobra política e isso está sendo sinalizado pela abordagem de lábios fechados de Newsom sobre tal regulamentação controversa. Newsom poderia não quero agitar o barco com os tecnólogos pouco antes de uma eleição presidencial.

Muitos executivos influentes de tecnologia também são grandes doadores para campanhas políticas, e na Califórnia, lar de algumas das maiores empresas de tecnologia do mundo, esses executivos estão profundamente conectados à política do estado. A empresa de capital de risco Andreessen Horowitz até mesmo convocou Jason Kinney, um amigo próximo do governador Newsom e um agente democrata, para fazer lobby contra o projeto de lei. Para um político, pressionar pela regulamentação da tecnologia pode significar perder milhões em contribuições de campanha. Para alguém como Newsom, que tem ambições presidenciais claras, esse é um nível de apoio que ele não pode se dar ao luxo de arriscar.

Além disso, a divisão entre o Vale do Silício e os democratas aumentou, especialmente depois que os cofundadores da Andreessen Horowitz expressaram apoio a Donald Trump. A forte oposição da empresa ao SB 1047 significa que se Newsom sancioná-lo, a divisão pode aumentar, tornando mais difícil para os democratas recuperarem o apoio do Vale do Silício.

Então, tudo se resume a Newsom, que está sob intensa pressão das empresas de tecnologia mais poderosas do mundo e de colegas políticos como Pelosi. Enquanto os legisladores têm trabalhado para encontrar um equilíbrio delicado entre regulamentação e inovação por décadas, a IA é nebulosa e sem precedentes, e muitas das regras antigas parecem não se aplicar. Por enquanto, Newsom tem até setembro para tomar uma decisão que pode virar de cabeça para baixo a indústria de IA como a conhecemos.