SAG-AFTRA e grupos de mulheres pedem a Gavin Newsom que assine o projeto de lei de segurança da IA #ÚltimasNotícias #tecnologia

Enquanto o governador da Califórnia, Gavin Newsom, pondera assinar ou vetar o projeto de lei de segurança de IA SB 1047, fortemente contestado, o SAG-AFTRA e dois grupos de mulheres o pressionam para aprová-lo — adicionando ainda mais vozes a um debate já frenético. O sindicato dos artistas, a National Organization for Women (NOW) e a Fund Her enviaram cartas a Newsom, todas obtidas por A Beira e estão sendo publicados aqui pela primeira vez.

As cartas da SAG-AFTRA, NOW e Fund Her destacam preocupações sobre o potencial da IA ​​de causar danos catastróficos se a tecnologia for deixada sem regulamentação. A SAG-AFTRA descreve o mandato da SB 1047 para que os desenvolvedores testem e protejam contra desastres habilitados por IA, como ataques cibernéticos em infraestrutura crítica ou desenvolvimento de armas biológicas. A NOW e a Fund Her citam advertências graves de pessoas na vanguarda da IA ​​e discutem os impactos potencialmente desproporcionais da tecnologia em grupos vulneráveis.

O SAG-AFTRA postou um pedido de apoio ontem no X de seus 160.000 membros, que incluem estrelas como Scarlett Johansson e Tom Hanks. A NOW, a maior organização feminista dos EUA com cerca de 500.000 membros, disse que foi motivada por alegações de especialistas “sobre o quão perigosa essa tecnologia incrível pode ser se não for desenvolvida e implantada de forma responsável”. O Fund Her, um PAC que ajudou a eleger 12 mulheres progressistas para cargos de destaque na Califórnia em 2022, escreve sobre a “corrida para desenvolver a primeira IA de pensamento independente”, momento em que “será tarde demais para impor barreiras de segurança”.

SAG-AFTRA e NOW representam os mais recentes atores poderosos a opinar sobre o projeto de lei da Califórnia, que se tornou objeto de interesse nacional excepcional e ultrapassou os limites partidários convencionais.

SB 1047, de autoria do senador estadual Scott Wiener, seria a lei de segurança de IA mais significativa nos EUA. Ela estabelece responsabilidade civil para desenvolvedores de modelos de IA de próxima geração como ChatGPT se eles causarem desastres sem implementar salvaguardas apropriadas. O projeto de lei também inclui proteções de denunciantes para funcionários de empresas de IA, obtendo apoio dos denunciantes da OpenAI Daniel Kokotajlo e William Saunders.

A NOW escreve em sua carta que “os padrões de segurança de IA definidos pela Califórnia mudarão o mundo”, uma visão ecoada pelo coautor do projeto de lei Dan Hendrycks, diretor do Center for AI Safety. Hendrycks diz A Beira que o SB 1047 poderia ser o “momento Pat Brown” de Newsom, referindo-se ao então governador da Califórnia assinando uma lei inovadora sobre emissões de escapamentos de automóveis em 1966. Ele cita o que desde então ficou conhecido como Efeito Califórnia: “onde a Califórnia lidera em regulamentações importantes, o resto do país segue”.

Tendo passado por ambas as casas da legislatura estadual com maiorias fortes no final de agosto, o projeto de lei agora aguarda a decisão do governador Newsom, prevista para 30 de setembro. O gabinete do governador disse que “normalmente não comenta sobre legislação pendente. Esta medida será avaliada por seus méritos”.

Apesar desse comentário, o destino do SB 1047 pode depender de um cálculo político — uma realidade que cada lado parece reconhecer à medida que mobiliza apoio nas horas finais do projeto de lei.

As estranhas coalizões políticas que surgiram na luta pelo SB 1047 prenunciam um futuro de pernas para o ar para as batalhas políticas de IA. O bilionário Elon Musk se alinha com grupos de justiça social e sindicatos trabalhistas no apoio ao projeto de lei, enquanto a ex-presidente da Câmara Nancy Pelosi, o congressista progressista Ro Khanna, o capitalista de risco apoiador de Trump Marc Andreessen e a “madrinha” da IA ​​Fei-Fei Li são todos contra.

A IA é a rara questão que ainda não foi classificada em campos partidários claros. À medida que a tecnologia cresce em importância, o debate sobre como governá-la provavelmente crescerá em intensidade e pode continuar a embaralhar as lealdades usuais.

Essas cartas recentes se juntam ao apoio ao projeto de lei de organizações como a SEIU, com quase 2 milhões de membros, e a Latino Community Foundation.

O SAG-AFTRA tem sido o lar de alguns dos sentimentos anti-IA mais orgânicos. Muitos atores de cinema veem a IA generativa como uma ameaça existencial aos seus meios de subsistência. O uso da tecnologia foi um grande ponto de discórdia na greve de atores de 2023, que resultou em uma exigência de que os estúdios obtenham consentimento informado dos artistas antes de criar réplicas digitais deles (os atores também devem ser compensados ​​por seu uso).

A carta do sindicato escreve que “SAG-AFTRA conhece muito bem os perigos potenciais que a IA representa”, citando problemas vivenciados por seus membros na forma de pornografia deepfake não consensual e roubo de imagens de artistas. Conclui que “os formuladores de políticas têm a responsabilidade de intervir e proteger nossos membros e o público. SB 1047 é um primeiro passo medido para nos levar até lá.”

Em uma entrevista por telefone, o presidente da organização, Christian Nunes, disse que a NOW se envolveu porque o grupo está preocupado com o quanto a IA não regulamentada pode afetar as mulheres. Ela e a NOW já apoiaram esforços para proibir deepfakes não consensuais.

Na carta da NOW, Nunes escreve que os perigos alertados pelos especialistas em IA “recairiam desproporcionalmente sobre grupos vulneráveis, incluindo mulheres”. Ela destaca o “apoio corajoso de Newsom a nós diante da intensa pressão do lobby” sobre direitos reprodutivos, igualdade salarial e licença-família remunerada, e que esse apoio “é uma das razões pelas quais as mulheres votaram em [him] uma e outra vez.”

Embora o SB 1047 não seja explicitamente projetado para abordar as preocupações mais centrais desses grupos, as organizações parecem ver valor estratégico em se juntar à coalizão por trás dele. Nunes disse A Beira ela vê o projeto de lei como parte de um projeto mais amplo para responsabilizar as Big Techs.

Este apoio ao SB 1047 complementa outras legislações de IA pendentes que abordam mais diretamente as questões específicas desses grupos. Por exemplo, o Federal NO FAKES Act visa combater deepfakes, enquanto outro projeto de lei de IA na mesa de Newsom, endossado pelo SAG-AFTRA, regularia o uso de réplicas digitais. Ao apoiar o SB 1047 juntamente com essas iniciativas mais direcionadas, essas organizações parecem estar adotando uma abordagem abrangente para a governança de IA.

As cartas do NOW e do Fund Her traçam paralelos entre a IA não regulamentada e a história das mídias sociais. A fundadora e presidente do Fund Her, Valerie McGinty, escreve para A Verge, “Vimos o dano incrível que a mídia social impôs a nossos filhos e quão difícil é reverter isso. Não ficaremos presos tentando recuperar o atraso novamente se o governador Newsom sancionar o SB 1047 como lei.”

Não está claro se as cartas serão suficientes para que o projeto de lei supere as forças poderosas dispostas contra ele. Enquanto Wiener e outros defensores descrevem a regulamentação como “leve” e “senso comum”, a indústria está, em geral, surtando.

Os EUA atualmente dependem quase inteiramente de autorregulamentação e compromissos voluntários não vinculativos para governar a IA, e a indústria gostaria de mantê-la assim. Como a primeira regulamentação de segurança de IA dos EUA com força, a SB 1047 estabeleceria um precedente poderoso, o que é uma provável motivação por trás dessas cartas e da vigorosa oposição da indústria.

Google, Meta e OpenAI tomaram a atitude incomum de escrever suas próprias cartas se opondo ao projeto de lei. A resistência dos investidores em IA tem sido ainda mais dura, com a prestigiosa incubadora de startups Y Combinator (YC) e o fundo de risco Andreessen Horowitz (a16z) liderando uma pressão total para matar o SB 1047. Esses e outros oponentes proeminentes alertam que o projeto de lei pode provocar um êxodo da Califórnia, ceder a liderança dos EUA em IA para a China e devastar a comunidade de código aberto.

Naturalmente, os apoiadores contestam cada um desses argumentos. Em uma carta de julho abordando as alegações de YC e a16z sobre o projeto de lei, Wiener aponta que o SB 1047 se aplicaria a qualquer empresa de IA coberta que fizesse negócios na Califórnia, o centro de IA do mundo e a quinta maior economia. Dario Amodei, CEO da empresa líder em IA e eventual apoiador de fato do SB 1047, Anthropic, chamou a ameaça de sair de “apenas teatro” (no entanto, também foi invocada pela OpenAI, Meta e Google).

Em sua declaração se opondo ao projeto de lei, Pelosi o chamou de “bem-intencionado, mas mal informado”. Em uma entrevista por telefone, Wiener disse: “Tenho enorme respeito pela Presidente Emérita. Ela é a GOAT”, mas continuou chamando a declaração de Pelosi de “infeliz” e observou que “alguns dos principais pioneiros do aprendizado de máquina do planeta apoiam o projeto de lei”, citando endossos dos “padrinhos” do aprendizado profundo Geoffrey Hinton e Yoshua Bengio. Wiener também destaca uma carta aberta de apoio publicada na segunda-feira por mais de 100 funcionários e ex-alunos das principais empresas de IA.

Para avaliar o SB 1047 em seus méritos, a carta mais convincente pode ser uma publicada pela Anthropic, que rompeu com seus pares para escrever que os “benefícios da legislação revisada provavelmente superam seus custos”. Esta carta seguiu uma rodada de emendas feitas diretamente em resposta às reclamações anteriores da empresa. A família de chatbots Claude da Anthropic lidera o mundo em algumas métricas, e a empresa provavelmente será uma das poucas desenvolvedoras de IA diretamente cobertas pela lei em um futuro próximo.

Com os principais líderes do Congresso prometendo obstruir regulamentações federais substantivas de IA e se opondo ao SB 1047, a Califórnia pode seguir sozinha, como já fez com a neutralidade da rede e a privacidade de dados. Como Nunes da NOW escreve, os “padrões de segurança de IA definidos pela Califórnia mudarão o mundo”, dando ao governador Newsom uma chance de fazer história e modelar “liderança de IA equilibrada”.

McGinty, da Fund Her, resumiu a posição dos apoiadores em um e-mail para A Beira: “Deveríamos ouvir esses especialistas mais interessados ​​em nosso bem-estar do que os executivos das Big Tech que economizam na segurança da IA.”

À medida que o prazo final de 30 de setembro se aproxima, todos os olhos estão voltados para o governador Newsom para ver como ele moldará o futuro da governança de IA na Califórnia e além. “Minha experiência com Gavin Newsom é — concorde ou discorde — que ele toma decisões ponderadas com base no que ele acha que é melhor para o estado”, diz Wiener. “Sempre apreciei isso nele.”

Correção: O artigo inicialmente citou o “padrinho” do aprendizado profundo Yann LeCun como um apoiador do SB 1047. LeCun se opõe ao projeto de lei. Lamentamos o erro.