A Lei de Modelos de IA Proposta pela Califórnia Sufocará a Inovação? #ÚltimasNotícias

Garry Tan, o CEO da startup Incubator Y Combinator, tem sido intensamente crítico dos esforços para regular a inteligência artificial, apesar de muitos titãs da tecnologia pedirem controles sobre a tecnologia. No mês passado, Tan disse no X que o projeto de lei do senador estadual Scott Wiener para proteger contra a tecnologia de IA descontrolada teria “um intenso efeito inibidor para a IA na Califórnia”.

Continue após a publicidade

Isso não impediu Tan e Y Combinator de convidar Wiener e um bando de autoridades federais para um evento na sede da incubadora em São Francisco para discutir como deveria ser o controle da tecnologia. Também estavam presentes a presidente da Comissão Federal de Comércio dos EUA, Lina Khan, e o advogado antitruste do Departamento de Justiça dos EUA, Jonathan Kanter, ressaltando a crescente preocupação nacional sobre se, e como, regulamentar algumas das empresas mais valiosas e de crescimento mais rápido nos EUA.

Apesar de Tan estar sentado na primeira fila enquanto Wiener falava no palco, os dois não se envolveram em um debate aberto sobre a peça mais comentada da legislação de IA na Califórnia e possivelmente nos EUA.

Mas um palestrante surpresa disse que o projeto de lei de Wiener errou o alvo. Andrew Ng, um luminar da IA ​​e cofundador e chefe do Google Brain, comparou exigir que desenvolvedores de IA garantam que seus programas não possam ser usados ​​para o mal a pedir aos fabricantes de motores elétricos que garantam que seus produtos não sejam usados ​​ilegalmente.

“Eu pararia de fabricar motores elétricos”, disse Ng.

De sua parte, Wiener disse que ainda estava aberto a alterações da comunidade tecnológica, incluindo algumas propostas esta semana pela Anthropic, fabricante de modelos de IA, sediada em São Francisco.

“A IA é incrivelmente empolgante”, disse Wiener. Mas “com qualquer tecnologia poderosa e transformadora, sempre haverá riscos”. Seu projeto de lei tenta abordar essas incógnitas exigindo que os criadores de futuros programas de IA os testem quanto à segurança.

O fundador da startup, Jeremy Nixon, CEO da Omniscience AI, perguntou a Wiener se ele estava preocupado que o projeto de lei pudesse sufocar o lançamento futuro de modelos de IA — algo que ele disse ter acontecido na União Europeia após a imposição de regulamentações naquele país.

Wiener disse que achava isso improvável.

“Este projeto de lei é muito mais restrito do que a lei de IA da União Europeia”, ele disse. A Meta, controladora do Facebook, disse que não lançará modelos futuros na UE por causa das regras.

Questionado posteriormente se as palavras de Wiener o fizeram mudar de ideia, Tan disse que ainda discordava do senador sobre o projeto de lei de IA, expressando preocupação de que isso tornaria mais difícil para os fundadores de startups criarem novas ferramentas de IA por meio do Y Combinator.

Grande parte do mundo da tecnologia, de capitalistas de risco à Meta, criticou o projeto de lei de Wiener, dizendo que ele deixaria as empresas em apuros se um terceiro fizesse algo prejudicial com a tecnologia que elas construíram.

O empreendedor e capitalista de risco Marc Andreessen chegou a sugerir que regulamentar empresas de código aberto poderia resultar em uma guerra global, enquanto outros luminares da tecnologia disseram que as bombas podem não cair, mas a indústria multibilionária de IA pode ser expulsa da Califórnia.

O argumento da empresa de investimento em tecnologia Andreessen Horowitz e de outros lugares é que empresas como a Meta parariam de construir os chamados modelos de IA de código aberto que as startups podem reutilizar gratuitamente. Se um terceiro pegasse sua tecnologia e a usasse para infringir a lei — projetando uma arma com ela ou usando-a para hackear sistemas privados — os Metas do mundo poderiam arcar com a responsabilidade, diz o argumento.

Wiener disse que ouviu atentamente essas críticas e fez inúmeras alterações no projeto de lei para evitar punir injustamente grandes empresas como Meta e OpenAI, que criam os maiores e mais poderosos modelos de IA.

“Nosso objetivo aqui não é encerrar o código aberto”, disse Wiener. “Se o modelo não estiver mais em sua posse, você não é responsável por garantir que ele possa ser encerrado.”

O projeto de lei abrange apenas grandes empresas de IA e modelos de um tamanho que ainda não existe. O projeto de lei de Wiener inclui emendas que limitariam a responsabilidade de grandes fabricantes de modelos como a Meta se sua tecnologia for alterada significativamente e usada para causar danos.

Questionada durante o evento sobre o projeto de lei de Wiener, Khan, a presidente da FTC, se recusou a comentá-lo diretamente. Mas, em geral, ela disse que proteger a abertura na indústria de IA era importante, em parte por causa dos bilhões de dólares necessários para construir um modelo de IA do zero.

(c)2024 o Crônica de São Francisco. Distribuído pela Tribune Content Agency, LLC.