Instituto de Segurança de IA dos EUA assina acordos sobre pesquisa, testes e avaliação de segurança de IA com Anthropic e OpenAI #ÚltimasNotícias

GAITHERSBURG, Maryland — Hoje, o Instituto de Segurança de Inteligência Artificial dos EUA, do Instituto Nacional de Padrões e Tecnologia (NIST) do Departamento de Comércio dos EUA, anunciou acordos que permitem colaboração formal em pesquisa, testes e avaliação de segurança de IA com a Anthropic e a OpenAI.

O Memorando de Entendimento de cada empresa estabelece a estrutura para que o US AI Safety Institute receba acesso aos principais novos modelos de cada empresa antes e depois de seu lançamento público. Os acordos permitirão pesquisa colaborativa sobre como avaliar capacidades e riscos de segurança, bem como métodos para mitigar esses riscos.

“A segurança é essencial para alimentar a inovação tecnológica revolucionária. Com esses acordos em vigor, estamos ansiosos para começar nossas colaborações técnicas com a Anthropic e a OpenAI para avançar a ciência da segurança da IA”, disse Elizabeth Kelly, diretora do US AI Safety Institute. “Esses acordos são apenas o começo, mas são um marco importante à medida que trabalhamos para ajudar a administrar de forma responsável o futuro da IA.”

Além disso, o US AI Safety Institute planeja fornecer feedback à Anthropic e à OpenAI sobre possíveis melhorias de segurança em seus modelos, em estreita colaboração com seus parceiros no UK AI Safety Institute.

O US AI Safety Institute se baseia no legado de mais de 120 anos do NIST de avanço da ciência de medição, tecnologia, padrões e ferramentas relacionadas. As avaliações sob esses acordos promoverão o trabalho do NIST em IA, facilitando a colaboração profunda e a pesquisa exploratória em sistemas avançados de IA em uma variedade de áreas de risco.

As avaliações conduzidas de acordo com esses acordos ajudarão a promover o desenvolvimento e o uso seguros, protegidos e confiáveis ​​da IA, com base na Ordem Executiva sobre IA do governo Biden-Harris e nos compromissos voluntários assumidos com o governo pelos principais desenvolvedores de modelos de IA.

Sobre o Instituto de Segurança de IA dos EUA

O US AI Safety Institute, localizado dentro do Departamento de Comércio do National Institute of Standards and Technology (NIST), foi estabelecido após a Ordem Executiva de 2023 da administração Biden-Harris sobre o Desenvolvimento e Uso Seguro, Protegido e Confiável de Inteligência Artificial para avançar a ciência da segurança de IA e abordar os riscos apresentados por sistemas avançados de IA. Ele tem a tarefa de desenvolver os testes, avaliações e diretrizes que ajudarão a acelerar a inovação segura de IA aqui nos Estados Unidos e ao redor do mundo.