A OpenAI está lançando um conselho de segurança ‘independente’ que pode impedir o lançamento de seus modelos #ÚltimasNotícias #tecnologia

A OpenAI está transformando seu Safety and Security Committee em um “Board supersight Committee” independente que tem autoridade para atrasar lançamentos de modelos por preocupações de segurança, de acordo com uma postagem do blog da OpenAI. O comitê fez a recomendação de tornar o conselho independente após uma revisão recente de 90 dias dos “processos e salvaguardas relacionados à segurança” da OpenAI.

O comitê, que é presidido por Zico Kolter e inclui Adam D’Angelo, Paul Nakasone e Nicole Seligman, “será informado pela liderança da empresa sobre avaliações de segurança para lançamentos de modelos importantes e, junto com o conselho completo, exercerá supervisão sobre lançamentos de modelos, incluindo ter autoridade para atrasar um lançamento até que as preocupações com segurança sejam abordadas”, diz a OpenAI. O conselho completo de diretores da OpenAI também receberá “briefings periódicos” sobre “questões de segurança e proteção”.

Os membros do comitê de segurança da OpenAI também são membros do conselho de diretores mais amplo da empresa, então não está claro exatamente o quão independente o comitê realmente é ou como essa independência é estruturada. Pedimos comentários à OpenAI.

Ao estabelecer um conselho de segurança independente, parece que a OpenAI está adotando uma abordagem um tanto similar à do Oversight Board da Meta, que analisa algumas das decisões de política de conteúdo da Meta e pode tomar decisões que a Meta tem que seguir. Nenhum dos membros do Oversight Board está no conselho de diretores da Meta.

A revisão pelo Comitê de Segurança e Proteção da OpenAI também ajudou a “oportunidades adicionais para colaboração da indústria e compartilhamento de informações para promover a segurança da indústria de IA”. A empresa também diz que buscará “mais maneiras de compartilhar e explicar nosso trabalho de segurança” e por “mais oportunidades para testes independentes de nossos sistemas”.