Casa Branca obtém compromissos voluntários de empresas de IA para coibir pornografia deepfake #ÚltimasNotícias #tecnologia

A Casa Branca divulgou hoje um delineando compromissos que várias empresas de IA estão assumindo para coibir a criação e distribuição de abuso sexual baseado em imagens. As empresas participantes estabeleceram as etapas que estão tomando para evitar que suas plataformas sejam usadas para gerar imagens íntimas não consensuais (NCII) de adultos e material de abuso sexual infantil (CSAM).

Especificamente, Adobe, Anthropic, Cohere, Common Crawl, Microsoft e OpenAI disseram que irão:

Todos os mencionados acima, exceto Common Crawl, também concordaram que seriam:

• “incorporando ciclos de feedback e estratégias iterativas de testes de estresse em seus processos de desenvolvimento, para proteger contra modelos de IA que produzem abuso sexual baseado em imagens”

  Continue após a publicidade

• E “remover imagens de nudez de conjuntos de dados de treinamento de IA” quando apropriado.

É um compromisso voluntário, então o anúncio de hoje não cria nenhuma nova etapa acionável ou consequências por não cumprir essas promessas. Mas ainda vale a pena aplaudir um esforço de boa fé para lidar com esse problema sério. As ausências notáveis ​​do comunicado da Casa Branca de hoje são Apple, Amazon, Google e Meta.

Muitas grandes empresas de tecnologia e IA têm feito progressos para tornar mais fácil para as vítimas do NCII impedir a disseminação de imagens e vídeos deepfake separadamente deste esforço federal. O StopNCII tem uma abordagem abrangente para limpar esse conteúdo, enquanto outras empresas estão lançando ferramentas proprietárias para relatar abuso sexual baseado em imagens geradas por IA em suas plataformas.

Se você acredita que foi vítima de compartilhamento não consensual de imagens íntimas, você pode abrir um caso com o StopNCII ; se você tiver menos de 18 anos, pode registrar um relatório no NCMEC .