Casa Branca anuncia compromissos das Big Techs para reduzir abuso sexual baseado em imagens #ÚltimasNotícias

Antes do 30º aniversário da Lei de Violência Contra as Mulheres, a Casa Branca anunciou compromissos voluntários de grandes empresas de tecnologia para combater a criação, distribuição e monetização de abuso sexual baseado em imagens, incluindo “deepfakes” gerados por inteligência artificial.

Empresas de tecnologia, incluindo Aylo, que opera vários dos maiores sites de pornografia, Meta, Microsoft, TikTok, Bumble, Discord, Hugging Face e Match Group assinaram uma lista de princípios para combater o abuso sexual baseado em imagem, que inclui compartilhamento não consensual de imagens íntimas e nuas, extorsão de imagens sexuais, criação e distribuição de material de abuso sexual infantil e o surgimento de deepfakes de IA. Exemplos de deepfakes, mídia enganosa que geralmente é sexualmente explícita, incluem “trocar” os rostos das vítimas em vídeos sexualmente explícitos ou criar imagens falsas de nudez geradas por IA.

A Casa Branca escreveu que o abuso sexual baseado em imagens “disparou”, afetando desproporcionalmente mulheres, crianças e pessoas LGBTQ. O ano letivo de 2023-24 foi marcado por incidentes globais de crianças, predominantemente meninas adolescentes, sendo alvos de deepfakes feitos e compartilhados por seus colegas de classe. Mais vídeos deepfakes sexualmente explícitos não consensuais foram carregados online em 2023 do que em todos os anos anteriores combinados.

“Esse abuso tem consequências profundas para a segurança e o bem-estar individuais, bem como impactos sociais devido aos efeitos negativos na participação dos sobreviventes em suas escolas, locais de trabalho, comunidades e muito mais”, disse o anúncio da Casa Branca.

Dois grupos sem fins lucrativos de direitos digitais, o Center for Democracy and Technology e a Cyber ​​Civil Rights Initiative, e a National Network to End Domestic Violence, uma organização sem fins lucrativos antiviolência doméstica, lideraram o esforço para criar e assinar princípios para combater o abuso sexual baseado em imagem. Os princípios incluem dar às pessoas o controle sobre se e como suas semelhanças e corpos são retratados e disseminados em imagens íntimas, proibindo claramente imagens íntimas não consensuais em políticas e implementando “ferramentas eficazes, proeminentes e fáceis de usar para prevenir, identificar, mitigar e responder a” abuso sexual baseado em imagem. Outros princípios incluem acessibilidade e inclusão, abordagens informadas sobre traumas, prevenção e mitigação de danos, transparência e responsabilidade, e comprometimento e colaboração.

“Se as empresas estivessem fazendo seu trabalho, se estivessem sendo responsáveis, se estivessem sendo responsabilizadas, não teríamos essas epidemias”, disse Mary Anne Franks, presidente da Cyber ​​Civil Rights Initiative. “É certamente claro dizer que isso é progresso por causa de onde as coisas estavam antes. Mas se tivéssemos uma indústria responsável que fosse forçada a ser responsabilizada pelos tipos de abusos que seus produtos e serviços estão criando, então não estaríamos na crise em que estamos.”

A Cyber ​​Civil Rights Initiative defende uma legislação federal e estadual direcionada e a reforma da Seção 230 do Communications Decency Act, o escudo legal que protege empresas de tecnologia de processos judiciais relacionados ao conteúdo que os usuários criam e postam em suas plataformas. Franks disse que, embora os esforços voluntários destacados pela Casa Branca sejam bem-vindos, ela não os vê como um substituto para a legislação. Ainda assim, ela disse, o foco do governo Biden e da vice-presidente Kamala Harris na violência de gênero, assédio online e abuso sexual baseado em imagem foi “transformador” em comparação com o trabalho de governos anteriores e o impacto que tem nas vítimas e seus defensores.

Franks disse que outras empresas de tecnologia podem assinar os princípios se ainda não o fizeram. Os princípios pretendem ser um guia para a indústria.

Em seu anúncio, a Casa Branca também mencionou esforços recentes feitos por empresas de tecnologia como o Google, que anunciou em julho que iria desclassificar e remover da lista sites e conteúdo em resultados de busca contendo deepfakes sexualmente explícitos não consensuais. Outros esforços que a Casa Branca observou incluíram a remoção pela Meta de cerca de 63.000 contas do Instagram que estavam envolvidas em sextortion, uma prática de solicitar imagens sexuais e então coagir pagamentos financeiros de vítimas sob ameaças de distribuir o material.

Os esforços foram feitos depois que deepfakes foram criados, disseminados e monetizados por meio das plataformas, junto com a perpetuação da sextorsão. A NBC News relatou um aumento massivo em casos de sextorsão desde 2022, afetando principalmente meninos adolescentes que usaram o Instagram do Meta. A NBC News também descobriu que aplicativos que anunciavam suas habilidades de criar imagens nuas de celebridades adolescentes também foram veiculados no Facebook e no Instagram por meses no final de 2022 e no início de 2023. No mecanismo de busca do Google e no Bing da Microsoft, a NBC News descobriu anteriormente que deepfakes sexualmente explícitos não consensuais estavam disponíveis no topo de alguns resultados de pesquisa.

“Essas questões não são novas, mas certamente há novas ameaças trazidas pelo surgimento da IA ​​generativa e quão fácil é criar versões falsas dessas imagens”, disse Alexandra Reeve Givens, CEO do Center for Democracy and Technology. “Todos concordamos que princípios não são suficientes. Na verdade, trata-se de mudanças na prática.”