Como identificar imagens geradas por IA #ÚltimasNotícias #tecnologia

Primeiro, as más notícias: é realmente difícil detectar imagens geradas por IA. Os sinais reveladores que costumavam ser reveladores — mãos tortas e texto embaralhado — são cada vez mais raros, à medida que os modelos de IA melhoram em um ritmo vertiginoso.

Não é mais óbvio quais imagens são criadas usando ferramentas populares como Midjourney, Stable Diffusion, DALL-E e Gemini. Na verdade, imagens geradas por IA estão começando a enganar as pessoas ainda mais, o que criou grandes problemas na disseminação de desinformação. A boa notícia é que geralmente não é impossível identificar imagens geradas por IA, mas exige mais esforço do que costumava.

Detectores de imagem de IA – prossiga com cautela

Essas ferramentas usam visão computacional para examinar padrões de pixels e determinar a probabilidade de uma imagem ser gerada por IA. Isso significa que os detectores de IA não são completamente infalíveis, mas é uma boa maneira para a pessoa comum determinar se uma imagem merece algum escrutínio — especialmente quando não é imediatamente óbvio.

“Infelizmente, para o olho humano — e há estudos — há cerca de cinquenta por cento de chance de uma pessoa ter a doença”, disse Anatoly Kvitnitsky, CEO da plataforma de detecção de imagens de IA. IA ou não. “Mas para detecção de IA para imagens, devido aos padrões semelhantes a pixels, eles ainda existem, mesmo que os modelos continuem a melhorar.” Kvitnitsky afirma que o AI or Not atinge uma taxa de precisão de 98% em média.

Outros detectores de IA que geralmente apresentam altas taxas de sucesso incluem Moderação de colmeia, Detector SDXL no Hugging Face e Illuminarty. Testamos dez imagens geradas por IA em todos esses detectores para ver como eles se saíram.

IA ou não

AI or Not dá um simples “sim” ou “não”, diferente de outros detectores de imagem de IA, mas ele disse corretamente que a imagem foi gerada por IA. Com o plano gratuito, você obtém 10 uploads por mês. Tentamos com 10 imagens e obtivemos uma taxa de sucesso de 80%.

IA ou Não identificou corretamente esta imagem como gerada por IA.
Crédito: Captura de tela: Mashable / AI or Not

Continue após a publicidade

Moderação de colmeia

Testamos a ferramenta de demonstração gratuita do Hive Moderation com mais de 10 imagens diferentes e obtivemos uma taxa de sucesso geral de 90 por cento, o que significa que elas tinham uma alta probabilidade de serem geradas por IA. No entanto, ela falhou em detectar as qualidades de IA de uma imagem artificial de um exército de esquilos escalando uma parede de pedra.

Gostaríamos de acreditar que um exército de esquilos é real, mas o detector de IA errou.
Crédito: Captura de tela: Mashable / Hive Moderation

Detector SDXL

O SDXL Detector no Hugging Face leva alguns segundos para carregar, e você pode inicialmente receber um erro na primeira tentativa, mas é completamente gratuito. Ele também fornece uma porcentagem de probabilidade em vez disso. Ele disse que 70 por cento das imagens geradas por IA tinham uma alta probabilidade de serem IA generativa.

O detector SDXL identificou corretamente uma imagem complicada gerada pelo Grok-2 de Barack Obama em um banheiro público
Crédito: Captura de tela: Mashable / SDXL Detector

Continue após a publicidade

Iluminado

O Illuminarty tem um plano gratuito que fornece detecção básica de imagem por IA. Das 10 imagens geradas por IA que carregamos, ele classificou apenas 50 por cento como tendo uma probabilidade muito baixa. Para o horror dos biólogos de roedores, ele deu à infame imagem do pênis de rato uma baixa probabilidade de ser gerada por IA.

Hummm, essa pareceu uma bandeja.
Crédito: Captura de tela: Mashable / Illuminarty

Como você pode ver, os detectores de IA são, em sua maioria, muito bons, mas não são infalíveis e não devem ser usados ​​como a única maneira de autenticar uma imagem. Às vezes, eles conseguem detectar imagens enganosas geradas por IA, mesmo que pareçam reais, e às vezes erram com imagens que são claramente criações de IA. É exatamente por isso que uma combinação de métodos é melhor.

Outras dicas e truques

A velha busca reversa de imagens

Outra maneira de detectar imagens geradas por IA é a simples busca reversa de imagens, que é o que Bamshad Mobasher, professor de ciência da computação e diretor do Center for Web Intelligence na DePaul University College of Computing and Digital Media em Chicago recomenda. Ao enviar uma imagem para o Google Images ou uma ferramenta de busca reversa de imagens, você pode rastrear a procedência da imagem. Se a foto mostrar um evento de notícias aparentemente real, “você pode determinar que é falso ou que o evento real não aconteceu”, disse Mobasher.

Ferramenta “Sobre esta imagem” do Google

O Google Search também tem um recurso “Sobre esta imagem” que fornece informações contextuais, como quando a imagem foi indexada pela primeira vez e onde mais ela apareceu online. Isso é encontrado clicando no ícone de três pontos no canto superior direito de uma imagem.

Sinais reveladores que podem ser detectados a olho nu

Falando nisso, enquanto as imagens geradas por IA estão ficando assustadoramente boas, ainda vale a pena procurar pelos sinais reveladores. Como mencionado acima, você ainda pode ocasionalmente ver uma imagem com mãos deformadas, cabelo que parece um pouco perfeito demais ou texto dentro da imagem que é distorcido ou sem sentido. A análise do nosso site irmão PCMag recomenda procurar no fundo por objetos desfocados ou deformados, ou sujeitos com pele impecável — e queremos dizer sem poros, impecável.

À primeira vista, a imagem do Midjourney abaixo parece uma parente Kardashian promovendo um livro de receitas que poderia facilmente ser do Instagram. Mas, após uma inspeção mais detalhada, você pode ver o pote de açúcar contorcido, os nós dos dedos deformados e a pele um pouco lisa demais.

À primeira vista, nem tudo é o que parece nesta imagem.
Crédito: Mashable / Midjourney

“A IA pode ser boa em gerar a cena geral, mas o diabo está nos detalhes”, escreveu Sasha Luccioni, líder de IA e clima na Hugging Face, em um e-mail para a Mashable. Procure por “principalmente pequenas inconsistências: dedos extras, joias ou características faciais assimétricas, incongruências em objetos (uma alça extra em um bule de chá)”.

Mobasher, que também é membro do Instituto de Engenheiros Elétricos e Eletrônicos (IEEE), disse para dar zoom e procurar por “detalhes estranhos”, como pixels perdidos e outras inconsistências, como brincos sutilmente diferentes.

“Você pode encontrar parte da mesma imagem com o mesmo foco desfocada, mas outra parte superdetalhada”, disse Mobasher. Isso é especialmente verdadeiro nos fundos das imagens. “Se você tem placas com texto e coisas assim nos fundos, muitas vezes elas acabam ficando confusas ou às vezes nem parecem uma linguagem real”, ele acrescentou.

Esta imagem de um desfile de vans Volkswagen desfilando por uma praia foi criada pelo Imagen 3 do Google. A areia e os ônibus parecem perfeitamente fotorrealistas. Mas olhe atentamente, e você notará que as letras no terceiro ônibus onde o logotipo da VW deveria estar são apenas um símbolo distorcido, e há manchas amorfas no quarto ônibus.

Temos certeza de que um desfile de ônibus VW aconteceu em algum momento, mas não é este.
Crédito: Mashable / Google

Continue após a publicidade

Observe o logotipo distorcido e as manchas estranhas.
Crédito: Mashable / Google

Tudo se resume à alfabetização em IA

Nenhum dos métodos acima será tão útil se você não fizer uma pausa enquanto consome mídia — particularmente mídia social — para se perguntar se o que você está vendo é gerado por IA em primeiro lugar. Assim como a alfabetização midiática que se tornou um conceito popular em torno da eleição de 2016, repleta de desinformação, a alfabetização em IA é a primeira linha de defesa para determinar o que é real ou não.

Os pesquisadores de IA Duri Long e Brian Magerko definem a alfabetização em IA como “um conjunto de competências que permite aos indivíduos avaliar criticamente as tecnologias de IA; comunicar-se e colaborar efetivamente com a IA; e usar a IA como uma ferramenta online, em casa e no local de trabalho”.

Saber como a IA generativa funciona e o que procurar é essencial. “Pode parecer clichê, mas reservar um tempo para verificar a procedência e a fonte do conteúdo que você vê nas mídias sociais é um bom começo”, disse Luccioni.

Comece perguntando a si mesmo sobre a fonte da imagem em questão e o contexto em que ela aparece. Quem publicou a imagem? O que o texto que a acompanha (se houver) diz sobre ela? Outras pessoas ou veículos de mídia publicaram a imagem? Como a imagem, ou o texto que a acompanha, faz você se sentir? Se parece que foi criado para enfurecer ou seduzir você, pense no porquê.

Como algumas organizações estão combatendo o problema de deepfakes e desinformação de IA

Como vimos, até agora os métodos pelos quais os indivíduos podem discernir imagens de IA das reais são irregulares e limitados. Para piorar a situação, a disseminação de imagens ilícitas ou prejudiciais geradas por IA é um golpe duplo porque as postagens circulam falsidades, que então geram desconfiança na mídia online. Mas na esteira da IA ​​generativa, várias iniciativas surgiram para reforçar a confiança e a transparência.

A Coalition for Content Provenance and Authenticity (C2PA) foi fundada pela Adobe e Microsoft, e inclui empresas de tecnologia como OpenAI e Google, bem como empresas de mídia como Reuters e BBC. A C2PA fornece clicáveis Credenciais de conteúdo para identificar a procedência das imagens e se elas são geradas por IA. No entanto, cabe aos criadores anexar as Credenciais de Conteúdo a uma imagem.

Por outro lado, o Starling Lab na Universidade de Stanford está trabalhando duro para autenticar imagens reais. O Starling Lab verifica “registros digitais sensíveis, como a documentação de violações de direitos humanos, crimes de guerra e testemunhos de genocídio” e armazena com segurança imagens digitais verificadas em redes descentralizadas para que não possam ser adulteradas. O trabalho do laboratório não é voltado para o usuário, mas sua biblioteca de projetos é um bom recurso para alguém que busca autenticar imagens, digamos, da guerra na Ucrânia ou da transição presidencial de Donald Trump para Joe Biden.

Os especialistas costumam falar sobre imagens de IA no contexto de fraudes e desinformação, mas as imagens de IA não são sempre destinadas a enganar por si só. Imagens de IA às vezes são apenas piadas ou memes removidos de seu contexto original, ou são propaganda preguiçosa. Ou talvez sejam apenas uma forma de expressão criativa com uma nova tecnologia intrigante. Mas para o bem ou para o mal, imagens de IA são um fato da vida agora. E cabe a você detectá-las.

Estamos parafraseando Smokey, o Urso, mas ele entenderia.
Crédito: Mashable / xAI