Como imagens falsas do furacão Milton AI podem ter consequências reais #ÚltimasNotícias #tecnologia

Imagens e vídeos gerados por IA sobre o furacão Milton podem não ser apenas um irritante clickbait. Também podem estar ligados a fraudes e campanhas de desinformação.

Após o furacão de categoria 3 que devastou partes da Flórida, plataformas de mídia social como X, TikTok e Facebook foram inundadas com conteúdo gerado por IA. Algumas imagens e vídeos gerados por IA são mais fáceis de detectar do que outros, como a imagem obviamente divertida de uma garota abraçando um crocodilo em um barco sob uma chuva torrencial.

Tweet pode ter sido excluído

Continue após a publicidade

Outras são mais convincentes, como imagens geradas por IA de uma Disney World inundada que inicialmente enganou muitos – até mesmo sendo compartilhadas por um meio de propaganda russo.

Tweet pode ter sido excluído

O resultado pode ser apenas a disseminação da desinformação, o que já é suficientemente mau, mas o lixo da Internet gerado pela IA também é usado para atrair pessoas para fraudes.

O furacão Milton AI está em toda parte

Neste ponto, muitos viram as imagens falsas das passarelas da Disney World debaixo d’água. Mas uma rápida rolagem no TikTok mostra imagens geradas por IA do furacão Milton causando estragos.

Alguns dos vídeos são rotulados como vídeos gerados por IA com hashtags ou legendas, mas é fácil imaginar como eles poderiam ser compartilhados e explorados por outra pessoa. Karen Panetta, bolsista do IEEE e professora de engenharia elétrica e de computação na Tufts University, descreve como o conteúdo gerado por IA pode ser transformado em arma para incitar o pânico e a confusão. “Menos de 30% do nosso público adulto entende o que a IA pode fazer. Portanto, se você espalhar alguma desinformação para a população em geral com uma manchete assustadora, muitas pessoas entrarão em pânico”, disse Panetta.

Para ser claro, os danos reais causados ​​pelo furacão Milton são devastadoramente reais. Mas quando o conteúdo gerado por IA entra em ação, os usuários questionam a realidade. Isso, por sua vez, pode criar desconfiança e um terreno fértil para teorias de conspiração sobre furacões. Caso em questão, um usuário X afirmou que a filmagem do astronauta da NASA Matthew Dominick era falsa e até sugeriu que Dominick não estava no espaço. Desde então, a filmagem foi verificada como autêntica.

Tweet pode ter sido excluído

Mas para aumentar a confusão, algumas imagens de satélite que alegavam ser do furacão Milton foram desmascaradas por Snopes como sendo legendadas incorretamente ou geradas por IA.

Cuidado com golpes que usam imagens geradas por IA

Além da desinformação e da desinformação após o furacão Milton, os especialistas dizem que devemos estar atentos a fraudes. A Comissão Federal de Comércio emitiu um comunicado de imprensa um dia antes de Milton chegar ao continente alertando os consumidores para ficarem atentos a “aqueles que procuram tirar vantagem de desastres naturais, envolvendo-se em possíveis fraudes ou aumento de preços”.

E, de acordo com Panetta, golpes como instituições de caridade falsas podem se tornar mais persuasivos usando IA generativa. “Em qualquer desastre há sempre algo que acontece onde [scammers] tente criar páginas da web para arrecadação de fundos que não sejam legítimas”, disse Panetta. “O que está acontecendo agora é que, devido ao fácil acesso a imagens geradas por IA, elas estão sendo usadas para adicionar credibilidade e dizer: ‘Olha, não é apenas eu pedindo dinheiro. Veja como isso é horrível.'”

A imagem viral gerada por IA da menina segurando um cachorrinho e chorando após o furacão Helene é um exemplo perfeito de como uma imagem pode tocar o coração e evocar o desejo de doar, mesmo que seja falsa. Embora usuários experientes da Internet possam perceber que é falso, outros podem não saber e essas pessoas são alvos fáceis de golpes.

Algumas das imagens do furacão Milton geradas por IA podem parecer exemplos inócuos de alguma criança ansiosa para mostrar suas habilidades generativas de IA. Mas nem sempre é esse o caso. A falsa sensação de inocência pode ser parte de uma forma de fazer com que as pessoas baixem a guarda. “É toda uma estratégia. Como faço para atrair as pessoas? E então, quando você estiver convencido de que sou legítimo, há uma pergunta aí”, disse Panetta.

“Sempre há dinheiro no final”, acrescentou ela.

Embora desastres naturais como o furacão Milton possam tornar as pessoas excepcionalmente vulneráveis, é ainda mais vital aplicar o pensamento crítico e pensar duas vezes antes de reagir a qualquer coisa online. A FTC afirma que os golpes muitas vezes insistem no pagamento por transferência bancária, cartão-presente, aplicativo de pagamento, criptomoeda ou dinheiro, e recomenda consultar seus recursos sobre como evitar golpes após uma emergência climática.