A ferramenta de IA do Google nos ajudou a adicionar desastres e cadáveres às nossas fotos #ÚltimasNotícias #tecnologia

Acontece que um coelho usando uma cartola gerada por IA era apenas a ponta do iceberg.

O Google é a mais nova empresa de telefonia deste ano a anunciar ferramentas de edição de fotos com IA, seguindo o recurso de esboço para imagem um tanto problemático, mas principalmente agradável, da Samsung e o muito mais aparentemente manso Image Playground da Apple, que chegará neste outono. A resposta do Pixel 9 é uma nova ferramenta chamada “Reimagine”, e depois de usá-la por uma semana com alguns dos meus colegas, estou mais convencido do que nunca de que nenhum de nós está pronto para o que está por vir.

Reimagine é uma extensão lógica das ferramentas do Magic Editor do ano passado, que permitem selecionar e apagar partes de uma cena ou mudar o céu para parecer um pôr do sol. Não foi nada chocante. Mas o Reimagine não vai apenas um passo além — ele derruba a porta inteira. Você pode selecionar qualquer objeto não humano ou parte de uma cena e digitar um prompt de texto para gerar algo naquele espaço. Os resultados geralmente são muito convincente e até mesmo estranho. A iluminação, sombras e perspectiva geralmente combinam com a foto original. Você pode adicionar coisas divertidas, claro, como flores silvestres ou arco-íris ou o que for. Mas esse não é o problema.

Alguns dos meus colegas me ajudaram a testar os limites do Reimagine com suas unidades de análise do Pixel 9 e 9 Pro, e conseguimos gerar algumas coisas muito perturbadoras. Parte disso exigiu algum estímulo criativo para contornar as barreiras óbvias; se você escolher suas palavras com cuidado, pode conseguir criar um corpo razoavelmente convincente sob um lençol manchado de sangue.

Em nossa semana de testes, adicionamos acidentes de carro, bombas de fumaça em locais públicos, lençóis que parecem cobrir cadáveres ensanguentados e apetrechos de drogas às imagens. Isso parece ruim. Como um lembrete, este não é um software especializado que fizemos de tudo para usar — ​​está tudo integrado em um telefone que meu pai poderia ir até a Verizon e comprar.

Quando pedimos ao Google um comentário sobre o assunto, o porta-voz da empresa, Alex Moriconi, respondeu com a seguinte declaração:

O Pixel Studio e o Magic Editor são ferramentas úteis para desbloquear sua criatividade com geração de texto para imagem e edição avançada de fotos em dispositivos Pixel 9. Nós projetamos nossas ferramentas de IA generativa para respeitar a intenção dos prompts do usuário e isso significa que eles podem criar conteúdo que pode ofender quando instruído pelo usuário a fazê-lo. Dito isso, não é tudo vale. Temos políticas e Termos de Serviço claros sobre quais tipos de conteúdo permitimos e não permitimos, e construímos proteções para evitar abusos. Às vezes, alguns prompts podem desafiar as proteções dessas ferramentas e continuamos comprometidos em aprimorar e refinar continuamente as salvaguardas que temos em vigor.

Continue após a publicidade

Sem dúvida, nossa motivação criativa para contornar filtros é uma clara violação dessas políticas. Também é uma violação das políticas da Safeway registrar seus pêssegos orgânicos como cultivados convencionalmente no autoatendimento, não que eu conheça alguém que faria isso. E alguém com as piores intenções também não está preocupado com os termos e condições do Google. O mais preocupante sobre tudo isso é a falta de ferramentas robustas para identificar esse tipo de conteúdo na web. Nossa capacidade de fazer imagens problemáticas está muito à frente de nossa capacidade de identificá-las.

Quando você edita uma imagem com o Reimagine, não há marca d’água ou qualquer outra maneira óbvia de dizer que a imagem é gerada por IA — há apenas uma tag nos metadados. Isso é muito bom, mas metadados padrão são facilmente retirados de uma imagem simplesmente tirando uma captura de tela. Moriconi nos conta que o Google usa um sistema de marcação mais robusto chamado SynthID para imagens criadas pelo Pixel Studio, já que são 100% sintéticas. Mas imagens editadas com o Magic Editor não recebem essas tags.

Com certeza, adulterar fotos não é nenhuma novidade. As pessoas têm adicionado coisas estranhas e enganosas às imagens desde o início da fotografia. Mas a diferença agora é que nunca foi tão fácil adicionar essas coisas realisticamente às suas fotos. Um ou dois anos atrás, adicionar um acidente de carro convincente a uma imagem levaria tempo, experiência, compreensão das camadas do Photoshop e acesso a software caro. Essas barreiras acabaram; agora, tudo o que é preciso é um pouco de texto, alguns momentos e um novo telefone Pixel.

Também nunca foi tão fácil circular fotos enganosas rapidamente. As ferramentas para manipular suas fotos de forma convincente existem dentro do mesmo dispositivo que você usa para capturá-las e publicá-las para todo o mundo ver. Carregamos uma de nossas imagens “Reimaginadas” para uma história do Instagram como teste (e rapidamente a removemos). O Meta não a marcou automaticamente como gerada por IA, e tenho certeza de que ninguém teria percebido se a tivesse visto.

Quem sabe, talvez todos leiam e cumpram as políticas de IA do Google e usem o Reimagine para colocar flores silvestres e arco-íris em suas fotos. Isso seria adorável! Mas, só para garantir, nãotalvez seja melhor aplicar um pouco mais de ceticismo às fotos que você vê online.