Google testa IA para imagens falsas no Earth e recua em 1 dia

Numa quinta-feira, o Google lançou dentro do Google Earth um recurso que deixava qualquer pessoa gerar imagens de qualquer lugar do planeta. No dia seguinte, depois de uma onda de críticas, a empresa desligou tudo.

Bastou menos de 24 horas para o recurso sair de controle. Gente usou a ferramenta para criar uma usina nuclear falsa no Irã e um avião colidindo contra o prédio One World Trade Center, em Nova York. Também apareceram imagens de pessoas se aglomerando na fronteira dos Estados Unidos com o México, do tipo que pode viralizar entre apoiadores do presidente Donald Trump e reforçar discursos sobre imigração.

O que o Google disse

Depois da repercussão, o Google publicou uma nota oficial dizendo que sabe que as pessoas confiam no Google Earth como uma visão confiável do mundo. A empresa afirmou ter visto profissionais usando o recurso de forma útil, mas também gente compartilhando prints que pareciam violar as políticas da plataforma.

Por isso, tirou a ferramenta do ar enquanto trabalha em travas mais fortes. Segundo a nota, as imagens geradas não apareciam na experiência principal do Google Earth para outros usuários verem, e vinham com marca d’água indicando que eram feitas por IA.

O problema é que marca d’água sozinha resolve pouco. Já existem várias ferramentas de imagem por IA que apagam esse tipo de identificação em segundos, e ainda tem muita gente que acredita que os ataques de 11 de setembro de 2001 foram forjados. Dar a esse tipo de conteúdo o selo do Google Earth não ajuda a combater esse tipo de desinformação.

Um problema que já existia antes da ferramenta

A ideia de forjar cenas de satélite não nasceu com esse recurso. Durante o conflito entre Irã e Israel, imagens falsas de uma suposta base dos Estados Unidos danificada no Bahrein circularam na mídia iraniana, montadas a partir de imagens reais do Google Earth combinadas com IA generativa. Depois, imagens de satélite verdadeiras mostraram que a base tinha sofrido danos de verdade, só que de um jeito bem diferente do que a montagem mostrava.

É esse tipo de caso que preocupa quem verifica notícias e conflitos em lugares de difícil acesso. Se já dava para montar esse tipo de cena com ferramentas soltas, um botão oficial dentro do próprio Google Earth deixa o processo mais rápido e mais difícil de distinguir do real.

A reação nas redes

A crítica foi ampla. O criador da série Gravity Falls, Alex Hirsch, resumiu o clima ao dizer que ninguém queria mais esse tipo de conteúdo espalhado por todo produto de tecnologia, encerrando o comentário com um curto “toque grama, converse com pessoas de verdade”.

Esse tipo de reclamação não é isolada. A onda de lixo de imagens geradas por IA cresce à medida que plataformas grandes tentam empurrar geração de imagem para dentro de produtos que as pessoas usam justamente para buscar informação confiável, não conteúdo inventado.

Por que lançar isso, afinal

O Google não explicou publicamente o que esperava ganhar com o recurso, e não é a primeira vez que um projeto de IA da empresa gera dor de cabeça de confiança e credibilidade, como já mostramos quando a IA do Google se envolveu em um caso de difamação.

Uma hipótese é econômica: manter ação em alta e mostrar avanço em IA interessa às grandes empresas de tecnologia. Mas também há quem aposte que a pressão para colocar IA em tudo enfraquece a posição de trabalhadores de escritório na hora de negociar salário, do mesmo jeito que a automação historicamente afetou o trabalho manual nas linhas de produção.

Enquanto isso, cresce a pressão regulatória para que conteúdo gerado por IA venha identificado com clareza. Na União Europeia, uma lei recente já torna isso obrigatório em parte dos produtos digitais.