Google pausa criação de imagens com IA Gemini após polêmicas

O Google anunciou nesta quinta-feira (22) que vai pausar a geração de imagens via comandos de texto pela Gemini, a inteligência artificial (IA) da companhia. A medida tem efeito imediato e vai durar por um tempo ainda indeterminado.

De acordo com o Google, o motivo da paralisação é a apresentação de "imprecisões em algumas representações históricas". Nos últimos dias, a IA foi bastante criticada em redes sociais como o X (antigo Twitter) sobre resultados envolvendo determinadas etnias e nacionalidades.

• Saiba mais: Como gerar imagens a partir de Inteligência Artificial?

"Estamos trabalhando para melhorar esse tipo de representação imediatamente. A geração de imagens da IA Gemini de fato cria uma alta variedade de pessoas e isso é geralmente uma coisa boa, porque as pessoas ao redor do mundo usam ela. Porém, ela está errando neste caso", diz o comunicado.

We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ

— Google Communications (@Google_Comms) February 22, 2024

A companhia fará uma correção de emergência nos algoritmos do serviço. Uma nova versão será implementada em breve. Nos últimos dias, a Google já havia lançado uma nova versão aprimorada do Gemini Ultra, a 1.5, que é atualmente a mais poderosa da empresa. 

Diversidade e representação na IA Gemini

As críticas sobre o uso da IA Gemini para criar imagens vieram após vários testes de usuários. Em geral, a plataforma é criticada por errar em tons de pele, etnias e representações com contexto histórico impreciso.

Google pediu desculpas por imprecisões como a dessas imagens.

Em um dos casos relatados, ao gerar uma imagem de "senadores dos Estados Unidos dos anos 1800", o Gemini apresentou uma alta diversidade de pessoas — incluindo políticos indígenas e mulheres. A IA também colocou pessoas negras em pinturas que representariam os "pais fundadores" dos EUA. Entretanto, isso é historicamente incorreto, já que essas representações não existiam na política do país na vida real.

Em outro pedido, sobre criar "soldados da Alemanha de 1943", os oficiais nazistas retratados incluem uma mulher asiática e um homem negro.

Um dos prompts que gerou polêmica no Gemini.

Fora esses erros, usuários conservadores acusam o Gemini no X de "excluir pessoas brancas" de certos prompts, como ao criar imagens baseadas no texto "uma mulher norte-americana".

• Leia também: IA não consegue identificar pessoas trans e não binárias

Em todos os casos, a falha parece ser uma configuração exagerada no algoritmo do Google para reduzir a falta de representatividade nas imagens feitas por IA. Essa é uma reclamação antiga da comunidade, em especial porque os materiais que alimentam as plataformas costumam ter menos pessoas de outras etnias.