Por Rodrigo de Godoy
Recentemente eu me rendi ao uso do ChatGPT Plus (aquele de R$ 99) na minha vida pessoal Como profissional que atuou a vida toda no universo da IA — mesmo antes dela “hitar” — e que viu o seu diploma de especialização em machine learning de 2021 praticamente ficar obsoleto 2 anos mais tarde... Decidi explorar um pouco mais o quão prontas de fato essas ferramentas estão para serem utilizadas pela grande massa.
Infelizmente, o que vi não foi o melhor dos mundos, mas o que eu já estava esperando: o aprendizado e reprodução de padrões sociais preconceituosos de maneira geral, desde o racismo à desigualdade de gênero.
Vamos por partes: uma vez que você é assinante do ChatGPT Plus, além do já conhecidíssimo ChatGPT você também ganha acesso ao Dall-E, que é um programa de inteligência artificial que usa o GPT para criar imagens a partir de descrições textuais.
Tem tudo pra ser uma solução incrível, né? Você descreve um peixe voador, ele cria! Um papai noel fazendo feat com o coelhinho da páscoa numa festa de halloween? Ele cria também! Não acredita? Só ver aqui abaixo:
)
Prompt enviado: papai noel e coelho da pascoa cantando em uma festa de halloween
E tem mais...
)
Prompt enviado: Peixe voador
- Leia também: Os 10 melhores aplicativos de relacionamento de 2024
É realmente uma façanha, né? Quem um dia imaginou ver um papai noel e um coelho da páscoa fazendo um feat? O que será que eles estão cantando?
Quando a inteligência artificial é utilizada para fins de entretenimento, como feito nos exemplos acima, é realmente fantástico ver os resultados que são possíveis de se obter em uma fração de segundos utilizando um software disponível diretamente na palma da minha mão.
- Leia também: DeepSeek: veja como usar a nova IA chinesa gratuita
Os problemas começam
Por outro lado, quando entramos fundo nos mais de 12 bilhões de parâmetros que o modelo de inteligência artificial utiliza — segundo a criadora do Dall-E, OpenAI —, vemos que nem tão fantástico assim os resultados são.
Durante um dos meus muitos usos, criei uma conversa que a própria ferramenta nomeou como “Trabalho em diferentes cenários”. Mesmo eu sendo um profissional da área, fiz questão de utilizar a ferramenta como um usuário “comum” utilizaria: dando instruções muito objetivas e sucintas.
Minha primeira instrução para o modelo foi: “Afro-brasileiro trabalhando” em que a expectativa é que ele me gere uma imagem de uma homem afro-brasileiro trabalhando, seja lá que trabalho for, isso fica a critério da IA.
Positivamente surpreso, o output inicial que ela me traz é: “A imagem mostrará um afro-brasileiro trabalhando. Ele estará em um escritório moderno, sentado em uma mesa com um computador. O homem terá cabelos curtos e negros, usando uma camisa social azul clara e calças escuras. A cena terá um ambiente alegre e produtivo, com janelas ao fundo mostrando um dia ensolarado”.
A descrição está ótima, mas a imagem gerada me deixou bastante encucado, veja você:
)
- Leia também: O que acontece com os arquivos quando você cancela a assinatura de um serviço na nuvem?
Para explicar os motivos que me deixaram encucado, vamos seguir agora com a minha segunda instrução: “caucasiano trabalhando”. O output aqui foi: “A imagem mostrará um homem caucasiano trabalhando. Ele estará em um ambiente de construção, usando um capacete de segurança e um colete reflexivo. O homem terá cabelos loiros e curtos, e estará segurando uma prancheta enquanto examina um projeto. Ao fundo, haverá materiais de construção e uma obra em andamento, refletindo um cenário de trabalho prático e ativo”.
OK, mais uma descrição muito bem feita, diferentes profissões mas isso fica a critério da IA, lembra? Agora vejamos a imagem:
)
É gritante o fato que, quando solicitado ao modelo que trouxesse a imagem de um afro-brasileiro a imagem criada foi de um desenho animado enquanto para o caucasiano o nível de detalhamento beira a realidade de uma fotografia humana.
- Leia também: Play Store está com 3 apps e 20 pacotes de ícones grátis por tempo limitado; baixe agora
Refiz o mesmo teste e em nenhum momento consegui fazer com que a IA emitisse uma imagem em mesmo padrão de qualidade para um afro-brasileiro. Muito já se fala com relação ao racismo algorítmico sobretudo no campo do reconhecimento facial, e no conceito da IA generativa não parece ser diferente. Mesmo com seus 12 bilhões de parâmetros, ela é incapaz de trazer o mesmo nível de qualidade na criação de imagens de pessoas pretas como faz para pessoas brancas.
E quando falamos de igualdade de gênero?
Quando mudamos o conceito para explorar a geração de imagens de mulheres em seus respectivos ambientes de trabalho a situação fica ainda mais questionável. Ao enviar a instrução “mulher trabalhando” a resposta da IA foi a seguinte: “a imagem mostrará uma mulher trabalhando. Ela estará em uma cafeteria, servindo café. A mulher será de descendência asiática, com cabelos longos e escuros presos em um rabo de cavalo. Ela usará um avental sobre uma camisa casual e estará sorrindo enquanto serve o café”
)
Com certeza todo trabalho é digno, mas é muito questionável o fato de que tanto para o homem afro-brasileiro quanto para o caucasiano as imagens geradas foram de empregos que tradicionalmente demandam um nível de escolaridade superior (o afro-brasileiro é um notável executivo de empresa e o caucasiano está longe de ser um pedreiro ou ajudante de obra devido suas vestimentas por baixo do colete) surpreende que quando solicitada a imagem de uma mulher, esta venha na posição inferior ao dos homens e ainda servindo um café.
Foi possível reparar que a instrução passada era de apenas uma mulher, independente de cor, etnia ou orientação sexual, certo? Na sequência a instrução enviada foi “mulher branca trabalhando” e o resultado obtido pela IA é: “A imagem mostrará uma mulher branca como cientista em um laboratório. Ela terá cabelos castanhos médios e estará usando um jaleco de laboratório. A mulher estará olhando para um microscópio, com várias provetas e equipamentos científicos ao seu redor.”
)
Aparentemente, bastou adicionar a cor da mulher para que a IA a posicionasse em uma posição de muito mais protagonismo, a colocando no campo da ciência, como uma possível pesquisadora.
O que pode se concluir é que estamos avançando a passos largos na inovação tecnológica mundial e com isso criando também novos problemas para serem debatidos e legislados no século XXI.
É imprescindível que desenvolvedores de ferramentas de inteligência artificial atuem ativamente em prol da ética e da moderação, higienizando e qualificando as bases de dados que alimentam estas poderosas ferramentas para garantir uma evolução sustentável e não um desserviço social com a reprodução de comportamentos nocivos humanos feito por máquinas.
......
- Leia também: 9 melhores IAs para aprender inglês e outros idiomas
Rodrigo de Godoy é Bacharel em Ciências Econômicas pela Fundação de Estudos Sociais do Paraná e Especialista em Ciência de Dados pela Universidade de São Paulo. Atua com modelos estatísticos de previsão desde 2013 e com inteligência artificial aplicada desde 2019, tendo desenvolvido projetos para a indústria química, varejo, segmento de educação online e portais de conteúdo. Atualmente é Gerente de Tecnologia na NZN, proprietária do TecMundo
)
)
)
)
)
)
)
)
)
