Brasil já tem registros de deep fake eleitoral antes do início das eleições; entenda

As Eleições 2024 nem iniciaram ainda, mas a polícia já investiga denúncias de fake news eleitorais. No caso, foram utilizadas inteligências artificiais (IA) para criar áudios falsos de políticos que tentarão ser eleitos em outubro.

De acordo com reportagem d’O Globo, as situações aconteceram no Amazonas, Rio Grande do Sul e Sergipe. Dois prefeitos e um deputado federal que participa de uma pré-campanha da mulher que é chefe do executivo local foram as vítimas do deep fake.

As investigações estão sendo conduzidas pela Polícia Federal (PF), que tem pensado os casos como modelo para futuros crimes do mesmo tipo.

• Veja também: CEO da OpenAI acredita que IAs podem interferir em eleições políticas

Softwares de IA já conseguem criar vídeos, áudios e imagens falsas de pessoas reais (Imagem: Debalina Ghosh/Getty Images)

As três situações tiveram modus operandi similar. Após os suspeitos manipularem as vozes das vítimas por meio de softwares com IA, os áudios eram enviados via redes sociais e WhatsApp.

• Veja também: IA que cria voz: como funciona a inteligência artificial da Deep Voice?

Os registros falsificados mostravam os políticos dizendo coisas comprometedoras e que poderiam fazer os eleitores repensarem os votos nas Eleições 2024. Confira, a seguir, cada situação.

As primeiras fake news eleitorais de 2024

Manaus

Uma das fake news eleitorais ocorreu contra David Almeida (Avante), prefeito de Manaus (AM). O áudio falso atribuído a ele dizia o seguinte: “O que mais tem é professor vagabundo que quer o dinheirinho de mão beijada. Eu não paguei o Fundeb, mas o povo esquece, tu vai ver”.

De acordo com Almeida, ele próprio denunciou a história para a PF no final do ano passado. O arquivo de áudio foi espalhado em meio a um contexto de protesto de professores, que estão exigindo pagamento de abono. Segundo o prefeito manauara, o áudio foi compartilhado visando causar indisposição entre ele e os trabalhadores.

• Veja também: Meta irá sinalizar quando anúncios políticos forem gerados por IA

Os agentes federais já ouviram dois suspeitos de realizarem a falsificação digital. Os arquivos foram periciados e a constatação é que houve mesmo manipulação.

Rio Grande do Sul

A outra ação investigada se deu contra o prefeito Crissiumal (RS), Marco Aurélio Nedel (PL). No áudio, o político ofende funcionários e servidores públicos.

“Vou falar do aumento ano que vem (2024) (...) Depois vamos levando na conversa, entendeu? Pessoal com pouco estudo, analfabeto, já ganha demais”, diz trecho da gravação que foi feita digitalmente, de acordo com Nedel.

Uma investigação feita pela Polícia Civil chegou a constatar que áudio feito por IA estava circulando entre vereadores.

Sergipe

O terceiro inquérito investiga o caso do deputado federal Gustinho Ribeiro (Republicanos), que está ajudando a esposa Hilda Ribeiro (SE), prefeita de Lagarto (SE), em sua pré-campanha à reeleição. “Pode arrochar, bote pra f..., eles lá não têm poder nenhum, quem está no poder somos nós”, diz uma voz parecida com a de Ribeiro no áudio falso.

O parlamentar realizou a denúncia para a PF e argumenta que sua voz foi falsificada por IA. Segundo ele, a intenção dos suspeitos é causar desgaste com adversários políticos.

Debates sobre regulamentação da IA

Várias instituições públicas brasileiras debatem iniciativas para regulamentar o uso de inteligência artificial. Em alguns casos, o foco é o uso político das ferramentas.

Neste sentido, no começo do ano, o Tribunal Superior Eleitoral (TSE) divulgou uma minuta propondo algumas regras para o uso de IA durante a campanha eleitoral das Eleições 2024. Dentre as obrigações, quem utilizasse conteúdo produzido por IA seria obrigado a sinalizar as alterações. As ideias propostas pelo TSE serão debatidas ainda neste mês.

O presidente do TSE, ministro Alexandre de Moraes, é um dos proponentes a favor da regulação da IA (Imagem: Arthur Menescal/Getty Images)

• Veja também: Inteligência artificial caminha para regulamentação em todo o mundo

Senado Federal, Câmara dos Deputados e o Governo Federal (por meio de pastas como o Ministério da Justiça e Segurança Pública) debatem soluções para tentar frear o uso criminoso da tecnologia.