Deepfakes: robôs no Telegram criam fotos pornográficas falsas

A empresa Sensity, dedicada à identificação de ameaças visuais na internet, publicou um relatório denunciando a atividade criminosa em canais de Telegram, com robôs capazes de criar falsas imagens pornográficas automaticamente por meio de deepfake. Seus idealizadores conseguem monetizar o esquema pelo próprio aplicativo de conversas e, até então, mais de 100 mil falsos 'nudes' foram criados até julho deste ano.

O estudo aponta que 63% das imagens falsas são de mulheres conhecidas pelos usuários, que podem solicitar sua criação de maneira gratuita com a presença de uma marca d'água, nudez parcial ou pagar uma taxa de U$ 1.38 (cerca de R$ 7,70, em conversão direta) para obter acesso a 100 fotos com nudez total por semana, nos planos mais "básicos". 

Além da compra, os mesmos usuários também possuem o costume de trocar e divulgar as imagens entre outros canais. Ainda nesse contexto, a Sensity afirma que "um número limitado de imagens" aparentava ser de menores de idade, o que ressalta a gravidade do problema.

Gráfico de interesses dos canais investigados no Telegram. (Fonte: The Verge / Reprodução)

Com quase 70% dos usuários oriundos da Rússia e seus países vizinhos, a maioria dos canais com robôs com deepfake automatizado ainda estão em operação no Telegram. A empresa, quando questionada pela Sensity e também pelo The Verge, não ofereceu um posicionamento ou retorno quanto sobre o caso.

Origem

O programa usado para criar as imagens ficou conhecido como 'Deepnude', usando uma variedade da técnica do deepfake dedicada à criação de imagens pornográficas. Seu criador removeu a ferramenta do ar na internet logo após sua publicação, em junho do último ano, por medo do uso indevido por parte dos internautas. Contudo, usuários avançados conseguiram realizar engenharia reversa no software e adaptar o código para os robôs no Telegram — que também conseguem gerenciar automaticamente pagamentos —, entre outras plataformas.