Europa quer escanear apps de chat para combater abuso infantil

A Comissão Europeia iniciou um novo debate interno que pode resultar na criação de uma legislação para combater o compartilhamento de materiais de abuso infantil e tentativas de assédio contra crianças.

A lei, caso aprovada, obrigaria provedores de serviços a "detectar, reportar e remover" materiais de abuso infantil de seus serviços, além de garantir mecanismos robustos de prevenção ao espalhamento desses conteúdos. A medida envolve especialmente aplicativos de bate-papo, como o WhatsApp e o Messenger do Facebook.

Segundo o site The Verge, as obrigações foram mal recebidas por diversos setores especializados em privacidade e direitos digitais. Afinal, a lei faria com que as desenvolvedoras das plataformas escaneassem mensagens de usuários selecionados para buscar os materiais impróprios usando ferramentas de inteligência artificial e detecção de padrões visuais — o que poderia até quebrar cláusulas em vigor e prejudicar o oferecimento de criptografia de ponta-a-ponta nesses apps.

A Apple já tentou (e não conseguiu)

Essa proposta é muito similar em ideia ao que foi proposto pela Apple em 2021: analisar fotos do iCoud a partir de um escaneamento automático para identificar o compartilhamento de abuso infantil. 

A técnica de imagens, entretanto, foi recebida de forma controversa por possibilidade de gerar falsos positivos e ser utilizado de forma errada por governos e empresas — como para escanear outros dados e até espionar usuários. Pressionada, a empresa adiou o lançamento da tecnologia para refiná-la.

O projeto será debatido no Parlamento Europeu antes de novas conversas.