PhotoGuard: ferramenta criada por pesquisadores pode proteger as suas fotos de manipulação por IA

Pesquisadores do Massachusetts Institute of Technology (MIT) criaram uma ferramenta para prevenir a manipulação de imagens por inteligência artificial (IA). O PhotoGuard foi apresentado essa semana, durante a Conferência Internacional sobre Machine Learning e funciona como um "escudo invisível". 

Dessa forma, imagens protegidas pelo PhotoGuard ficarão distorcidas caso sejam usadas em IAs generativas. Hadi Salman, pesquisador de doutorado do MIT e participante do desenvolvimento do PhotoGuard, comentou que "qualquer um pode pegar uma nossa imagem, modificá-la como quiser, nos colocar em situações muito ruins e nos chantagear". 

• Leia mais: Photoshop ganha recurso de IA para ampliar e completar imagens

Como funciona o PhotoGuard

PhotoGuard consegue interromper prompts de IAs generativas

A equipe do MIT aplicou duas técnicas diferentes ao PhotGuard para impedir a manipulação de imagens. Em uma delas, o programa adiciona sinais imperceptíveis à imagem para que a Inteligência Artificial a interprete como outra coisa, tornando o resultado pouco convincente.

A segunda técnica envolve interromper o processo de geração de imagens das IAs. Nos testes, a equipe conseguiu fazer o modelo ignorar o prompt e gerar uma outra imagem, na cor cinza. 

• Veja mais: OpenAI descontinua ferramenta do ChatGPT que detectava se um texto era ou não escrito por IA

Ben Zhao, professor de ciência da computação da Universidade de Chicago que desenvolveu um software similar ao PhotoGuard chamado Glaze, disse que o trabalho é "uma boa combinação de uma necessidade tangível de algo com o que pode ser feito agora".