Gigantes da tecnologia prometem marca d'água e segurança em conteúdos de IA

Representantes de algumas das principais empresas de inteligência artificial (IA) generativa do mercado se reuniram nesta sexta-feira (21) com o governo dos Estados Unidos para discutir questões de segurança no setor.

O encontro na Casa Branca serviu para as companhias alinharem estratégias e se comprometerem a desenvolver ou implementar uma série de medidas que buscam proteger usuários e regulamentar conteúdos criados com essas ferramentas.

Participaram da reunião as seguintes companhias:

• OpenAI, responsável pelo ChatGPT;
• Microsoft, do Bing Chat;
• Amazon, que oferece vários modelos de linguagem via AWS;
• Google, desenvolvedora do Bard;
• Meta, dona do Facebook, WhatsApp e Instagram;
• Anthropic, da IA Claude;
• O estúdio Inflection, do chatbot Pi.

O que as empresas de IA prometeram?

As sete companhias que participaram da reunião na Casa Branca se comprometeram em desenvolver um sistema de identificação que "entrega" se um texto, áudio, vídeo ou foto foi ou não gerado por IA.

Apesar de não ter o funcionamento detalhado até o momento, a ideia é implementar um recurso similar a uma marca d'água para evitar golpes ou deepfakes não autorizados, por exemplo.

• Como saber se a inteligência artificial está sendo usada com ética?

Além disso, as empresas aceitaram focar esforços em proteger a privacidade de usuários a partir da criação de novos recursos de segurança e aumentar os investimentos em pesquisa para que os chatbots não apresentem um viés discriminatório de classe, raça ou gênero — algo já comprovado como existente entre IAs treinadas por materiais criados por humanos.

As empresas devem ainda trazer soluções que implementem IAs em setores de pesquisa, como medicina e mudanças climáticas. Todos os acordos foram realizados voluntariamente pelos envolvidos e, por enquanto, não há um prazo para que sejam implementados nas plataformas.