Titãs da tecnologia prometem marcas d’água para expor criações de IA

A Casa Branca disse na sexta-feira que a OpenAI e outros na corrida da inteligência artificial se comprometeram a tornar sua tecnologia mais segura com recursos como marcas d’água em imagens fabricadas.

“Esses compromissos, que as empresas escolheram assumir imediatamente, destacam três princípios que devem ser fundamentais para o futuro da IA ​​– segurança, proteção e confiança – e marcam um passo crítico para o desenvolvimento de uma IA responsável”, disse a Casa Branca. disse em um lançamento.

Representantes da Amazon, Anthropic, Google, Inflection, Meta, Microsoft e OpenAI se juntariam ao presidente dos EUA, Joe Biden, na sexta-feira para anunciar os compromissos, que incluem o desenvolvimento de “mecanismos técnicos robustos”, como sistemas de marca d’água para garantir que os usuários saibam quando o conteúdo é gerado por IA, de acordo com um funcionário da Casa Branca.

A preocupação de que imagens ou áudios criados por inteligência artificial sejam usados ​​para fraudes e desinformação aumentou à medida que a tecnologia melhora e a eleição presidencial de 2024 nos EUA se aproxima.

Estão sendo buscadas maneiras de saber quando o áudio ou as imagens foram gerados artificialmente para evitar que as pessoas sejam enganadas por falsificações que parecem ou soam reais.

“Eles estão se comprometendo a estabelecer um regime mais amplo para tornar mais fácil para os consumidores saber se o conteúdo é gerado por IA ou não”, disse o funcionário da Casa Branca.

“Há um trabalho técnico a ser feito, mas o ponto aqui é que ele se aplica ao conteúdo de áudio e vídeo e fará parte de um sistema mais amplo.”

O objetivo é que seja fácil para as pessoas saberem quando o conteúdo online é criado por IA, acrescentou o funcionário.

Os compromissos das empresas incluem testes independentes de sistemas de IA para riscos quando se trata de biossegurança, segurança cibernética ou “efeitos sociais”, de acordo com a Casa Branca.

A Common Sense Media elogiou a Casa Branca por seu “compromisso em estabelecer políticas críticas para regular a tecnologia de IA”, de acordo com o executivo-chefe da organização de revisão e classificação, James Steyer.

“Dito isso, a história indica que muitas empresas de tecnologia não cumprem o compromisso voluntário de agir com responsabilidade e apoiar regulamentações rígidas.”

Biden também está trabalhando em uma ordem executiva destinada a garantir que a IA seja segura e confiável, de acordo com o funcionário da Casa Branca.

Marcas d’água para conteúdo gerado por IA estavam entre os tópicos discutidos pelo comissário da UE, Thierry Breton, com o executivo-chefe da OpenAI, Sam Altman, durante uma visita em junho a São Francisco.

“Ansioso para continuar nossas discussões – principalmente sobre marcas d’água”, escreveu Breton em um tweet que incluía um trecho de vídeo dele e de Altman.

No videoclipe, Altman disse que “adoraria mostrar” o que a OpenAI está fazendo com marcas d’água “muito em breve”.

A Casa Branca disse que também trabalhará com aliados para estabelecer uma estrutura internacional para governar o desenvolvimento e o uso da IA.