YouTube exigirá que criadores de conteúdo divulguem quando os vídeos incluírem IA generativa

• Recurso: WhatsApp anuncia bate-papo de voz em grupos com mais de 33 pessoas
• O fim do smartphone? Conheça o Ai Pin, gadget que pode ser preso à roupa e que usa IA para fazer ligações e tirar fotos

A atualização da política, que entrará em vigor em algum momento do próximo ano, pode se aplicar a vídeos que usam ferramentas de IA generativas para retratar realisticamente eventos que nunca aconteceram, ou mostrar pessoas dizendo ou fazendo algo que não fizeram de fato.

"Isso é especialmente importante nos casos em que o conteúdo discute tópicos sensíveis, como eleições, conflitos em andamento e crises de saúde pública, ou funcionários públicos", disseram Jennifer Flannery O'Connor e Emily Moxley, vice-presidentes de gerenciamento de produtos do YouTube, em um post no blog da empresa na terça-feira.

• Entenda: o que é a ‘alucinação’ do ChatGPT e por que a inteligência artificial às vezes 'enlouquece'

Os criadores que optarem repetidamente por não revelar quando publicaram conteúdo sintético poderão estar sujeitos à remoção deste, à suspensão do programa que lhes permite obter receita com anúncios ou a outras penalidades, informou a empresa.

Quando o conteúdo é manipulado ou gerado digitalmente, os criadores devem selecionar uma opção para exibir o novo rótulo de aviso do YouTube no painel de descrição do vídeo. Para determinados tipos de conteúdo sobre tópicos delicados - como eleições, conflitos em andamento e crises de saúde pública - a plataforma exibirá uma marca com mais destaque, no próprio player de vídeo.

• IA x IA: empresas aplicam inteligência artificial contra crimes digitais que usam a mesma tecnologia

A empresa disse que trabalharia com os criadores de conteúdo antes da implementação da política para garantir que eles entendessem as novas exigências, e está desenvolvendo suas próprias ferramentas para detectar quando as regras são violadas.

O YouTube também está se comprometendo a rotular automaticamente o conteúdo que foi gerado usando suas próprias ferramentas de IA para criadores.

O Google - que fabrica ferramentas que podem criar conteúdo de IA generativo e possui plataformas que podem distribuir esse conteúdo em toda parte - está enfrentando novas pressões para implementar a tecnologia de forma responsável.

Na terça-feira, Kent Walker, presidente de assuntos jurídicos da empresa, publicou uma postagem no blog da empresa apresentando a "Agenda de Oportunidades de IA" do Google, um white paper com recomendações de políticas destinadas a ajudar os governos de todo o mundo a pensar nos desenvolvimentos da inteligência artificial.

• Entrevista: A desinformação em plataformas digitais é um problema para a democracia e tende a crescer com uso da IA, alerta executiva

"Responsabilidade e oportunidade são dois lados da mesma moeda", disse Walker em uma entrevista. "É importante que, mesmo quando nos concentrarmos no lado da responsabilidade da narrativa, não percamos o entusiasmo ou o otimismo em relação ao que essa tecnologia poderá fazer pelas pessoas em todo o mundo."

Além das novas divulgações de IA generativa que o YouTube planeja adicionar à plataforma de vídeo, a empresa disse que possibilitará que as pessoas solicitem a remoção de conteúdo sintético ou gerado por IA que simule uma pessoa identificável, usando seu processo de solicitação de privacidade.

Uma opção semelhante será oferecida aos parceiros musicais para que solicitem a remoção de conteúdo musical gerado por IA que imite a voz de um artista cantando ou fazendo rap, disse o YouTube.

A empresa disse ainda que nem todo o conteúdo seria removido automaticamente assim que uma solicitação fosse feita. Em vez disso, ela "consideraria uma variedade de fatores ao avaliar essas solicitações".

Se a solicitação de remoção fizer referência a um vídeo que inclua paródia ou sátira, por exemplo, ou se a pessoa que fez a solicitação não puder ser identificada com exclusividade, o YouTube poderá decidir deixar o conteúdo em sua plataforma.