Programa de TV espanhol 'ressuscita' mortos com inteligência artificial; entenda os riscos

• Mundo: Médico uruguaio morre após tentar atravessar Rio da Prata a nado
• 'Enormes explosões de energia': Estudo do MIT descobre novos 18 buracos negros que devoram estrelas próximas; entenda

O programa havia utilizado inteligência artificial para recriar, a partir de áudios reais, a voz de pessoas mortas. Não apenas reproduziam, algo bastante simples de fazer e que já causou problemas de desinformação pelo uso de deepfakes com a voz de Joe Biden ou do líder trabalhista britânico, Keir Starmer.

Os áudios gerados faziam perguntas que sugestionavam as participantes - "Houve alguma conversa pendente?" — nessa "experiência real", como o programa a rotulou, que mergulhou no horário nobre em um mercado emergente: recriar os falecidos com inteligência artificial (IA). Os psicólogos alertam que isso pode interferir na adaptação natural ao luto e cronificar as fases mais dolorosas.

A morte de alguém próximo é como perder uma parte de si mesmo. É a origem de várias dificuldades no bem-estar emocional, e muitos estariam dispostos a fazer qualquer coisa para aliviar essa sensação avassaladora de perda. Até mesmo conversar cara a cara com esse ente querido, se fosse possível. Parece ficção científica, mas empresas como HereAfter, StoryFile e Replika estão fazendo isso, e não é nada sobrenatural.

A partir de entrevistas e outros conteúdos, criam versões digitais de indivíduos mortos para interagir com os vivos, seja por meio de chat, voz ou vídeo. Na China, esse negócio já está crescendo, com várias empresas declarando terem criado milhares dessas pessoas digitais ou bots fantasmas. Algumas até afirmam que conseguem fazer isso com apenas 30 segundos de gravação audiovisual do morto.

A americana StoryFile entrevista pessoas durante suas vidas por vídeo, fazendo uma série de perguntas sobre experiências-chave, como infância, casamento ou maior desafio, juntamente com outras que o entrevistado decide adicionar. A partir das respostas e com o uso de inteligência artificial, é gerado um vídeo conversacional com o qual filhos, pais, amigos e parentes poderão interagir no futuro. Segundo eles, aproximadamente 5.000 pessoas já criaram perfis na plataforma. O custo do serviço varia de 40 a 450 euros (de R$ 214 a R$ 2,4 mil, aproximadamente), dependendo do número de perguntas desejadas. Também oferecem um teste gratuito.

Stephen Smith, cofundador da StoryFile, explica que a empresa foi fundada há uma década com o objetivo de preservar a memória dos sobreviventes do Holocausto. No entanto, foi apenas no final de 2021 que a plataforma se tornou o que é hoje, permitindo que qualquer pessoa grave vídeos com uma webcam de sua casa ou em um estúdio.

O cofundador destaca que a plataforma não inventa conteúdo, mas sim "recupera algo que foi pré-gravado", algo que já existe. No entanto, é possível ir além e adicionar informações a partir de outros formatos.

— Fizemos isso usando a metodologia conversacional de arquivos. Isso significa usar conteúdo da vida da pessoa, como um vídeo onde podemos clonar a voz e depois fazer com que ela diga coisas que disse em sua vida. Por exemplo, você poderia usar um e-mail e depois fazer com que ela o leia. Se alguém quiser que isso aconteça, é possível —, diz ele ao EL PAÍS por videoconferência.

Talvez o elemento mais perturbador seja que algumas pessoas possam se tornar dependentes ou até mesmo viciadas em conversar com avatares virtuais, porque geram uma falsa sensação de proximidade com os mortos, como mostrado no programa da televisão espanhola. As mulheres que participaram falavam diretamente com a voz - "eu te diria...", "sinto sua falta" - como se essa recreação sintética fosse sua avó falecida um ano antes.

— Num primeiro momento, há alívio. Mas depois surge um vício, uma dependência. Se a IA reproduz literalmente como a pessoa era, há um grande perigo de cronificação, especialmente em vínculos muito intensos. É fácil entrar na fantasia de que a pessoa não morreu. Isso pode levar à estagnação na fase de negação —, adverte José González, psicólogo especialista em processos de luto.

O especialista, que trabalhou com mais de 20 mil pessoas enlutadas ao longo de 25 anos, concorda que os vídeos conversacionais podem ser úteis para manter vivas algumas lembranças, contar histórias ou transmitir informações entre gerações com emoção. Também pode ser útil replicar algumas técnicas usadas em consultas para resolver questões pendentes que não puderam ser resolvidas verbalmente.

— Faço perguntas sobre o vínculo com a pessoa falecida, por exemplo, 'o que mais gostava em você' ou 'quando me decepcionou mais'. Com essas respostas, o enlutado escreve uma carta e a lê para uma cadeira vazia.

Segundo ele, a IA poderia ser aplicada a dinâmicas como essa, de forma pontual, desde que seja supervisionada por um profissional.

González destaca também o risco associado ao que é expresso nessas gravações. As mensagens de despedida podem ser muito poderosas e ajudar a aliviar o sofrimento, pois é o momento em que a pessoa diz aos familiares o quanto os ama, os liberta da culpa e torna o luto mais suportável. No entanto, se não contar com a supervisão de um especialista, mesmo com as melhores intenções, pode causar um efeito adverso.

— Imagine que sou pai de uma filha única e digo a ela: 'Deixo como objetivo de vida que cuide muito bem de sua mãe'. Pode ser muito bonito, mas também pode ser uma sentença se a mãe estiver extremamente doente.

É nesse momento que um profissional recomendaria ao pai falar de uma maneira diferente para evitar a criação de uma carga emocional. E se não houver supervisão alguma, a probabilidade de mal-entendidos aumenta.

Até que ponto um avatar pode ser fiel? A quem pertence? Que tipo de dados podem ser usados para sua criação? Essas são apenas algumas das questões que surgem em torno deste tema. Para Gry Hasselbalch, especialista em ética do Conselho Europeu de Pesquisa, as implicações se estendem a uma esfera existencial:

— Toda tecnologia baseada no fato ou na ideia de que pode competir com os humanos levanta a questão do que significa ser humano, quais são nossos limites e se é possível usá-la para ultrapassar um limite.

Hasselbalch, também cofundadora do think tank dinamarquês DataEthics.eu, acredita que a proliferação de avatares de mortos representa um dilema que vai além de dados, consentimento ou direitos autorais.

— Isso poderia mudar a identidade da humanidade e do ser humano, porque questiona a própria ideia de mortalidade.

Entre vários problemas potenciais, a especialista em ética de IA destaca a possibilidade de uma ferramenta que não apenas colete o conteúdo das redes sociais, e-mails e mensagens de celular de uma pessoa falecida, mas também seus padrões de busca na internet. Isso poderia revelar hobbies ou interesses desconhecidos da pessoa, desde uma paixão por um animal ou um esporte até, no pior dos casos, um segredo obscuro.

Se a inteligência artificial combinar essas informações com outros elementos que constituem a identidade da pessoa, mas der mais destaque a certos aspectos, pode resultar na criação de um avatar ou robô que pouco ou nada se assemelhe à pessoa na vida real. Isso é um cenário em que "se perde o controle", alerta. E não é o único.

— Quão facilmente você poderia ser manipulado se um ente querido que você sente falta disser para votar de uma certa maneira ou comprar coisas específicas? Não sabemos que empresas surgirão por trás disso.

Um dos clientes da StoryFile foi o falecido Sam Walton, fundador do gigantesco Walmart.

— Trabalhamos com o arquivo de sua empresa. Revisamos muitas horas de material, transcrevemos seus discursos, seus vídeos e criamos 2,5 mil respostas a perguntas que ele havia respondido durante sua vida com exatamente as mesmas palavras que usou.

O resultado foi uma recriação digital que tem o rosto, a voz e um holograma do tamanho real de Walton. Pode ser muito realista?

— As pessoas que conheceram Sam ficam com os olhos marejados pela realidade que é —, assegura Alan Dranow, executivo desta empresa.

A família do empresário havia dado consentimento para essa produção, mas outros famosos tiveram seus rostos e palavras recriados por IA sem um acordo mútuo.

É o caso do comediante americano George Carlin, que morreu em 2008, e cuja voz e estilo foram clonados para a criação do podcast "George Carlin: Estou Feliz por Estar Morto", publicado no YouTube no início de janeiro.

Na semana passada, uma ação foi apresentada no tribunal federal de Los Angeles solicitando que a Dudesy, a empresa por trás disso, retire imediatamente o especial de áudio. Sua filha, Kelly Carlin, já havia criticado a produção, na qual uma voz sintética do artista comenta episódios atuais.

"Meu pai passou toda uma vida aperfeiçoando sua arte a partir de sua humanidade, cérebro e imaginação. Nenhuma máquina jamais substituirá seu gênio. Esses produtos gerados por IA são tentativas inteligentes de recriar uma mente que nunca mais existirá. Deixem que o trabalho do artista fale por si mesmo", disse ela na plataforma X, antigo Twitter.

Segundo a StoryFile, o serviço que integra o que há de mais avançado nesta tecnologia é direcionado apenas a um grupo seleto.

— Não o oferecemos como um produto em nosso site neste momento, mas para clientes privados. Não queremos que nossa tecnologia seja usada para criar um deepfake de outra pessoa —, esclarece Smith.

No entanto, existem alternativas que o fazem. A empresa HeyGen, por exemplo, permite gerar vídeos com clonagem de voz, sincronização de lábios e estilos de fala. Se não for observado com muito cuidado, é quase imposs��vel notar que se trata de uma criação artificial. Embora a plataforma se apresente como uma solução para personalizar e traduzir conteúdo no mundo corporativo, na prática pode ser usada para qualquer finalidade desse tipo: se despedir de um ente querido ou usá-la para gerar dinheiro.