IA em eleição gera hiper persuasão

A recente eleição da Índia - de 19 de abril à 1 de junho de 2024, 44 dias de votação em sete fases para eleger 543 membros do Lok Sabha (“Casa do Povo”), 642 milhões de eleitores foram às urnas em um total de 968 milhões de indianos elegíveis para votar - foi a primeira eleição em que a inteligência artificial foi usada de forma generalizada, principalmente os recursos de IA generativa para seduzir o eleitorado. Cobertura in loco da jornalista Patrícia Campos Mello, descreve o uso de IA em, por exemplo, “vídeos em que ‘os candidatos’ respondem diretamente aos eleitores, hologramas que participam de comícios, ‘políticos ressuscitados' para substituir seus filhos menos carismáticos e ligações personalizadas. Além disso, as campanhas se valeram dos grandes modelos de linguagem para analisar quantidades colossais de dados e criar mensagens cada vez mais customizadas para grupos de eleitores”. A IA generativa aperfeiçoa significativamente a eficácia da persuasão, permite que os eleitores interajam com simulacros dos candidatos, o que tem forte apelo emocional; alguns eleitores crêem que estão efetivamente interagindo com o próprio candidato.

• Leia também: Por que existe tanta confusão sobre o que quer dizer inteligência artificial?

A IA generativa representa uma nova fronteira nas estratégias de influenciar crenças, comportamentos e preferências; ela altera a natureza da persuasão, promovendo a hiper persuasão. Não se trata de meramente aprimorar a comunicação, mas de construir versões sintéticas de imagens e vozes quase fidedignas às originais, em geral as distinções são perceptíveis apenas aos especialistas. A persuasão impulsionada pela IA, igualmente, privilegia os candidatos com acesso à tecnologia - financeiramente, o custo de produção é menor do que o custo de peças publicitárias para a televisão, mas a falta de literacia em IA restringe seu uso (talvez no futuro, seja um elemento de democratização).

A capacidade de “persuasão” é fundamental nos negócios, na política e nas relações sociais. A comunicação se conecta umbilicalmente à persuasão - processo pelo qual um ser humano ou grupo de seres humanos altera as crenças de terceiros. Parte da função de vendas e marketing, por exemplo, é persuadir o consumidor a preferir seu produto ou serviço, a estabelecer uma empatia com a sua marca. O propósito das campanhas eleitorais é convencer o eleitor a votar no candidato, sendo inclusive essa a função dos debates políticos: atrair o voto dos eleitores e, simultaneamente, minar as estratégias dos candidatos-adversários.

A persuasão é uma forma de controle, portanto, pertence à esfera da política; as tecnologias persuasivas são tecnologias de poder, quem as controla reforça ou altera crenças e comportamentos. A primeira tecnologia persuasiva foi a retórica de Aristóteles, estruturas para aumentar o poder persuasivo do discurso; a impressão ampliou o alcance e impacto da retórica, ao facilitar a reprodutividade e distribuição de conteúdos. A partir de técnicas de persuasão mais poderosas, o rádio e a televisão introduziram novas dinâmicas na produção e difusão de conteúdos. A internet e a comunicação digital proporcionam canais de influência ainda mais direcionados, logo ainda mais assertivos ao segmentar a audiência e personalizar os conteúdos. Em 1997, em um artigo, Brian Jeffrey Fogg introduziu o termo “captologia” - nova maneira de pensar sobre o comportamento alvo e transformá-lo em uma direção compatível com o “problema" a ser resolvido - para descrever o estudo do “CPT: Computers As Persuasive Technologies”, conceito posteriormente ampliado em seu livro seminal “Persuasive Technology: Using Computers to Change What We Think and Do” (2003). Em 1998, Fogg fundou o “Stanford Behavior Design Lab” com o propósito de gerar insights para desenvolver tecnologias (produtos de computação, websites e software para celulares) aptas a mudar as crenças, os pensamentos e os comportamentos dos indivíduos de maneira previsível. A IA generativa representa um novo patamar nas tecnologias persuasivas, promove a hiper persuasão, com magnitude, acessibilidade, e graus de eficiência inéditos.

Os processos eleitorais, particularmente nos maiores colégios eleitorais, a persuasão personalizada em larga escala habilitada por IA reduz a quantidade de tempo necessária para persuadir um grande número de pessoas, alcança milhões de pessoas simultaneamente, provoca mudança massiva de opinião ou comportamento em curtos períodos de tempo. Esses sistemas, adicionalmente, têm resistência social ilimitada, ou seja, podem interagir com um interlocutor durante longos períodos, e são bons em interagir com pessoas anti-sociais (não ficam exaustos nem magoados), tudo a custos relativamente baixos.

A IA generativa pode criar ilusões e manipular decisões com grau de exatidão inéditos, mensagens hiper persuasivas podem influenciar as escolhas dos eleitores em processos eleitorais (assim como as preferências dos consumidores no domínio da publicidade comercial). As campanhas políticas visam criar “percepção sobre o candidato”, os áudios manipulados por IA são recursos particularmente valiosos em um processo eleitoral, e com a IA generativa, por exemplo, é possível alterar a modulação de voz quase instantaneamente, influenciando a percepção do eleitor (imagina o grau de sedução quando um eleitor desavisado acredita que, entre tantos milhões de possibilidades, o candidato optou por conversar justo com ele?).

Embora um público plenamente educado e continuamente engajado é uma utopia, a literacia em IA parece ser um dos caminhos (o outro é a regulamentação) para enfrentar o poder das tecnologias persuasivas habilitadas por IA. Se o eleitor ao menos souber que existe, por exemplo, a possibilidade de reproduzir a voz de um candidato, esse saber pode deixá-lo mais atento para identificar quando está falando com o candidato ou apenas com um simulacro do candidato (ou pelo menos, incentive a checagem e/ou a crença nas agências de checagem). No semestre de eleições em 5.568 municípios brasileiros, o Brasil precisa de debates públicos e campanhas midiáticas de esclarecimento sobre o uso de IA nas campanhas eleitorais.

*Dora Kaufman é professora do TIDD PUC-SP, pós-doutora COPPE-UFRJ e TIDD PUC-SP, doutora ECA-USP com período na Université Paris - Sorbonne IV. Autora dos livros "A inteligência artificial irá suplantar a inteligência humana?" e "Desmistificando a inteligência artificial".