Cresce o uso de IA por criminosos sexuais que usam a tecnologia para criar novas imagens das vítimas

Pelas conversas, ficou claro que algumas crianças são consideradas "estrelas" pelos criminosos. "As comunidades que circulam esse material ficam obcecadas por certas crianças e querem mais conteúdo. Agora, a IA permite que eles façam isso", afirmou Sarah Gardner, CEO da ONG americana Heat Initiative.

Uma das preocupações das ONGs é a nova exposição sofrida pelos sobreviventes, já que muitas das "crianças" das imagens agora são adultos. A manipulação de fotos antigas pode fazer com que revivam o trauma. E ainda que tenham sua vida e carreira ameaçadas, caso as novas imagens venham a circular na internet.

A troca de mensagens entre predadores sexuais costuma acontecer na dark web, em navegadores anônimos e não rastreáveis, o que dificulta a atuação de especialistas em segurança digital e policiais.

Em entrevista, Megan, que foi vítima de um crime sexual há mais de 10 anos, disse que o crescimento de imagens manipuladas por IA se tornou motivo de estresse para ela no último ano. "A IA dá aos abusadores a oportunidade de criar ainda mais cenas para alimentar suas fantasias", disse ela. "A maneira como minhas imagens podem ser manipuladas com IA é perturbadora."

O Guardian teve acesso ao conteúdo de alguns dos fóruns em que a possibilidade é discutida. Muitos disseram estar "entusiasmados" com a ideia, enquanto outros não se interessaram porque as novas imagens "não retratam abusos reais".

Assim como no restante do mundo, o uso de IA entre predadores sexuais se popularizou no fim de 2022, após a estreia do ChatGPT. No mesmo ano, uma ONG criou o banco de dados LAION-5B, com mais de 5 bilhões de imagens, sendo que milhares delas eram de vítimas de abuso. O que a organização nãon sabia é que, com a ajuda da IA generativa, crimonosos digitais poderiam ter acesso ao material.