Quando uma fabricante de joias infantis começou a anunciar no Instagram, ela divulgou fotos de uma menina de 5 anos usando um pingente brilhante para usuários interessados em cuidado parental, crianças, balé e outros tópicos identificados pela Meta como sendo atrativos para mulheres.
Mas quando a comerciante recebeu os resultados automatizados de sua campanha de anúncios do Instagram, o oposto aconteceu: os anúncios foram direcionados quase que exclusivamente para homens adultos.
Perplexa e preocupada, a comerciante entrou em contato com o The New York Times, que nos últimos anos publicou vários artigos sobre o abuso de crianças em plataformas de redes sociais. Em fevereiro, o Times investigou contas do Instagram administradas por pais para suas jovens filhas, e o obscuro submundo de homens que tinham interações de cunho sexual com essas contas.
Com as fotos dos anúncios de joias em mãos, o Times procurou entender por que elas atraíram uma audiência indesejada. Anúncios de teste feitos pelo Times usando as mesmas fotos sem texto não apenas replicaram a experiência da comerciante —eles chamaram a atenção de agressores sexuais condenados e outros homens cujas contas indicavam interesse sexual por crianças.
O Times abriu duas contas no Instagram e promoveu postagens mostrando a menina de 5 anos, com o rosto virado para longe da câmera, usando uma regata e o pingente.
Postagens separadas mostravam as roupas e joias sem a modelo infantil, ou com uma caixa preta ocultando-a. Todos os anúncios pagos foram direcionados a pessoas interessadas em tópicos como infância, dança e cheerleading, que as ferramentas de público da Meta estimavam ser predominantemente mulheres.
Além de atingir uma proporção surpreendentemente grande de homens, os anúncios com crianças receberam respostas diretas de dezenas de usuários do Instagram, incluindo ligações telefônicas de dois acusados de agressão sexual, ofertas de pagamento à criança por atos sexuais e declarações de amor.
Os resultados sugerem que os algoritmos da plataforma desempenham um papel importante em direcionar homens para fotos de crianças. Eles também alertam para a prevalência de homens que usam o Instagram para seguir e contatar menores, incluindo aqueles que foram presos por usar redes sociais para solicitar sexo de crianças.
Na semana passada, o procurador-geral do Novo México (EUA), Raúl Torrez, anunciou a prisão de três homens pegos em uma operação de armadilha tentando marcar encontros sexuais com meninas menores de idade no Facebook. Chamada de "Operação MetaPhile", Torrez disse que os algoritmos da Meta desempenharam um papel fundamental em direcionar esses homens aos perfis "isca" criados pela aplicação da lei.
"Poderíamos criar uma conta disfarçada totalmente nova, apresentada como uma criança naquela plataforma, e provavelmente em questão de minutos, se não dias, essa criança seria inundada com material sexualmente explícito", disse ele, enfatizando o dano do mundo real que pode ser causado por plataformas online.
A investigação do Times em fevereiro descobriu que milhares de contas do Instagram administradas por pais atraíam comentários e mensagens sexualizadas de homens adultos. Enquanto alguns pais descreviam a atenção como uma forma de aumentar os seguidores de suas filhas, outros reclamavam de passar horas bloqueando usuários e diziam não entender como os homens haviam encontrado as contas.
Uma análise dos usuários que interagiram com os anúncios postados pelo Times encontrou uma sobreposição entre esses dois mundos. Cerca de três dezenas dos homens seguiam contas de influenciadores infantis administradas por pais e anteriormente estudadas pelo Times; um seguia 140. Além disso, quase cem dos homens seguiam contas com pornografia adulta, o que é proibido pelas regras do Instagram.
Dani Lever, porta-voz da Meta, rejeitou os testes de anúncios do Times como uma "experiência fabricada" que não levou em conta "os muitos fatores que contribuem para quem vê um anúncio no final das contas", e sugeriu que era "falho e insensato" tirar conclusões a partir de dados limitados.
Ao ser questionado sobre as prisões no Novo México, a Meta disse em um comunicado que "a exploração infantil é um crime horrível e passamos anos desenvolvendo tecnologia para combatê-la". A empresa descreveu seus esforços como "uma luta contínua" contra "criminosos determinados".
'Os homens engajam'
Pesquisadores e ex-funcionários que trabalharam com algoritmos na Meta, que é dona do Instagram e do Facebook, disseram que as ferramentas de classificação de imagens provavelmente mereciam parte da culpa.
As ferramentas comparam novas imagens com as existentes na plataforma e identificam usuários que mostraram interesse nelas anteriormente, disse Dean Eckles, ex-cientista de dados do Facebook que estudou seus algoritmos e agora é professor no Instituto de Tecnologia de Massachusetts.
Contas de teste criadas no ano passado pelo The Wall Street Journal descobriram que o algoritmo de recomendação do Instagram oferecia fotos sexualizadas de crianças e adultos para contas que seguiam apenas jovens ginastas, cheerleaders e outras crianças.
Embora o sistema de anúncios da Meta não seja exatamente o mesmo que o sistema de recomendação, existem "grandes semelhanças entre os modelos", disse Eckles.
Ex-funcionários da Meta familiarizados com seus sistemas de recomendação e entrega de anúncios disseram que as equipes de segurança tentavam identificar anúncios prejudiciais, como aqueles que promovem golpes ou drogas ilegais, mas era mais difícil identificar anúncios inofensivos que eram entregues a públicos inadequados —e potencialmente prejudiciais.
A Meta permite que os anunciantes segmentem determinados públicos por tópico. E, embora o Times tenha escolhido tópicos que a empresa estimava serem dominados por mulheres, os anúncios foram exibidos, em média, para homens cerca de 80% do tempo, de acordo com uma análise do Times dos dados de público do Instagram.
Em um grupo de testes, fotos mostrando a criança foram para homens 95% das vezes, em média, enquanto fotos dos itens sozinhos foram para homens 64% do tempo.
Piotr Sapiezynski, cientista de pesquisa da Universidade Northeastern especializado em testar algoritmos online, disse que os anunciantes competiam entre si para alcançar mulheres, pois elas dominam os gastos dos consumidores nos Estados Unidos. Como resultado, Sapiezynski disse, o algoritmo provavelmente se concentrou em homens altamente interessados e mais fáceis de alcançar que haviam interagido com conteúdo semelhante.
"Os homens engajam", disse ele. "A máquina está fazendo exatamente o que você quer que ela faça."
A Meta, em comunicado, reconheceu o ambiente competitivo de anúncios para telespectadoras femininas e disse que a "baixa qualidade" dos anúncios do Times —de novas contas, com imagens mas sem texto ou explicação— contribuiu para que fossem entregues a mais homens. Além disso, a Meta disse que seus dados de Insights de Público apenas "mostram uma estimativa de quem é potencialmente elegível para ver um anúncio", não um público garantido.
Sapiezynski disse que mesmo que o sistema tenha designado os anúncios de teste como "baixa qualidade", isso não explicava por que aqueles com crianças foram para mais homens do que aqueles sem crianças.
'Oi, querida'
Algumas horas após o primeiro anúncio ser postado, uma das contas de teste do Times recebeu uma mensagem e uma ligação de um homem preso em 2015 em Oklahoma após supostamente usar o Facebook para tentar marcar sexo em grupo com meninas de 12 e 14 anos.
"Oi, querida", escreveu outro homem. Ele foi preso em 2020 após entrar em contato com uma garota de 14 anos no norte de Nova York pelo Snapchat e oferecer-se para ir até sua casa e ter sexo. As acusações contra ele foram retiradas depois que um tribunal o considerou mentalmente incompetente.
Um terceiro homem, no Tennessee, que "curtiu" uma das fotos, tinha quatro condenações por crimes sexuais contra crianças —incluindo "sexo com uma criança" em 1999, compartilhando uma foto no Facebook em 2018 de uma criança de 3 a 5 anos "sendo penetrada anal ou vaginalmente" e usando o Instagram em 2020 para solicitar fotos nuas de uma menina de 12 anos a quem chamava de sua "escrava sexual". (As regras do Instagram proíbem meninas de 12 anos.)
Um quarto homem, que o Times não conseguiu identificar, ofereceu-se para pagar por atos sexuais com a menina na fotografia.
O Times entrou em contato via chat do Instagram com qualquer pessoa que tenha interagido com os anúncios e explicou serem testes do algoritmo da plataforma realizados por jornalistas. O homem em Nova York continuou a enviar mensagens para a garota, perguntando se ela estava em seu quarto e se queria fazer sexo. Ele também tentou ligar para ela várias vezes pelo aplicativo.
No total, o Times identificou quatro agressores sexuais condenados que haviam enviado mensagens para as contas, curtido as fotos ou deixado comentários nelas. Suas contas do Instagram usavam nomes e fotos reais, ou estavam vinculadas a contas do Facebook que usavam. As condenações foram encontradas ao cruzar essas informações com bancos de dados de agressores sexuais e outros registros públicos.
Cinco outros homens, incluindo um que publicou um vídeo no Instagram de uma menina conhecida por ser vítima de abuso sexual infantil, segundo o Centro Canadense de Proteção à Criança, têm antecedentes de prisão envolvendo crimes contra crianças. Os homens cujos registros judiciais o Times conseguiu rever confessaram-se culpados de uma acusação menor ou foram considerados mentalmente incapazes para serem julgados.
As regras do Instagram proíbem que agressores sexuais condenados tenham contas, e o Times usou a ferramenta da Meta para denunciar os homens. As contas permaneceram online por cerca de uma semana até que o Times as sinalizasse para um porta-voz da empresa.
Questionado sobre as contas, Lever disse: "Proibimos que agressores sexuais condenados tenham presença em nossas plataformas e removemos as contas que nos foram relatadas."
Um dos homens, que foi condenado em Nova York por agredir sexualmente uma menina de 4 anos, está sujeito a uma lei estadual —conhecida como E-Stop— que exige que agressores sexuais registrem seu endereço de email. Todas as semanas, o estado compartilha os endereços com empresas de tecnologia, incluindo a Meta.
Lever não abordou como a empresa usa essas informações ou como o homem conseguiu criar uma conta no Instagram.
Alguns dos homens disseram que responderam ao anúncio por preocupação.
Um homem, que está em liberdade condicional após passar 46 anos na prisão na Califórnia por assassinar sua esposa, disse que ficou surpreso ao se deparar com uma menina de 5 anos em seu feed, que predominantemente mostra fotos de adultos escassamente vestidos ou nus.
"Não tenho problema em olhar para mulheres nuas, especialmente depois de 46 anos na prisão", escreveu. Mas, continuou, "minha atitude em relação às pessoas que se envolvem em pornografia infantil ou tocam em uma criança é bem simples: não façam isso."
O envolvimento dos homens com os anúncios não surpreendeu alguns pequenos empresários entrevistados pelo Times. Morgan Koontz, fundadora da Bella & Omi, uma empresa de roupas infantis em West Virginia que se promove nas redes sociais, disse que a empresa recebeu "comentários inapropriados, quase pedófilos, pervertidos" de homens quando começaram a anunciar no Facebook em 2021.
"Isso deixou nós e nossas modelos desconfortáveis", disse ela.
Quando a empresa expandiu para o Instagram, ela e sua sócia, Erica Barrios, decidiram evitar o problema direcionando apenas para mulheres, mesmo que pais e avôs estejam entre seus clientes regulares.
Lindsey Rowse, proprietária da Tightspot Dancewear Center na Pensilvânia, também restringe seus anúncios a mulheres. Quando não excluía os homens, ela disse que eles compunham até 75% de seu público, e poucos compravam seus produtos. Separadamente, ela limita com que frequência compartilha fotos de modelos infantis em suas postagens não publicitárias porque costumam atrair homens, disse ela.
"Não sei como as pessoas encontram isso", disse ela. "Eu adoraria apenas bloquear todos os caras."
Outros proprietários de empresas expressaram confusão semelhante sobre como seus anúncios eram distribuídos. Desde janeiro, a empresa de roupas infantis Young Days, com sede em Utah, viu mais que dobrar a parcela de homens alcançados por seus anúncios sem grandes mudanças em seus critérios de segmentação, segundo Brian Bergman, responsável pelo comércio eletrônico. A mudança em direção aos homens prejudicou as vendas, disse ele, e a empresa desde então se concentrou em alcançar mulheres.
"Não é um negócio lucrativo para nós, mas o algoritmo continua nos direcionando para os homens", disse ele.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.