Como e por que os corpos femininos se tornaram alvo (mais uma vez) das novas tecnologias?

Semanas depois, mais de 20 meninas foram vítimas de algo parecido. Alunos do 7o ao 9o anos do Colégio Santo Agostinho, na Barra da Tijuca, também no Rio de Janeiro, usaram inteligência artificial para remover as roupas de fotos de colegas, que foram disparadas em grupos em redes sociais. A Delegacia de Proteção à Criança e ao Adolescente (DPCA) investiga o caso.

A inteligência artificial já está entre nós, e isso é um fato, e seus perigos também – sobretudo para as mulheres. As razões são diversas: de uma sociedade que ainda encara o corpo da mulher como um objeto a uma área misógina e ocupada principalmente por homens.

Hoje, a tecnologia é pensada e criada majoritariamente por um perfil muito específico: homens, brancos, héteros e cis. O primeiro problema está aí. "Esse universo masculino heteronormativo faz com que os algoritmos sejam propostos a partir de um único perfil, um tipo de experiência", afirma Olívia Merquior, especialista em cultura e tecnologia, sócia da gestora Iara e idealizadora da BRIFW. Assim, grandes corporações de tecnologia não possuem o viés feminino em sua essência.

Outra problemática está em como a distribuição dessa tecnologia é descentralizada e descontrolada. "Existe um campo paralelo onde ela é distribuída em que não é possível rastrear as informações. Não se sabe quem criou, mas se sabe que é algo lucrativo: porque é feito por homens, para ter resultados que interessam a homens e divulgados em lugares de presença masculina", pontua Olívia. Exemplo disso é o aplicativo Discord, alvo de muitas polêmicas.

Para a especialista, a tecnologia nada mais faz do que amplificar as atitudes diárias de uma sociedade. "Mais do que culpar a IA, precisamos entender que até hoje o corpo feminino continua sendo visto como um objeto, e que pode ser brincado. Assim como os meninos acham que é uma brincadeira adulterar as fotos de colegas de classe. Ou assim como você entra em filmes pornôs e a maioria das mulheres está sendo subjugada. Existe uma dor social maior para ser pensada", pontua Olívia.

E se as mulheres são as mais afetadas por adulteração de imagens, no "mundo real" elas também são as maiores vítimas por disseminação de imagens íntimas sem autorização. "Por conta de todas as moralidades envolvendo a nudez, a sexualidade e as noções de pudor e castidade que ainda operam sobre as mulheres, é muito mais frequente a disseminação das imagens de mulheres", acrescenta Mariana Valente, professora de direito na Universidade de St. Gallen, na Suíça, diretora do Internetlab e autora do livro Misoginia na Internet (2023, Ed. Fósforo).

Mariana realizou um estudo que mostrou que mais de 90% dos casos envolvendo imagens íntimas não autorizadas no judiciário tinham a ver com mulheres. "E o impacto em suas vidas por conta das noções de moralidade que prevalecem na sociedade é infinitamente maior", afirma a professora.

E por que a inteligência artificial é tão desenvolvida e explorada para disseminar imagens de corpos femininos? A resposta está em uma outra indústria, agora a pornográfica. "Ela é uma das mais lucrativas no nosso ecossistema geral de tecnologia e de entretenimento", diz Olívia.

"O mercado pornográfico absorve as tecnologias de uma maneira muito rápida. Não é surpresa todo o universo da deep fake que temos observado, não apenas no Brasil, como também no exterior, onde existem sites em que você pode escolher com quem quer transar, de Ariana Grande a Britney Spears”, explica Olívia. Esse processo misógino que acomete celebridades nacionais já vem acontecendo no exterior há um tempo.

Temos algo em comum entre tudo isso: o alvo."Será que se o mesmo tivesse sido feito por meninas com corpos masculinos, eles teriam a mesma vergonha que elas tiveram? Será que se fosse um vídeo deep fake com um ator masculino, seria tão vexatório? Existe um lugar em que se coloca a mulher como um alvo de moral e de vergonha, e que tem a ver com a questão de gênero", reflete Olívia. "A própria realização do ato, que é uma violência de gênero, tem a ver também em como se estruturam esses tipos de violência sexual na sociedade", concorda Mariana.

"Precisamos implementar a lei, sim, mas já trazer outros problemas de disseminação dessas informações. Atualmente, as ferramentas de tecnologia, principalmente de inteligência artificial, estão democratizadas e à mão de quem queira ter acesso, mas pouco se tem consciência sobre ela – do que pode ser feito e de quem pode ser responsabilizado", diz Olívia. Daí, a necessidade de uma discussão ampla para entender o impacto dela na nossa sociedade.

Uma das maiores preocupações, nesse caso, é que não há como se precaver dessa violência. "Isso mostra uma faceta muito perversa do uso da tecnologia para a perpetuação dessas hierarquias de gênero que existem na sociedade e da misoginia", afirma Mariana. Entretanto, adulterar imagens já está previsto como crime no Código Penal. No artigo 216-B, da Lei no 13.772, de 2018, está prevista detenção de 6 meses a 1 ano, e multa para quem "realiza montagem em fotografia, vídeo, áudio ou qualquer outro registro com o fim de incluir pessoa em cena de nudez ou ato sexual ou libidinoso de caráter íntimo".

Para Mariana, a questão agora é pensar na regulamentação dessas tecnologias e no papel dos intermediários. "Entender em quais redes sociais e buscadores as imagens circulam, regulamentar essas plataformas e pensar em programas preventivos de reparação para as mulheres que passam por isso", reforça a professora.

"Para mim, a tecnologia não pode ser pensada como binária, como algo do bem ou do mal. Bill Buxton, criador da tela touch, diz que toda entrada de uma nova tecnologia na sociedade cria impactos positivos e negativos. A gente só consegue entender o poder de uma tecnologia depois que ela é treinada em grande massa. O que podemos fazer, então, é vigiar se ela está criando mais problemas do que soluções", ressalta Olívia. A solução nesse momento é a conscientização. É falar sobre a IA para que todos entendam como ela está sendo difundida e, principalmente, como ela é gerada estruturalmente.

A denúncia deve ser feita através de um boletim de ocorrência físico em delegacias de crimes cibernéticos, que costumam ter maior capacidade de investigação. Caso o crime tenha sido cometido por um parceiro (antigo ou atual), é possível registrar um BO de forma online por caracterizar violência doméstica. “Quando falamos de crimes de misoginia na internet, a Polícia Federal também tem atribuição de investigar, por conta da Lei 13.642/18, conhecida como Lola, sancionada em 2018”, ressalta a advogada.

+ Violência doméstica: saiba como buscar ajuda e denunciar o caso

Mariana também alerta para a importância de denunciar nos mecanismos de buscas e redes sociais. “De acordo com o Artigo 21 do Marco Civil da Internet, os promovedores são responsabilizados ao não remover imagens de nudez não consentida depois da notificação da vítima. Em alguns aplicativos de mensagem, também é possível reportar um grupo que esteja sendo usado para veicular esse tipo de imagem, ainda que com limitações”, explica a advogada.

E, sempre que possível, tenha o auxílio de uma advogada especializada e o apoio de uma rede confiável e amiga, como familiares e amigas.