Subsecretária da ONU alerta que IA é risco em ano de eleições no mundo: ‘Momento de grande ansiedade’

Fleming veio ao Brasil para participar de evento paralelo do G20 sobre integridade da informação e combate à desinformação, como parte do Grupo de Trabalho de Economia Digital. Essa é a primeira vez que o tema é endereçado dentro do G20. O encontro conta com a presença de representantes de organismos internacionais, como a Unesco e a OCDE, e também de executivos de big techs, como Google e a OpenAI.

— Estamos conclamando os criadores dessas tecnologias de IA para que criem barreiras de segurança — afirmou a subsecretária da ONU. — Estamos preocupados com isso em várias dimensões. Isso se torna mais ainda mais importante com as eleições e com muitas pessoas indo às urnas sem estarem ainda armadas com a capacidade de identificarem o que é real e o que não é.

Em discurso na abertura do encontro, a subsecretária da ONU acrescentou que a organização tem tratado do tema com países membros e reuniões de alto nível e que trata-se de um "desafio conjunto" de sociedade civil e governos. Ela afirmou, ainda, que as plataformas estão sendo encorajadas a colocarem marcas e identificarem conteúdos gerados por IA, além de criarem mecanismos para a rápida retirada de deepfakes do ar.

Uma preocupação adicional das Nações Unidas, segundo ela, é a possibilidade da IA generativa, que cria conteúdo, ajudar na criação de organizações de mídia falsa que são alimentadas por conteúdo sintético. Ela acrescentou que a tentativa de manipular eleitores por meio da informação não é um "fenômeno novo", mas que tem se tornado mais sofisticado e preocupante em "todos os cantos do mundo".

— Agora os agentes de informações podem contar com plataformas de criação de IA que podem gerar deepfakes em áudio e vídeo sem deixar rastros. Elas são muito convincentes e tornam mais difícil para jornalistas e checadores de fatos identificá-los — afirmou Fleming, em coletiva de imprensa.

Além do Brasil, vão às urnas este ano eleitores de países em todos os continentes. Enquanto o mundo acompanha com mais atenção a possível volta ao poder de Donald Trump, nos Estados Unidos, eleitores no Taiwan, Indonésia, Reino Unido, México, África do Sul, Argélia, Mali, República Dominicana e Uruguai, entre outros, irão eleger novos representantes. A estimativa da Bloomberg é que os processos eleitorais afetarão 41% da população global.

No discurso de abertura, a subsecretária acrescentou que as eleições que acontecem este ano são importantes para todas as democracias do mundo e podem "moldar o nosso futuro". Segundo ela, trata-se um momento de "ansiedade" para a organização, que já tem mapeado os efeitos que a desinformação gera para a própria ONU.

— Nós temos eleições no próximo ano que realmente serão importantíssimas para todas as democracias do mundo e que de fato vão moldar o nosso futuro. Tudo isso está acontecendo com a adoção de IA generativa e chats que têm moldado informações, com consequências que ninguém jamais imaginou. É um momento de grande ansiedade. Eu posso dizer que é um momento temeroso.

Na presidência do G20 e do BRICS, e como estado anfitrião da COP 30, que acontece no ano que vem, em Belém, o Brasil espera ter um papel de protagonismo ao endereçar o tema no âmbito internacional. No encontro em São Paulo, o país tem articulado a criação de uma iniciativa global para promover a integridade da informação voltada para as mudanças climáticas em parceria com a ONU e a Unesco e outras organizações internacionais.