Paralisar as pesquisas em inteligência artificial (IA) é impraticável e não atende a demandas urgentes. Esse assunto começou com uma carta publicada pelo instituto Future of Life, assinada por cientistas e figuras públicas como Elon Musk e Yuval Harari, pedindo que o treinamento de modelos de IA mais poderosos do que o GPT-4 —robô capaz de gerar textos sobre diversos assuntos— fosse interrompido por seis meses.
Quando li a carta pela primeira vez, fiquei entusiasmado ao ver a assinatura de alguns acadêmicos que influenciaram minha pesquisa. Até pensei em assiná-la, não só pelos nomes com os quais faria companhia, mas porque o avanço da IA me preocupa. A tecnologia trará consequências imprevisíveis nas dimensões econômica, social, política, cultural e cognitiva.
No entanto, após estudá-la com atenção, mudei de ideia. O conteúdo é superficial e com interesses latentes. A carta fundamenta seus argumentos em riscos hipotéticos ligados ao "longotermismo", corrente de pensamento do Vale do Silício que ignora problemas atuais para se preocupar com cenários de futuros não necessariamente inclusivos.
A carta pergunta se devemos desenvolver mentes não humanas que eventualmente nos superem e coloquem em risco o controle da nossa civilização, um questionamento com importância especulativa, mas não aborda temas imediatos, como algoritmos discriminatórios, anotação de dados com mão de obra barata, coleta global massiva de dados e concentração de poder.
A proposta de pausar o treinamento para conter uma possível IA super-humana desvia o foco do debate global com ênfase em transparência, responsabilidade e regulação. Além disso, seis meses não seriam suficientes nem para iniciar a discussão. É curioso observar que a OpenAI já esperou seis meses antes de liberar acesso ao seu modelo GPT-4, mas ainda assim não divulgou qualquer informação técnica sobre a IA ou os dados utilizados no treinamento.
O problema não está na pesquisa e treinamento de IA em si, mas no seu uso comercial sem transparência e regras. Estamos no berçário dos modelos amplos de linguagem (GPT-4, LaMDA, entre outros) e é fundamental continuarmos com as pesquisas para entender o seu funcionamento, melhorar suas capacidades, reduzir seus erros e aumentar o alinhamento com os interesses da sociedade. Isso demanda pesquisas e treinamentos adicionais, porque não adianta discutir critérios éticos e de segurança sem saber como aplicá-los.
Além disso, pausar o treinamento em IA é impraticável devido à acirrada competição não só entre empresas do Vale do Silício, mas também entre nações. Embora a carta não especifique uma fronteira geográfica, é evidente que há uma carga cultural ocidental em sua essência. A China, por exemplo, tem preocupações, regras e objetivos diferentes.
Em vez de pedir a suspensão, precisamos demandar transparência e responsabilidade das organizações enquanto debatemos orientações e critérios para a liberação dos modelos, com foco em consequências imediatas. A IA tem potencial para criar novos paradigmas sociais, econômicos e afetivos, por isso não podemos deixar que o futuro da humanidade seja desenhado por meia dúzia de empresas.
O que precisamos são regulações que imponham transparência e exijam que as organizações documentem e divulguem, no mínimo, os dados de treinamento e arquitetura de seus modelos. No Brasil, temos outras preocupações adicionais, como a coleta de dados de brasileiros e a concentração de poder nas mãos de poucas empresas do exterior. Nenhuma dessas questões será aprofundada com uma pausa nas pesquisas.
TENDÊNCIAS / DEBATES
Os artigos publicados com assinatura não traduzem a opinião do jornal. Sua publicação obedece ao propósito de estimular o debate dos problemas brasileiros e mundiais e de refletir as diversas tendências do pensamento contemporâneo.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.