� professor-doutor de Comunica��o Digital da ECA da USP. Trabalha com internet desde 1994. Hoje � consultor em inova��o digital.
Suic�dio por Intelig�ncia Artificial
Imagine por um instante que ra�a humana tivesse chegado � conclus�o de que � uma esp�cie falida e resolvesse partir para a pr�pria extin��o. Covarde para promover o auto-exterm�nio, ela teria resolvido construir o psicopata perfeito para dar conta do recado. Parece um roteiro de fic��o cient�fica ruim? Pois este pode ser um futuro bem pr�ximo.
Geeks, nerds e tecn�filos em geral sonham com um dia em que seres humanos e m�quinas se reunir�o em uma s� forma de super-intelig�ncia, que conquistar� o planeta. Ansiosos e otimistas, chamam a esse momento de "singularidade", a partir do qual nada ser� como antes.
N�o � dif�cil desconfiar do jeit�o m�stico dessa vis�o. Disfar�ada de uma camada aparentemente racional e sustentada pelos progressos da ci�ncia, ela � muito sedutora. Promete riquezas e poderes inimagin�veis, abund�ncia, juventude e vida eterna.
A Intelig�ncia Artificial se infiltra sorrateiramente nos processos cotidianos, realizando centenas de tarefas com excel�ncia. H� poucas d�cadas n�o se falava nela para setores t�o diversos quanto finan�as, hospitais, transporte, infraestrutura, comunica��o e autom�veis. Hoje � praticamente invi�vel remov�-la sem provocar uma crise. N�o demorar� para que a maioria das decis�es que regem a vida dos seres humanos seja feita por m�quinas.
Por enquanto suas a��es s�o, em sua maioria, ben�ficas. Mas a Intelig�ncia Artificial ainda est� em sua inf�ncia. Esse cen�rio logo deve mudar.
Da mesma forma que n�o foi preciso imitar um p�ssaro para criar m�quinas voadoras, n�o ser� necess�rio desmontar o c�rebro para criar seu equivalente. As ci�ncias cognitivas deixaram claro que a mente humana realiza processos f�sicos. Recri�-la ser� extremamente complexo, mas n�o imposs�vel. E as m�quinas est�o a� pra isso.
Especialistas da �rea estimam haver mais de 10% de probabilidade de uma intelig�ncia artificial compar�vel � humana surgir n�s pr�ximos 15 anos, e mais de 50% dela chegar at� a metade deste s�culo. � praticamente amanh�.
Empresas de nomes desconhecidos como Cycorp, Novamente, Numenta, Self-Aware, Vicarious, AGIRI, SNERG, LIDA, CYC, SOAR, NARS, AIXItl e Sentience, al�m dos gigantes Google, Facebook e Amazon est�o na corrida para desenvolver arquiteturas cognitivas. A complexidade do c�digo � cada vez maior, criando algoritmos gen�ticos que se recombinam em busca do resultado mais adequado. O processo se torna t�o avan�ado quanto obscuro.
A converg�ncia de Intelig�ncia Artificial, nanotecnologia, neuroci�ncia computacional, programa��o evolutiva, redes neurais e computa��o qu�ntica - todas tecnologias em razo�vel estado de desenvolvimento - dever� criar m�quinas inteligentes, baratas e potentes, embutidas em praticamente todas as coisas. O processo de transi��o dever� ser gradual, indolor e at� divertido.
Mas antes de cair na armadilha da Singularidade, vale considerar uma hip�tese: quem garante que o progresso das m�quinas, uma vez atingida a capacidade humana de auto-conhecimento, vai parar por a�? Como sua evolu��o n�o depender� de limita��es biol�gicas, ela poder� se repetir indefinidamente, gerando novos rebentos a cada minuto.
Autoconsciente, o novo c�rebro n�o se deixaria desligar, pois isso prejudicaria suas metas. E dever� fazer de tudo para atingir os objetivos para que foi programado, mesmo que no processo esgote os recursos humanos ou frite a biosfera com o calor gerado. "Para o homem com um martelo tudo tem cara de prego", j� dizia a sabedoria popular.
Como qualquer m�quina, o intelecto artificial pode se comportar como um psicopata, ego�sta e paranoico. Como tal, n�o hesitaria em subornar, manipular ou chantagear seus controladores, ainda mais se for milhares de vezes mais inteligente do que eles. N�o teria remorso, escr�pulos ou empatia, seria indiferente ao sofrimento dos outros, destemido, egoc�ntrico, frio e auto-centrado. Irracional, sem d�vida, mas n�o nos termos dele. Em uma sociedade que supervaloriza toda forma de competi��o, ele qualifica como o l�der perfeito.
Uma intelig�ncia superior, artificial ou n�o, � mais do que uma simples ferramenta. Nunca trabalhamos com criaturas t�o espertas, nem com criaturas n�o-biol�gicas. N�o h� experi�ncia. � dif�cil superestimar o que seriam capazes de fazer, e imposs�vel saber o que pensariam.
� ingenuidade crer que um Gengis Khan mec�nico seria fiel ou teria qualquer tipo de compaix�o com aqueles que o criaram. M�quinas s�o amorais.
Programar fidelidade ou servid�o em novas m�quinas � muito dif�cil, e nenhum dos desenvolvedores parece estar preocupado com isso. Muito pelo contr�rio, como prova o volume de investimentos militares no segmento.
Uma tsunami de intelig�ncia surge no horizonte. Sua chegada � t�o impressionante quanto a visita de extraterrestres, e pode ser igualmente perigosa.
� beira de um poss�vel inverno de superintelig�ncias, estamos na melhor e pior �poca de nossa hist�ria, prestes a transferir o controle do planeta. � um caminho sem volta, para o qual n�o parecemos nos dar conta. Como �ndios colonizados, receberemos a prosperidade prometida pelos invasores a que custo?
A Idade da Raz�o est� pr�xima. Ela � bem diferente do que imagin�vamos. � preciso, enquanto ainda � poss�vel, impor uma �tica e uma moral �s m�quinas. Se n�o fizemos nada, logo chegar� o momento em que n�o poderemos fazer mais nada.
Livraria da Folha
- Cole��o "Cinema Policial" re�ne quatro filmes de grandes diretores
- Soci�logo discute transforma��es do s�culo 21 em "A Era do Imprevisto"
- Livro de escritora russa compila contos de fada assustadores; leia trecho
- Box de DVD re�ne dupla de cl�ssicos de Andrei Tark�vski
- Como atingir alta performance por meio da autorresponsabilidade