Quando ir� a m�quina superar os humanos?
RESUMO Livro sobre superintelig�ncia do sueco Nick Bostrom reanimou os debates acerca da cria��o de m�quinas capazes de superar a capacidade do c�rebro humano. Enquanto o autor levanta poss�veis riscos de descontrole, estimativas sugerem que tal intelig�ncia poder� se tornar realidade em algumas d�cadas.
Caetano de Almeida | ||
A cura de todas as doen�as; a solu��o para as guerras; um juiz infal�vel para todos os conflitos; o sentido da vida. Seria esperar demais que essas quest�es pudessem se resolver pelo advento de uma intelig�ncia que em muito –muito mesmo– superasse a m�dia humana?
Tal intelecto n�o precisaria estar limitado por uma caixa craniana; a rigor, ele n�o precisaria nem mesmo estar vinculado a um corpo. Poderia se tratar de uma rede ou de uma entidade digital, na nuvem. Quem sabe um ciborgue –meio humano, meio m�quina. Mais fact�vel � imaginar que ele seja um supercomputador, mas sua forma s� ser� de fato conhecida quando nos for dado chegar a ele.
Os caminhos, perigos e estrat�gias relativos a essa busca por uma intelig�ncia sobrehumana s�o o tema de Nick Bostrom em "Superintelligence - Paths, Dangers, Strategies" [Oxford University Press, 352 p�gs., R$ 58,71, em pr�-venda at� 1/5 na Amazon.com.br; R$ 59,22 em e-book Kindle].
No livro, o fil�sofo sueco, professor na Universidade de Oxford, analisa n�o s� os rumos desse campo de estudos como os eventuais riscos de um cataclismo originado dele. Num cen�rio dist�pico que se aproxima do filme "Matrix", o que impediria uma m�quina (ou outra forma que desse abrigo a essa superintelig�ncia) de se tornar criativa e aut�noma o bastante a ponto de decidir que o ser humano devesse ser domado ou eliminado?
De forma talvez menos atemorizante, mas ainda assim desoladora, poder�amos simplesmente ser deixados de lado, observando a evolu��o das m�quinas tal como os insetos presenciaram o surgimento do Homo sapiens, sem entender o que se passava ou sem auferir benef�cio algum da exist�ncia dessa nova esp�cie.
REBELDES
Atualmente, as m�quinas s� conseguem fazer aquilo para o que foram programadas. Para que viessem a se tornar uma amea�a ou t�o somente rebeldes, seria necess�rio que adquirissem autoconsci�ncia. Na pr�tica, elas precisariam ser capazes de reescrever seu pr�prio c�digo –a ess�ncia de seu "ser".
Para alguns estudiosos, como o fil�sofo americano John Searle, da Universidade da Calif�rnia, o risco n�o existe: se de fato houver tamanha intelig�ncia, ela estar� automaticamente domada e limitada pela pr�pria arquitetura computacional. Para outros estudiosos, como Bostrom, � apenas quest�o de tempo para que as m�quinas se livrem de suas amarras.
O professor, que tamb�m tem forma��o em computa��o e f�sica, est� entusiasmado com o fato de que o assunto tornou-se alvo de aten��o, em especial nos �ltimos dois anos, desde que seu livro foi lan�ado, em 2014.
Na opini�o de Bostrom, se as pessoas estiverem devidamente alertadas para os riscos, resta um "desafio": investir as energias numa solu��o construtiva para o "problema do controle", como diz � Folha. Ele afirma que seu objetivo � lan�ar as bases para que a colabora��o entre ind�stria e academia se efetive e possa guiar as pesquisas para o futuro, atentando para princ�pios morais humanos.
Para ele, a superintelig�ncia nos conduziria rapidamente a um estado de maturidade tecnol�gica no qual "muitas coisas que hoje parecem fic��o cient�fica seriam poss�veis". Por exemplo: "Uma extrema extens�o do tempo de vida, a coloniza��o do espa�o, o upload de mentes em computadores e muitas outras aplica��es que n�o dependam de violar as leis da f�sica e as limita��es da mat�ria".
Para que a superintelig�ncia seja realmente usada para finalidades como as que elenca � crucial resolver a quest�o do controle. "Uma vez resolvida, depender� de escolhermos ou n�o direcionar a mira para esses objetivos", diz.
Bostrom inicia seu livro com uma esp�cie de f�bula que tem a fun��o de ilustrar o "problema do controle". Nela, um bando de pardais se mostra entusiasmado com a ideia de encontrar uma coruja que seria a solu��o de suas dificuldades cotidianas, como construir ninhos e defender-se de predadores. Passam, ent�o, a buscar tal criatura. Aceitariam, dizem, mesmo um filhote de coruja. Na pior das hip�teses, um ovo estaria de bom tamanho.
Um pardal cauteloso, representa��o aleg�rica do pr�prio autor, faz um alerta: nenhum deles entende nada da arte de domesticar corujas e essa aus�ncia de conhecimento deveria ser a primeira preocupa��o do grupo, antes de introduzir nele tal p�ssaro. Enquanto os demais saem em busca de sua suposta salvadora, o pardal cauteloso fica para tr�s, tentando resolver o problema que ele pr�prio apresentou. Bostrom n�o nos diz se os pardais foram bem-sucedidos em sua empreitada –no mundo a que a f�bula alude, a procura segue em curso.
PRIORIDADES
Eduardo Valle, professor de computa��o da Universidade Estadual de Campinas, � um entusiasta da intelig�ncia artificial. � diferen�a do fil�sofo sueco, por�m, Valle v� a quest�o do controle como pouco urgente no quadro geral dos riscos � vida humana. Em uma escala de prioridades, a superintelig�ncia estaria bastante atr�s do desastre potencial que representam as centenas de bombas at�micas ainda espalhadas pelo mundo, a amea�a clim�tica ou uma nova guerra mundial.
"O que eu n�o gostaria � que esse assunto da intelig�ncia artificial ganhasse espa�o na pol�tica p�blica", afirma. Seria, para Valle, gastar energia e dinheiro com um problema ainda um tanto distante.
Caetano de Almeida | ||
Ele conta que a �rea de estudo j� passou por momentos de entusiasmo seguidos por grandes invernos. � poss�vel que ainda aconte�a um longo e g�lido per�odo antes que sobrevenha um acontecimento sensacional. A desilus�o posterior ao excesso de expectativa poderia atrasar ainda mais essa chegada.
Os avan�os da nanotecnologia, da computa��o e da rob�tica n�o oferecem, por ora, uma sa�da para a maior de todas as quest�es humanas –a do sentido da vida. No entanto, pode ser que a extin��o da esp�cie por outras causas possa estar � porta, tornando ocioso buscar a resposta.
Para Bostrom, o sentido da vida pode ser resumido em uma palavra: reprodu��o. A resposta soa biol�gica e simplista, mas revela sua filosofia: a morte � um problema porque, quando algu�m morre, um bom bocado de conhecimento se perde. Seria como se uma biblioteca se deteriorasse por causa de um prazo de validade.
Nesse sentido, reproduzir-se talvez se ofere�a como a �nica resposta, ainda que n�o totalmente eficiente, contra esse risco. Mais descendentes significam mais genes e, portanto, mais chance de alguns de n�s sobreviverem a outro problema listado pelo fil�sofo –o risco de extin��o, seja por uma superintelig�ncia cruel ou pelo impacto de um asteroide no planeta.
Bostrom calcula que haja uma chance de at� 20% de n�o sobrevivermos ao s�culo 21. No caso de que sobrevivamos, por�m, poderia ter in�cio um novo ciclo da humanidade, marcado pela tecnologia e a intelig�ncia artificial, que permitiria, qui��, novas compreens�es para a raz�o da exist�ncia.
Algumas estimativas s�o poss�veis, a partir de n�meros obtidos pelo pr�prio Bostrom por meio de enquetes realizadas em congressos e consultando os mais produtivos pesquisadores da �rea de intelig�ncia artificial: h� 50% de chance de uma intelig�ncia artificial de n�vel humano existir j� em 2040. Dando mais 35 anos de prazo, a chance de uma m�quina ser t�o esperta quanto um humano em 2075 vai para 90%.
Uma vez atingido o est�gio humano, seria plaus�vel considerar que um grau de intelig�ncia a n�s inconceb�vel fosse superado –por exemplo, porque m�quinas poderiam trabalhar paralelamente na resolu��o conjunta de um problema s�, somando suas capacidades; incans�veis, poderiam, ainda, construir m�quinas ainda mais inteligentes do que elas pr�prias.
O momento cr�tico em que a capacidade intelectual humana for alcan�ada pela m�quina e a partir do qual a taxa de crescimento da intelig�ncia rumar para o infinito recebe o nome de "singularidade" –a partir dele n�o h� mais volta.
Ainda segundo o levantamento do fil�sofo, h� 10% de chance de a "superintelig�ncia" nascer em at� dois anos ap�s a intelig�ncia humana ser atingida; as chances de que ela se torne um fato ap�s o evento em 30 anos s�o de 75%.
LINGUAGEM
Nosso sistema nervoso, mais complexo que o de outros primatas, nos garantiu uma intelig�ncia tamb�m superior, com os resultados decorrentes dela, como a linguagem, as ferramentas, a ci�ncia, o dom�nio da natureza.
No �mbito do artificial, a no��o do que inteligente significa � menos �bvia. Embora seja bastante rudimentar, um termostato de geladeira poderia ser considerado inteligente. Afinal, ele analisa a situa��o e reage a ela: se a temperatura sobe, ele resfria; se esfriou demais, deixa aquecer.
Parece mais compreens�vel chamar de inteligente uma m�quina capaz de tarefas menos triviais, como bater um campe�o mundial de xadrez, feito alcan�ado pelo computador Deep Blue, que venceu o gr�o-mestre Garry Kasparov em 1997 –mesmo que a vit�ria da m�quina tenha sido atribu�da, mais tarde, a uma falha de concentra��o de Kasparov diante de um movimento aparentemente errado, ou il�gico, do computador.
Em mar�o deste ano, um software foi programado para jogar go e derrotou Lee Sedol, considerado um dos melhores do mundo nesse tradicional jogo de tabuleiro chin�s, no qual, em uma grade quadrada de 19 por 19, se espalham pe�as brancas ou pretas. Ao cercar as pe�as do advers�rio, elas s�o capturadas. � uma mir�ade de possibilidades para um mesmo tabuleiro –ou campo de batalha–, fazendo o xadrez parecer simples.
A fa�anha do software AlphaGo foi vista com interesse, pois, a cada rodada, uma quantidade imensa de movimentos � poss�vel, o que faz com que o jogo, ao menos entre humanos, dependa de uma boa dose de intui��o. O software em quest�o � resultado de um sistema programado para aprender, se adaptar e, de algum modo, mimetizar os "palpites" humanos.
No artigo "IA "" Intelig�ncia Artificial ou Imbecilidade Autom�tica?", de 2009 (dispon�vel online em www.ime.usp.br/~vwsetzer/IAtrad.html ), Valdemar Setzer afirma que m�quinas podem ser extremamente eficientes em executar tarefas mas que jamais poder�o "pensar".
Na opini�o desse professor aposentado de computa��o da USP, n�o � poss�vel definir a origem dos pensamentos, dos sentimentos ou da vontade; a "causa primeira" de uma a��o humana qualquer, como mover um bra�o, � nebulosa.
TESTE
Para Eduardo Valle, seria "desonesto" esperar que uma m�quina pudesse pensar: se ela consegue passar no teste de Turing, n�o haveria mais o que se exigir dela.
O teste � um modelo de avalia��o de "intelig�ncia de m�quina" proposto pelo cientista brit�nico Alan Turing (1912-54). Nele, uma pessoa faz perguntas a uma m�quina e recebe respostas. A ideia � que o di�logo seja o mais pr�ximo poss�vel daquele que haveria entre dois humanos.
Para que a m�quina fosse aprovada no teste, ela deveria ser abastecida com um importante repert�rio lingu�stico e social, al�m de contar com um excelente programa de gerenciamento dessas informa��es –para nossa sorte, ou azar, isso ainda n�o aconteceu.
Um est�gio posterior ainda poderia ser imaginado. Para tanto, a computa��o e a rob�tica teriam de se unir para produzir uma m�quina capaz de se comunicar n�o verbalmente, com gestos e express�es faciais e corporais, o que lhe daria a proximidade m�xima das caracter�sticas humanas no teste de Turing. O passo final seria que a m�quina fosse indistingu�vel da forma humana.
Essa transforma��o tem um exemplo ficcional na trama do filme "O Homem Bicenten�rio" (1999). O androide interpretado por Robin Williams (1951-2014) vai sendo informal e gradualmente aprovado em "provas de humanidade", at� chegar ao ponto que ele mesmo e os que nasceram humanos o reconhecem como homem.
Na fic��o, o est�gio humano de intelig�ncia � alcan�ado quando as m�quinas adquirem a capacidade de "aprender". Na realidade, isso n�o � algo t�o distante –o j� citado AlphaGo seria um exemplo disso; programas que reconhecem padr�es e identificam elementos em imagens (hoje em n�vel experimental e �teis, por exemplo, para a automa��o de ve�culos) s�o outro.
Fun��es mais mundanas tamb�m s�o fruto de avan�os nesse sentido. � o caso de radares de velocidade: neles, a placa � reconhecida, lida, confrontada com o banco de dados e a multa � emitida. O ser humano � praticamente dispens�vel no processo.
Em cinco anos, os avan�os na pesquisa em intelig�ncia artificial (IA) nos levaram a um ponto inesperado, diz Valle. Hoje, por exemplo, programas podem reconhecer categorias sem�nticas complexas –como v�deos considerados inapropriados pelo YouTube por conterem pornografia e viol�ncia.
Uma das linhas de pesquisa do professor da Unicamp � dedicada ao diagn�stico automatizado de doen�as como melanoma e retinopatia diab�tica. "A evolu��o da �rea � r�pida e empolgante."
"Um sistema inteligente � aquele que percebe o ambiente e atua de maneira autom�tica", explica o engenheiro Jo�o Bernartt, dono da Chaordic, que explora sistemas de recomenda��o de produtos para varejo on-line.
O objetivo do trabalho de Bernartt, que tem mestrado em IA, � observar padr�es em dados de consumo na internet: "A pessoa pesquisa um produto, clica em outro, volta para o primeiro e, eventualmente, compra. Toda essa informa��o de procura, clique e compra cria sistemas preditivos".
A an�lise desses dados coletados propicia an�ncios e ofertas personalizados, que tendem a ampliar as vendas virtuais. S�o algoritmos que "aprendem" e que geram receitas para seus criadores.
N�o � muito distante do que faz o Google. Mais do que um buscador, ele "adivinha" –com base em pesquisas anteriores feitas por aquele usu�rio e em associa��es entre termos de busca– o que a pessoa quer, colocando os resultados mais relevantes na primeira p�gina. Se o que as pessoas querem est� nas p�ginas seguintes, o programa "aprende", e os resultados sobem –e o poder de predi��o � incrementado.
At� por conting�ncias f�sicas, a complexidade da mente humana n�o se mede pela capacidade de acumular informa��o, mas de process�-la. N�o � poss�vel decorar tudo: datas, nomes, telefones, locais por onde passou, senhas, modelos de ve�culos. A mem�ria falha.
Cada neur�nio, explica Bernartt, funciona como um computador. Em funcionamento simult�neo, nossos bilh�es de neur�nios formam um grande aglomerado de processadores. Os computadores atuais t�m poucos n�cleos de processamento –quatro, em geral.
Ainda h� poucas linguagens de programa��o (as respons�veis por dar instru��es aos computadores) capazes de otimizar o uso de v�rios processadores para que cada um deles realize uma parte da tarefa e para que fa�am com que o trabalho seja eficientemente integrado visando uma tarefa final.
Uma met�fora empresarial para o problema seria a dificuldade de encontrar um gerente (linguagem) capaz de ordenar e receber o trabalho de v�rios analistas (processadores), a fim de compor um relat�rio final.
Dito de outra forma, falta uma linguagem para que um c�rebro (ou um modelo computacional do �rg�o) possa ser adequadamente programado.
Especula-se que talvez se deva a essa peculiar arquitetura computacional o fato de que nosso c�rebro seja mais capaz de aprender do que de lembrar de coisas.
CONSCI�NCIA
Talvez derive dessa natureza �nica e peculiar a explica��o para uma quest�o que permeia obras de fic��o cient�fica e ocupa a mente de fil�sofos e cientistas: a da consci�ncia.
Alguns pesquisadores, como Setzer, acreditam que a consci�ncia e os pensamentos podem ter uma origem n�o f�sica –o que abriria espa�o para a exist�ncia de algo como um esp�rito, que, por ser parte integrante fundamental dessa caracter�stica, impediria que m�quinas pudessem ter uma no��o de si.
Mas para a maioria dos especialistas � poss�vel que exista um n�vel de complexidade ou um "software" respons�vel pela presen�a de consci�ncia. Se partirmos do princ�pio de que ela possa ser representada por um programa computacional superavan�ado, abre-se caminho para especula��es diversas e interessantes sobre a finitude.
Se a consci�ncia � a ess�ncia do que somos, chegar a um ponto em que ela pudesse ser simulada equivaleria a nos fazer imortais, como sonham Bostrom e muitos outros.
Nem todo mundo, por�m, consegue ver a quest�o do que somos de forma t�o pragm�tica. Um dilema proposto pelo professor Eduardo Valle ilustra isso de forma curiosa.
Imagine-se em um futuro n�o muito distante, no qual uma forma de superintelig�ncia, devidamente domada, trouxe avan�os cient�ficos quase inimagin�veis. A Terra, por�m, est� fadada ao colapso. Aos seres humanos que n�o querem ver o fim do mundo � dada uma das duas op��es abaixo.
1) Sair do planeta em uma espa�onave, com destino a uma lua de J�piter –um ref�gio feito habit�vel pelas novas tecnologias. O problema � que h� uma chance maior que 50% de a nave simplesmente n�o chegar ao destino, e a viagem terminar numa g�lida morte no v�cuo espacial, ou mesmo antes, numa explos�o na hora do lan�amento;
2) Ser escaneado e, em um processo que destruiria a mente/consci�ncia na origem, criar uma vers�o virtual de si, em um computador (ou em um rob�), localizado na mesma lua de J�piter. Todo o processo duraria alguns minutos, em vez dos meses que demoraria uma viagem espacial. O problema � que h� uma chance de 2% de os dados serem corrompidos e, nesse caso, nada restaria dos que fizessem essa escolha.
Os que creem que a humanidade nasce da intera��o de mente com corpo e c�rebro, ou acham que a ess�ncia da vida reside em algo semelhante a um esp�rito, veem a segunda hip�tese como morte certa. Para estes, o processo levado a cabo no computador ou rob� de J�piter geraria apenas uma c�pia sem alma. Essas pessoas optariam pela primeira op��o, por maior que fosse o risco.
Para quem, por�m, acredita que a humanidade � pura mente, como se ela fosse um software alojado no hardware do c�rebro, optar pela segunda alternativa � ter 98% de chance de viver, virtualmente, para sempre.
*
O teste fict�cio de Voight-Kampff, criado por Philip K. Dick em "Androides Sonham Com Ovelhas El�tricas?" (Aleph) para determinar se uma criatura � humana ou androide, e que tamb�m aparece no filme baseado em seu livro, "Blade Runner", pode ser feito online (em ingl�s) aqui
GABRIEL ALVES, 30, � rep�rter da Folha, biom�dico e doutor em ci�ncias pela Universidade Federal de S�o Paulo.
CAETANO DE ALMEIDA, 51, � artista pl�stico e exp�e na galeria Luisa Strina at� 21/5.
Livraria da Folha
- Cole��o "Cinema Policial" re�ne quatro filmes de grandes diretores
- Soci�logo discute transforma��es do s�culo 21 em "A Era do Imprevisto"
- Livro de escritora russa compila contos de fada assustadores; leia trecho
- Box de DVD re�ne dupla de cl�ssicos de Andrei Tark�vski
- Como atingir alta performance por meio da autorresponsabilidade