Devemos temer os robots assassinos?

PorExpresso das Ilhas,10 ago 2015 9:07

Poderá o Google criar robots assassinos por acidente? Bill Gates e Stephen Hawking advertem sobre os perigos da tecnologia “sem sentido comum”.

 

É daqueles temas que lemos de relance com um sorriso: robots assassinos. Mas, quando olhamos atentamente e vemos que no final do passado mês de Julho quase dezassete mil pessoas assinaram uma carta aberta contra os perigos da inteligência artificial – entre eles, quase 2.500 pesquisadores em robótica e figuras como Bill Gates, Steve Wozniak, Stephen Hawking, Elon Musk, Noam Chomsky e milhares de professores universitários norte-americanos e europeus – as coisas começam a ser levadas um bocadinho mais a sério.

No passado mês de Maio o assunto parecia mais uma anedota: Elon Musk, o empresário visionário mais excêntrico e respeitado de Silicon Valley (e um herói aqui para nós no EiTec) afirmou que o seu maior medo é que o Google crie um exército de robots assassinos por acidente.

Para mostrar que falava a sério, Musk doou dez milhões de dólares a uma instituição para prevenir a existência destes mesmos robots. A frase de Musk saltou para as redes sociais e acabou por ser uma das mais partilhadas. Foi o suficiente para espalhar e comentar uma das menos verbalizadas e mais verdadeiras obsessões do nosso tempo: a inteligência artificial.

O conceito, velho como a Grécia clássica, não se alterou muito desde que começou a popularizar-se nos anos 50 do século passado: sistemas computacionais capazes de realizar tarefas historicamente reservadas para a inteligência e percepção humanas. A noção não mudou, mas nos últimos anos subiu, por direito próprio, ao topo do espírito do tempo tecnológico e cultural. Os interfaces que percebem e obedecem à nossa voz nos smartphones estão baseados nela. Assim como está a função de auto-completar as buscas no Google, que adivinha o que necessitamos antes mesmo de o pedirmos.

Mas há mais. Estamos já tão rodeados pela inteligência artificial que deixámos de reparar. É o caso das recomendações da Amazon, que sabem do que vamos gostar mesmo que ainda não o conheçamos. Ou dos nossos murais do Facebook, que aprendem a cada ‘like’ e a cada click o que nos interessa. E cingimo-nos apenas ao que é conhecido porque os projectos relacionados com a inteligência artificial movimentaram quase vinte mil milhões de dólares só desde 2009. O Pentágono está a desenvolver balas que mudam de direcção em pleno ar e robots que possam andar, abrir portas, subir escadas, conduzir, no fundo, tudo o que evite situações perigosas aos humanos. Os automóveis autónomos da Tesla e do Google circulam na Califórnia transportando pessoas que não tocam no volante. Os drones são hoje banais nos cenários de guerra e no ano passado a empresa japonesa Deep Knowledge contratou ROBOT, um cérebro artificial, como membro da direcção, tudo porque tem mais talento em antecipar o mercado do que qualquer humano.

Watson, o robot da IBM que em 2011 acertou todas as questões no concurso norte-americano Jeopardy dedica-se agora à medicina, usando os seus incríveis processadores para diagnosticar doenças (actualmente e para já, limita-se à teoria) e num jardim de infância da Universidade da Califórnia há um outro robot capaz de brincar com as crianças porque reconhece as emoções transmitidas pelos seus gestos. O consenso é claro: este é o mundo para o qual nos dirigimos. “A minha opinião é que a inteligência artificial está a dominar-nos”, confirma Sebastian Thrun, um dos principais responsáveis pelo carro automático do Google, “cada vez haverá menos humanos a fazer coisas”. Há um outro consenso igualmente imbatível: ninguém sabe exactamente como será esse futuro.

Com um conceito tão antigo, porque demorámos tanto a chegar a esta idade dourada da tecnologia? Porque as suas bases são relativamente jovens. A indústria dos videojogos só em 2005 conseguiu desenvolver chips poderosos, capazes de processamento massivo de gráficos capazes de recalcular milhões de pixéis várias vezes por segundo. E tivemos de esperar até 2009 para que uma equipa de investigadores de Stanford se desse conta que estes chips conseguiam recrear os processos do cérebro humano, onde um neurónio ‘fala’ simultaneamente com milhões dos seus vizinhos. Os algoritmos actualmente usados são inspirados pelo deep learning que se desenhou na Universidade de Toronto, em 2006, e na altura ainda não existia a quantidade de dados que hoje estão armazenados sobre qualquer matéria e que chamamos de big data: os dados que um cérebro artificial entende e, talvez, interpreta.

A primeira grande reflexão sobre a coexistência entre robots e humanos não foi obra de um cientista da computação ou de um filósofo ético, mas sim de um escritor de ficção científica Isaac Asimov, que formulou as três leis da robótica que deveriam ser incorporadas na programação de qualquer autómato: “Não fazer mal aos humanos, obedecer-lhes excepto se entrar em conflito com a lei anterior e auto proteger-se excepto se entrar em conflito com as leis anteriores”.

Mas, é muito provável que Asimov tenha pecado por ingenuidade. Basta eliminar a primeira lei para converter qualquer robot num carniceiro implacável e brutal, um assassino de aço e silício ideal para eliminar um líder inconveniente, fumigar uma etnia defeituosa ou subjugar uma população inoportuna. E não estamos a falar de 2050, mas sim daqui a um par de anos. Os mesmos sistemas inteligentes que já existem nos carros autónomos, unidos a um sistema artificial de aprendizagem táctico como o desenvolvido pelo Google DeepMind, pode ser usado para fabricar um enxame de robots que rastreie uma cidade até ao último canto da última casa e elimine todos os possíveis inimigos. De forma autónoma e sem qualquer controlo humano.

O mais fácil é começar a fazer piadas, mas o assunto tem muito pouca graça. A carta assinada pelos cientistas contra os robots militares autónomos é um sinal nítido da grande preocupação que o assunto provoca entre a elite científica. Alguns classificaram-na mesmo como a “terceira revolução na arte da guerra, depois da pólvora e da bomba atómica”. E recordamos que as piadas sobre a bomba atómica acabaram em 1945.

Estamos assim a aproximarmo-nos que que se chama a tempestade tecnológica perfeita. Só que agora este conceito não aparece apenas em livros baratos de ficção científica, o medo do poder das máquinas saltou para os ensaios científicos. E o apocalipse futuro já não é só uma espécie de Terminator, será um carro sem condutor que pare repentinamente numa auto-estrada por uma falha do software provocando centenas de feridos. Será a corrida armamentista à procura do drone mais letal. Ou será um robot superinteligente programado para acabar com o cancro e que chegue à conclusão lógica que o mais fácil é acabar com os humanos geneticamente propensos a terem a doença.

Em Janeiro deste ano, Bill Gates alertou durante uma entrevista: “não percebo porque não há mais pessoas preocupadas com esta questão, a inteligência artificial é uma ameaça real”. Um mês antes, Stephen Hawking tinha insistido que esta tendência “pode ser o final da raça humana, os robots podiam começar a redesenhar-se a si mesmos a uma velocidade que nós, os humanos, não poderíamos competir”. Isto é algo parecido com a opinião de James Barrat, autor de Our Final Invention: Artificial Intelligence and the end of Human Era (O Nosso Último Invento: A Inteligência Artificial e o Fim da Era Humana). “Não controlamos o futuro porque somos a criatura mais forte, mas sim a mais esperta”, escreve, “pelo que, se houver algo mais inteligente do que nós, dominar-nos-á”.

O livro de Barrat fala sobre a esperada verdadeira inteligência artificial, uma réplica da humana que chegará, assegura, antes que termine este século. Uma inteligência artificial que irá, logicamente, ampliar os seus objectivos, cultivar ideias próprias e amadurecer o conceito de autoconservação até incluir “ataques pró-activos contra ameaças futuras”. É tão difícil imaginar que forma terá esta tecnologia que é quase impossível estar preparado. “Um submarino pode nadar? Sim, mas não como um peixe. Um avião pode voar? Sim, mas não como um pássaro”, prossegue Barrat. “A inteligência artificial que virá não será como nós. Será uma versão intelectual definitiva de nós”.

Há um factor com o qual Barrat não conta, mas Hector Levesque sim: os computadores actuais são terrivelmente estúpidos. Um smartphone pode descodificar as vibrações que produzem a nossa voz no ar, juntar letras e sílabas a cada fonema e formar palavras e frases às quais responde em função do que processa na sua base de dados cada vez maior. Mas, não sabe se um rato consegue ler. Delegará essa pergunta ao Google, que devolverá resultados com as palavras ‘rato’ e ‘ler’, mas não consegue fazer o raciocínio básico de que essa não é uma das capacidades de um roedor.

Levesque, professor emérito da Universidade de Toronto, desenhou uma forma de medir a verdadeira capacidade intelectual de um robot: fazer perguntas lógicas impossíveis para uma máquina que não entende o que a lógica é. Por exemplo: “John agradeceu a Susan toda a ajuda que lhe havia dado. Quem prestou a ajuda, John ou Susan?”. O Google não consegue responder a isto. Esse é o fantasma que falta na máquina, segundo Levesque, o senso comum. “É triste que muitas das investigações sobre inteligência artificial que se fazem actualmente conformam-se com sistemas que apenas lêem quantidades massivas de dados sem qualquer sentido”.

“Se analisarmos o número de pessoas que morreram afogadas numa piscina em cada ano e o número de filmes protagonizados por Nicolas Cage nesse mesmo ano, veremos que o gráfico é idêntico”, explica Klaas Bolihoefer, especialista alemão em análise de big data na Universidade de Zurique. “Também há uma correlação entre o consumo anual de queijo per capita e o número de pessoas que morrem enredadas nos seus próprios lençóis ano após ano. Esta casualidade tem algum significado? Não o sabemos. Temos os dados, mas não o seu sentido, que provavelmente nestes casos nem sequer existe. Isso é o que se passa com a inteligência artificial contemporânea, sofre de apofenia: conectam padrões entre dados sem saber que sentido lhes dar”.

Porque parece então que falamos disso agora mais do que nunca, se investe mais do que nunca e se antecipa mais do que nunca sobre a inteligência artificial? Talvez porque sempre foi assim. Basta analisar outro gráfico: o que mostra o nosso interesse pelo tema ao longo dos anos. Há picos de entusiasmo periódicos, cheios de fantásticas possibilidades não cumpridas. Pelo meio, há depressões profundas, tão frequentes que até têm um nome – os invernos na inteligência artificial. E continuamos assim hoje em dia, apanhados entre o fascínio da ideia e o desespero com a lentidão real do progresso.

 

Concorda? Discorda? Dê-nos a sua opinião. Comente ou partilhe este artigo.

Autoria:Expresso das Ilhas,10 ago 2015 9:07

Editado porRendy Santos  em  13 ago 2026 0:29

pub
pub.

Últimas no site

    Últimas na secção

      Populares na secção

        Populares no site

          pub.