Anos atrás, poderia parecer absurdo se alguém sugerisse que as máquinas iriam nos superar. Hoje, depois de vários filmes e séries nos mostrando as inúmeras possibilidades de dominação tecnológica, aprendemos a respeitar e temer uma revolução robótica.
Dado o atual ritmo de desenvolvimento tecnológico, um “robôcalipse” parece mais profético ou possível a você?
Enquanto muitos pesquisadores da área de ciência da computação discordam sobre a estrada que as máquinas percorrerão, eles dizem que a nossa relação com elas provavelmente será harmoniosa, não assassina (graças a Deus).
No entanto, há uma série de cenários que poderiam levar a uma situação na qual esses seres não biológicos teriam o objetivo de nos exterminar.
“Já existe tecnologia para construir um sistema que poderia destruir todo o mundo, intencionalmente ou não, se detectasse as condições adequadas”, disse Shlomo Zilberstein, professor de ciência da computação na Universidade de Massachusetts.
Vamos primeiro considerar o ponto de vista otimista: que as máquinas sempre atuarão como nossos servos, e não o contrário.
Para que isso aconteça, “uma abordagem é não desenvolver sistemas que podem ser tão perigosos que podem sair fora de controle”, disse Zilberstein.
Algo como Skynet – a rede de defesa computadorizada de “O Exterminador do Futuro”, que decide acabar com a humanidade, já é possível. Então, por que um sistema deste tipo ainda não foi construído?
Porque nações com armas nucleares, como os Estados Unidos, não gostariam de dar a responsabilidade de lançar ogivas para um computador. “E se ocorre um erro no sistema? Ninguém vai correr esse risco”, disse Zilberstein.
Em menor escala, no entanto, um elevado grau de autonomia foi concedido a algumas máquinas. “O número de sistemas robóticos que pode realmente puxar o gatilho de forma autônoma já está crescendo”, disse Zilberstein.
Ainda assim, um operador humano controla os sistemas e tem a palavra final se deve continuar ou não com um ataque com mísseis. Isso certamente não é o caso do Skynet, que, nos filmes, tem total controle do arsenal nuclear dos Estados Unidos.
Em “O Exterminador do Futuro”, os militares criam o programa com o objetivo de reduzir o erro humano e a lentidão de resposta em caso de um ataque contra os EUA. Quando os controladores humanos percebem o perigo representado por Skynet, tentam desligá-lo. A rede interpreta este ato como uma ameaça à sua existência, e, a fim de combater seu inimigo, Skynet lança um ataque à Rússia, provocando uma retaliação. Bilhões morrem em um holocausto nuclear. Skynet, em seguida, passa a construir fábricas que criam exércitos de robôs para eliminar o restante da humanidade.
Em um cenário da vida real, Zilberstein pensa que alguns guardas impediriam um sistema autônomo de ameaçar mais pessoas do que ele é projetado para fazer, no controle das fronteiras do país, por exemplo.
Além disso, sistemas poderiam ser programados com a capacidade de fazer grandes decisões estratégicas da maneira que Skynet faz, mas limitadas.
“Todos os sistemas que estamos propensos a construir no futuro próximo terão habilidades específicas”, disse Zilberstein. “Eles serão capazes de monitorar a região e talvez atirar, mas não irão substituir os humanos”.
Robôs superiores ao nosso alcance
Michael Dyer, um cientista da computação da Universidade da Califórnia, é menos otimista. Ele acha que “os seres humanos acabarão sendo substituídos por máquinas” e que essa transformação pode não ser pacífica.
O progresso contínuo na pesquisa de inteligência artificial vai levar a máquinas tão inteligentes quanto nós nos próximos cem anos, Dyer prevê. “Civilizações avançadas chegarão a um ponto de inteligência suficiente para compreender como seu cérebro é feito, e então construirão versões sintéticas de si mesmas”, diz.
Isso poderia vir de tentativas de estabelecer nossa própria imortalidade – e essa oportunidade pode ser demais para a humanidade resistir. Talvez a transformação da biologia para a tecnologia será relativamente calma. Ou não.
Por exemplo, Dyer sugere uma nova corrida armamentista do sistema robótico poderia resultar em um lado saindo fora de controle. “No caso de guerra, por definição, o lado inimigo não tem controle dos robôs que estão tentando matá-los”, disse Dyer. Como Skynet, os manufaturados podem se voltar contra os fabricantes.
Ou uma situação de super dependência de robôs também pode sair de controle. Supondo que uma fábrica que fabrica robôs e não segue comandos humanos recebe uma ordem para desligar para a fábrica. Mas, infelizmente, os robôs se recusam. Assim, um comando é emitido pelos seres humanos para parar os caminhões de entrega de materiais necessários para a fábrica, mas os motoristas são robôs, e também se recusam. E assim por diante.
Em geral, um pouco de sabedoria impediria a humanidade de cair nas armadilhas inventadas por roteiristas de Hollywood. Mas a motivação do lucro às empresas certamente gerou mais automação, e a racionalidade não ganha sempre.
“Cenários apocalípticos são muito fáceis de se criar, e eu não descartaria esse tipo de possibilidade”, diz Zilberstein. “Mas eu não estou, pessoalmente, preocupado”. E você? Está?[LiveScience]