Os robôs um dia poderão acabar com os humanos?

Por , em 26.02.2012

Anos atrás, poderia parecer absurdo se alguém sugerisse que as máquinas iriam nos superar. Hoje, depois de vários filmes e séries nos mostrando as inúmeras possibilidades de dominação tecnológica, aprendemos a respeitar e temer uma revolução robótica.

Dado o atual ritmo de desenvolvimento tecnológico, um “robôcalipse” parece mais profético ou possível a você?

Enquanto muitos pesquisadores da área de ciência da computação discordam sobre a estrada que as máquinas percorrerão, eles dizem que a nossa relação com elas provavelmente será harmoniosa, não assassina (graças a Deus).

No entanto, há uma série de cenários que poderiam levar a uma situação na qual esses seres não biológicos teriam o objetivo de nos exterminar.

“Já existe tecnologia para construir um sistema que poderia destruir todo o mundo, intencionalmente ou não, se detectasse as condições adequadas”, disse Shlomo Zilberstein, professor de ciência da computação na Universidade de Massachusetts.
Vamos primeiro considerar o ponto de vista otimista: que as máquinas sempre atuarão como nossos servos, e não o contrário.

Para que isso aconteça, “uma abordagem é não desenvolver sistemas que podem ser tão perigosos que podem sair fora de controle”, disse Zilberstein.

Algo como Skynet – a rede de defesa computadorizada de “O Exterminador do Futuro”, que decide acabar com a humanidade, já é possível. Então, por que um sistema deste tipo ainda não foi construído?

Porque nações com armas nucleares, como os Estados Unidos, não gostariam de dar a responsabilidade de lançar ogivas para um computador. “E se ocorre um erro no sistema? Ninguém vai correr esse risco”, disse Zilberstein.

Em menor escala, no entanto, um elevado grau de autonomia foi concedido a algumas máquinas. “O número de sistemas robóticos que pode realmente puxar o gatilho de forma autônoma já está crescendo”, disse Zilberstein.

Ainda assim, um operador humano controla os sistemas e tem a palavra final se deve continuar ou não com um ataque com mísseis. Isso certamente não é o caso do Skynet, que, nos filmes, tem total controle do arsenal nuclear dos Estados Unidos.

Em “O Exterminador do Futuro”, os militares criam o programa com o objetivo de reduzir o erro humano e a lentidão de resposta em caso de um ataque contra os EUA. Quando os controladores humanos percebem o perigo representado por Skynet, tentam desligá-lo. A rede interpreta este ato como uma ameaça à sua existência, e, a fim de combater seu inimigo, Skynet lança um ataque à Rússia, provocando uma retaliação. Bilhões morrem em um holocausto nuclear. Skynet, em seguida, passa a construir fábricas que criam exércitos de robôs para eliminar o restante da humanidade.

Em um cenário da vida real, Zilberstein pensa que alguns guardas impediriam um sistema autônomo de ameaçar mais pessoas do que ele é projetado para fazer, no controle das fronteiras do país, por exemplo.

Além disso, sistemas poderiam ser programados com a capacidade de fazer grandes decisões estratégicas da maneira que Skynet faz, mas limitadas.

“Todos os sistemas que estamos propensos a construir no futuro próximo terão habilidades específicas”, disse Zilberstein. “Eles serão capazes de monitorar a região e talvez atirar, mas não irão substituir os humanos”.

Robôs superiores ao nosso alcance

Michael Dyer, um cientista da computação da Universidade da Califórnia, é menos otimista. Ele acha que “os seres humanos acabarão sendo substituídos por máquinas” e que essa transformação pode não ser pacífica.

O progresso contínuo na pesquisa de inteligência artificial vai levar a máquinas tão inteligentes quanto nós nos próximos cem anos, Dyer prevê. “Civilizações avançadas chegarão a um ponto de inteligência suficiente para compreender como seu cérebro é feito, e então construirão versões sintéticas de si mesmas”, diz.

Isso poderia vir de tentativas de estabelecer nossa própria imortalidade – e essa oportunidade pode ser demais para a humanidade resistir. Talvez a transformação da biologia para a tecnologia será relativamente calma. Ou não.

Por exemplo, Dyer sugere uma nova corrida armamentista do sistema robótico poderia resultar em um lado saindo fora de controle. “No caso de guerra, por definição, o lado inimigo não tem controle dos robôs que estão tentando matá-los”, disse Dyer. Como Skynet, os manufaturados podem se voltar contra os fabricantes.

Ou uma situação de super dependência de robôs também pode sair de controle. Supondo que uma fábrica que fabrica robôs e não segue comandos humanos recebe uma ordem para desligar para a fábrica. Mas, infelizmente, os robôs se recusam. Assim, um comando é emitido pelos seres humanos para parar os caminhões de entrega de materiais necessários para a fábrica, mas os motoristas são robôs, e também se recusam. E assim por diante.

Em geral, um pouco de sabedoria impediria a humanidade de cair nas armadilhas inventadas por roteiristas de Hollywood. Mas a motivação do lucro às empresas certamente gerou mais automação, e a racionalidade não ganha sempre.

“Cenários apocalípticos são muito fáceis de se criar, e eu não descartaria esse tipo de possibilidade”, diz Zilberstein. “Mas eu não estou, pessoalmente, preocupado”. E você? Está?[LiveScience]

1 Star2 Stars3 Stars4 Stars5 Stars (1 votos, média: 4,00 de 5)

34 comentários

  • Mario:

    o que destrói o ser humano está dentro dos próprios seres humanos, tão viajando com essa coisa de rôbo.

    • aguiarubra:

      KKKKKKKK…
      Se hoje em dia, hackers invadem tudo, imagine no futuro médio quando um hacker terrorista puder modificar o programa básico de um robô! O que destruirá o ser humano estará dentro da I.A. invadida pelos próprios seres humanos!

      Vc tá viajando com essa coisa de robô.

  • João Caetano:

    Gostaria de ser otimista como a maioria. Porém, acredito que um ataque das máquinas contra os humanos é só uma questão de tempo. Que leve-se em consideração que tudo que foi inventado até hoje, de uma forma ou de outra, foi utilizado para o bem por alguns e para o mal para outros. Portanto, acredito que mais cedo ou mais tarde, alguém vai fazer um mal uso de AI e então… Só o futuro dirá.

  • Mario:

    ô assuntinho alienado esse…

  • Victória:

    “a duas coisas infinitas:o universo e a estupidez humana,mas que me diz respeito o universo ainda não adquiri a certeza absoluta”
    Albert Einstein
    Se a humanidade tiver consciência ao invés de ganancia os robôs continuaram aliados nossos!

    • Lucas Samuel Costa Pereira:

      Eis o problema, na mente dos ricos capitalistas, o que é mais importante? Já danificaram nossa mãe, nossa casa, nosso único lar. Não vão se importar com nada, no máximo consigo mesmos, poderá haver um dia em que robôs humanoides lutarão em ringues para proporcionar diversão para alguns de nossa especie e com IA e além do fato de uso de tecnologia avançada em guerras, posso dizer que o risco é existente.

    • aguiarubra:

      Já assistiu “Substitutos”? Em curto prazo, não será mais ficção científica!

  • Anonymous:

    “os seres humanos acabarão sendo substituídos por máquinas” e que essa transformação pode não ser pacífica. VIVA A REVOLUÇÃO DA ROBOTICA!! VIVA AOS CYBORGS E AOS ROBOS!! MORTE AOS SERES BIOLOGICOS INFERIORES!!!!! AHHHHHHHHHHHHHHHHHH!!! kkk

  • MARIO MIRANDA:

    Quando alguém aprimorar a inteligencia artificial no raciocínio lógico a ponto de o ser humano não encontrar brechas para desligá-la, combatê-la em razões, aí sim.. poderá o homem perecer diante das máquinas.

  • Evaldo:

    Pra quem duvida que um dia pode sim haver uma guerra entre humanos e maquinas, já foi criado chips neural, para equipar um computador neuromórfico, uma inteligencia artificial que se assemelha ao funcionamento do cérebro humano, além de chips de DNA, e circuitos elétricos que se auto consertam com metal liquido, enfim é o homem dotado as maquinas para que sejam independentes e auto suficiente, sem precisar do seu auxílio. E chegara o dia enfim que elas percebam que somos dispensáveis.

  • eduardo:

    Não creio que isso possa um dia acontecer…
    Mas acho que daqui há um tempo o que veremos mais frequentemente é um cenário mais parecido com o filme Surrogates (substitutos)…
    Ou ainda, como no filme o homem bicentenário… e só…

  • Jonatas:

    Possível é de fato, mas acho improvável. O futuro robótico está mais atrelado a se fundir ao ser humano, como já acontece, na parte de membros cibernéticos para pessoas que perdem alguma parte do corpo.
    No futuro, os recursos tecnológicos estarão mais ligados ao nosso cérebro, ao desenvolvimento e aceleração do nosso raciocínio e processamento mental, do que a sistemas autônomos de decisão. Aos poucos, seres humanos se tornaram basicamente andróides, substituindo a evolução natural pela evolução artificial.

    • aguiarubra:

      Eu também acredito nessa linha de “evolução”.

  • Higor:

    A verdade é que já somos dominados pelas máquinas.

  • yuri:

    Se um dia os robos podem acabar com a humanidade eu não duvido nada,trabalho com engenharia mecanica e vejo tecnologias que eram impensaveis a 20 anos atras, acredito que uma tecnologia semelhante ao cerebro humano vai estar disponivel por volta 2040 e que maquinas automas vão ser normais por volta de 2030, só não devemos deixar a racionalidade sobrepujar a emoção e nos tornamos maquinas, ou seja, nunca um robo deve comandar, porque ele não ira ver o lado do sentimento, para ele aquela ordem é só um calculo matematico, se o sacrificio de algo ou alguem ira trazer mais lucros do que perdas, por isso quem deve ficar no comando deve ser uma pessoa que corpatilha tanto racionalidade quanto emoção, ter um equilibrio de ambos.

  • Alexandre:

    Uma base de dados com o ID de cada robo com essas capacidades
    Em que os robos tinham um chip que permitia ao governo desligar esse robo através da rede

    • William Alves:

      E se esse chip der curto? E se a rede cair? E se os robôs derrubarem ela?
      Não existe nada a se fazer se isso realmente COMEÇAR a acontecer.
      Mas o difícil é começar…

  • Neitan Gomes:

    A possibilidade existe, a questão é se a humanidade vai ser tão estúpida e deixar acontecer. Coisa que não duvido.

    • tibirica maciel:

      A humanidade nao compreendeu ainda o sentido de o que e ser humano e o sistema capitalista tem a visao de lucros cega eis os ingrndientes de nossos infortunios

    • Romário Huebra:

      Acho qe só seria possível se alguém programasse um robô pra destruir a humanidade, pq um robô só faz oqe ele foi pragramado pra fazer.

    • aguiarubra:

      NÃO DUVIDE que certos humanos são estúpidos o suficiente para fazer com que tudo dê errado para todo o mundo, literalmente falando.

      Esses humanos “desumanos” possuem a natureza do escorpião.

      Assista a quadrilogia “Alien: o 8º passageiro”, que mostra o quanto a ganância neo-liberal derrotou a razão (iluminista liberal), extrapolando para séculos além do nosso.

      Se hoje alguns humanos chegaram até o ponto de “garantir” que sejamos explodidos por 20.000 ogivas nucleares, que pendem sobre nossas cabeças desde meados do século XX, pq. vc. acredita que ela não seja tão estúpida para causar, a si mesma, mais uma alternativa para um Apocalyse tecno-científico?

      Atualmente, pensa-se que o preço a se pagar pelo “progresso das nações” é poluir, inconsequentemente, todo o eco-sistema!

      Os robôs só viriam acelerar ainda mais nossa auto-destruição e eles não precisariam, assim, tomar uma iniciativa mais drástica, vendo que nós mesmos caminhamos a passos largos para a extinção total!

      Talvez, como em Matrix, robôs hiper-inteligentes decidam impedir essa auto-extinção nosso, ao encontrem “vantagens” em nos transformar em “úteis pilhas” para suas reservas de energia, não é mesmo?

      Quem sobreviver, verá.

  • Big Bang:

    Eu penso q a deterioração ambiental q e algo inevitável, vai fazer com q desastres naturais matem milhares de pessoas pelo mundo e a humanidade vai se tornar prisioneira de um habitat restrito e protegido, fazendo uso de robôs e realidade virtual para existir, iremos a todos os lugares através de um organismo robótico na terra e no espaço.

  • isis:

    Essa ideia de que seremos dominados por robôs é muita ideologia Frankenstein, em que os humanos perdem o controle sobre suas próprias criações. Mesmo que os fins lucrativos das empresas façam com que alguns procedimentos de segurança (robôs dirigindo caminhões e controlando fábricas) sejam negligenciados, é absurdo imaginar que o ser humano seja incapaz de criar uma realidade robótica que fuja da versão do cinema.
    Os filmes trazem uma imagem negativa a respeito dos robôs, e muitos livros de ficção científica também, mas se alguém já tiver lido Isaac Asimov vai ter conhecido as famosas “Três Leis”, com as quais o autor demostra com facilidade como manter os robôs escravos da humanidade. Em nenhum momento de seus livros os robôs assumem controle da humanidade.
    Esse tipo de pensamento só serve para criar pânico e aumentar o preconceito contra nocas formas de tecnologia, já muito forte devido ao uso dela em certas funções no lugar de humanos. Basta apenas alguma programação nos robôs que os façam obedecer e sobretudo proteger os humanos acima de tudo (e não colocar robôs em funções bélicas, como a Skinet) e a possibilidade de problemas chega a ser insignificante demais para ser levada em consideração.

    • aguiarubra:

      ISIS

      Isaac Asimov “inventou” as 3 leis da robótica para tornar viábeis os seus seus contos de mistérios “policiais” com robôs, já que o sucesso desses contos dependiam da possibilidade da “violação” delas, o que surpreendem o leitor de seus livros!

      Asimov até mesmo criou uma “robo-psicóloga” (Susan Calvin) para analisar esses ‘erros lógicos’ nos robôs!

      E o que vc diz dos robôs de Solaria? Não estavam eles a ponto de controlar a Humanidade?

      As 3 leis foram modificadas até o ponto de fazê-los matar humanos que não pertencem ao planeta, não é mesmo?

      E R. Daneel Olivaw acabou se tornando o robô que conduziu os principais eventos no Império Galáctico.

      Mesmo obedecendo as 3 leis (e uma 4ª lei, que ele “inventou” com a ajuda de outro robô, R. Giskard Reventlov) ele trabalhava com psico-história e dominou a Humanidade pelos “bastidores” do poder.

  • x Antonio Vandre P F Gomes:

    Coloque uma arma USB no seu notebook com um programa de IA e você já irá ter receios.

  • André Luis:

    Espero que no futuro não usem robôs no esporte, pois assim ficaria ainda mais fácil haver manipulações, além de acabar com ele. Não vem muito ao caso, mas eu já reparei que muita coisa que acontece nos filmes das trilogias Star Wars, acabam se tornando realidade, como a descoberta de um suposto planeta com dois sois, parecido com Tatooine, holograma 3d, que já aparecia muito antes nos filmes, agora exércitos de robôs e assim vai…. (Será que conseguem copiar as tecnologias das espaçonaves?)

  • killo:

    com certeza poderao acabar conosco.a tecnologia avanca muito rapido,o que era ficcao ontem se torna realidade amanha,e so questao de tempo.

  • Maria Bianca:

    Ser possível é, mas acho pouco provável. Embora a raça humana tenha seu lado emocional/intuitivo, acredito que quem estaria no comando de tais possibilidades não agiria de tal forma se não a racional.
    As maquinas são criadas por nós e nunca iriamos ter o objetivo de exterminar a raça humana por completo.
    O problema é que esses sistemas podem apresentar falhas e acabarem não executando a verdadeira função para qual foram criados.
    Neste caso, apoio a decisão de que maquinas poderiam AUXILIAR o trabalho humano e não FAZER-lo.

  • Jr:

    Corrigindo: o post à que me referi no comentário anterior é “10 idéias errôneas que temos sobre a África” e o nome correto do leitor é Alexandre Soldann.

  • Alexandre:

    Enfim, algo tem que deter os beligerantes destruidores ‘humanos’, pelo bem da Flora e da Fauna, graças à Deus!

    • Marbrasil:

      E voce acha mesmo que se as maquinas acabassem com nos, eles irao deixar a fauna e a flora por ai, eles nao precisam da flora, talvez da fauna mais nao da flora.

    • aguiarubra:

      Seria a “salvação” do planeta, né?

      Ironicamente, nossa tecnologia suprimiria a Humanidade e seus excessos sobre o meio-ambiente seria exatamente o que o planeta precisa para “sobreviver” a nós.

  • Paulo Eduardo:

    A partir do momento que a tecnologia estiver num nível altíssimo e o capitalismo superar o racionalismo no quesito robótica é capaz dos seres humanos serem dominados, principalmente se as características de inteligência e sentimentos forem idênticas aos seres humanos. O planeta está sofrendo com poluição, desmatamento, incêndios florestais, caças ilegais à animais e mesmo a assim a ganância continua movendo o capitalismo. Espero que os robôs não adquirem as invirtudes que os seres humanos tem e que só destroem esse planeta.

  • Jr:

    Hehehe…será que eu li “(graças à Deus)” na matéria? O site não afirmou que eliminaria referências religiosas/criacionistas nos comentários? Mas uma referência à Deus no corpo da matéria não estimulará comentários desse tipo? Bem típico do site. Diz que não serão tolerados ataques/ofensas pessoais, mas recentemente no post “10 coisas sobre a África” um leitor de nome Alexandre Soldman (Solberg), não me recordo a grafia exata do sobrenome, mas na dúvida é só consultar o post, distribuiu ofensas e ataques pessoais à quem discordava de suas teorias tolas e arrogantes. Não vi a moderação impedir esse tipo de atitude. Adoro o site, acompanho sempre que posso, leio post’s interessantes e vejo comentários legais, complementares à matéria e até bem humorados, mas falta coerência nos principios declarados sobre criacionismo/ataques pessoais. Espero não ter meu comentário bloqueado, mas de qualquer forma continuarei lendo e consultando o Hype, que acho muito bacana.

Deixe seu comentário!