Como evitar que as máquinas voltem-se contra os humanos?

Por , em 17.02.2009

Ninguém quer que os robôs dominem o mundo e destruam a raça humana e de acordo com a comunidade científica, robôs militares precisam ser submetidos a um código de honra, ou poderiam se voltar contra seu “mestre”.

A ética para os robôs foi, primeiramente, sugerida pelo mestre da ficção científica Isaac Asimov, na obra Eu, Robô. Agora, os americanos, estão considerando seriamente a idéia.

Não é segredo que os EUA adoram investir em tecnologia militar – e estão tentando desenvolver um robô nos mesmos moldes do Exterminador do Futuro. No entanto, os problemas já começaram antes mesmo dos projetos.

Em 2007, um robô que estava com problemas técnicos matou 9 e feriu 14 soldados amigos.

“Quem pode ser considerado culpado quando um robô autônomo com mau funcionamento mata uma pessoa? Quem desenhou o projeto? Quem construiu o robô? A própria máquina?” declara Patrick Lin, pesquisador da Universidade Estadual Politécnica da Califórnia, autor do artigo “Robôs Militares Autônomos: Riscos, ética e design”.

“O Congresso quer que, em 2010, nenhum avião militar seja pilotado por humanos. Em 2015, nenhum tanque de guerra deve ser tripulado por pessoas. Essa pressa pode causar danos no desenvolvimento dos robôs” explica Lin.

Esperamos que os estadunidenses levem o projeto das leis da robótica adiante. Afinal, não queremos acordar, um dia, em um mundo onde as máquinas controlam o planeta – deixemos isso para os filmes de Hollywood.

Confira, abaixo, a lista das três leis da robótica criada por Isaac Asimov:

  • 1ª lei: Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal.
  • 2ª lei: Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem a Primeira Lei.
  • 3ª lei: Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira e Segunda Leis.

Quando falamos de robôs militares matadores as leis acima são inúteis. [Telegraph]

9 comentários

  • lucas:

    precisamos de leis mais complexas e uma pergunta, caso tenha uma maquina que controle esses robôs, poderia acontecer como no matrix, uma rebelião das maquinas, e é verdade precisaríamos de leis mais complexas que as nossas, pois como já foi dito se vc faz um robô para ser policial ou pilotar um avião ele matará alguém, mas vamos deixar isso pra quando chegar a hora né!!!

  • Big Brother Brasil:

    Talvez essa lei resolva o problema:
    Para o robô:

    “Se vc estiver com idéias diferentes das que foram originalmente programadas em vc, informe a um humano competente e, em seguida, desligue em segurança.”

    Agora se um humano programar ele pra dominar os humanos, aí ferrou.

  • shadow_666:

    1ª lei: Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal.

    * Isto é ridiculo, e sem sentido, estão criando maquinas com o intuito de pilotar aviões de guerra e serem super soldados, portanto a primeira lei vai ter que sofrer modificações em sua estrutura, pois é obvio que não criarão maquinas somente para lutar contra outras maquinas, muitos humanos serão mortos lutando contra elas, fato.

    * Não é preciso ser genio para notar que, como o exposto no filme Eu Robô, a primeira lei entra em conflito com ela mesma, que levaria os automatos a nos enjaular para garantir nossa segurança.

  • DIdi:

    RIDÍCULO! Colocar ética para robôs matadores vai ser como o código penal brasileiro. Qtuem tempoder, burla!
    Deviam párar com isso..
    ou vamos nos explodir =(

  • Lucas Melo:

    imagine se os robos dominassem o mundo mesmoja pensou?

  • yohan:

    quanto as leis da robotica… me lembro delas ja terem sido apresentadas da mesma forma no filme “o homem bicentenário”

  • Joke.Dam:

    Hummm, interessante, eu não lembrava/sabia que Eu, robô, era uma obra literária… Então… ese deve ser o motivo pelo qual as mesmas leis de Isaac Asimov são utilizadas no filme “O Homem Bicentenário”.

  • admin:

    Lets kill some toasters!

    Gotia, bom encontrar outro geek que goste de battlestar gallactica.

  • gotia2003:

    Quando eu li o título eu na hora pensei em Battlestar Galactica. Vários Cylons……….

Deixe seu comentário!