Cientistas temem acidentes causados por robôs

Por , em 10.05.2010

Hoje existe um bom número de pesquisas sobre robôs. Em geral, elas têm trabalhado com a possibilidade de que, em um futuro muito próximo, eles possam ser frequentemente usados como empregados domésticos. Pensando nisso, cientistas do Instituto de Robótica e Mecatrônica da Alemanha apresentaram testes mostrando quais os riscos de robôs ferirem seres humanos, por acidente.

Eles desenvolveram um sensor de movimentos. Equiparam um braço-robô de 1,1 metros e 14 quilos com uma variedade de ferramentas, que poderiam ser usadas em aplicações domésticas: uma faca de cozinha, uma faca de açougueiro, uma tesoura e uma chave de fenda. Programaram o braço-robô sem o sensor, para cortar e dilacerar uma perna de porco, um pedaço de silicone e o braço de uma pessoa. Sem o mecanismo, o braço não fazia distinção do que cortava, e provocou cortes profundos no silicone e na perna de porco. Os cortes poderiam ferir gravemente uma pessoa.

Depois, para evitar cortar o braço do corajoso voluntário, ligaram o mecanismo de segurança. Esse mecanismo faz com que a máquina pare imediatamente se detectar uma substância diferente da que for programada para cortar. Por exemplo, se o robô estiver cortando um bife e você puser sem querer seu dedo no meio, ele é capaz de parar para não decepa-lo. Isso seria importante para evitar ou minimizar uma série de acidentes daqui a alguns anos, se a figura de um robô auxiliando nas tarefas diárias realmente se tornar comum.
[BBC News]

Vote: 1 Star2 Stars3 Stars4 Stars5 Stars

16 comentários

  • Eduardo – Silva:

    As treis podem ser quebradas, burladas ou simplesmente não serem instaladas pois assim fica mais facil trabalhar com algo que se tem controle…Ssim como podemos bular as suas fraquesas – Exterminio à 89% até 2023, os cientistas esperam ter a nova tecnologia em maquinas – nas quais serão comparadas aos computadores ignorados no inicio de sua criação e no futuro necessidade HUMANA…
    Eu não quero etar vivo pra ver isso acontecer…
    Boa sorte irmãos . . .

    1. um robô deve ferir um humano ou permitir que um humano seja ferido.

    2. um robô deve cumprir as ordens dos programas na memória ROM, a não ser que entrem em conflito com a primeira lei.

    3. um robô deve preservar proteger sua existência, a menos que isto entre em conflito com a primeira ou segunda leis.

    “4. Não exitar em matar para sobreviver.”

    É bem facil de diversas maneiras configurar uma maquina…
    Como um BOOT para cd do RUINDOWS, entre outras maneiras…
    Sinto muito admiro mente humana as aconsidero mais burra ainda se se não colocarem um botão para desligar a maquina…kkkkk

    Controle remoto.

  • Eduardo – Silva:

    Vocês esqueceram de uma coisa… Nós estamos criando as maquinas e todos nós sabemos que desde os de muito tempo o homem procura a máquina perfeita para a destruição dos seus inimigos… então querendo ou não alguém vai querer criar uma maquina capas de se infiltrar e destruir o alvo facilmenmte…
    Até mesmo EX: destrir uma usina nuclear pois ela pode ser programada facilmemte para executar essa pequena missão…
    Fim da humanidade… guerra e destruição.. caos tenho certeza que disserão algo uma vez “A energia nuclear só será utilizada para fins passificos”… e no japão ele passificarão mesmo né…
    Milhares de pessoas mortas ima ginem vocês que uma maquina com armamento pessado e com um unico o bjetivo… detonar um reator nuclear, matar uma pessoa em especifica… Bay bay…
    Pensem nisso não é um filme é realidade é nada é impossivel para uma mente que não se destrai…
    Boa noite….

  • ThiagoSperandio:

    Na reflexão acima, um robô, pelas 3 leis (independente da complexidade) não pode, mas deve proteger um ser humano.

    Embora a complexidade faça parecer, ainda não é (mesmo) um livre-arbítrio. Disso, tenho certeza.

    Se ele pudesse simplesmente avaliar tudo e decidir “não se meter” ou até ajudar a matar (por ter decidido isso e cheio de >> consciência << do que está fazendo), sim, seria livre-arbítrio.

    Para os religiosos*, seguir uma lei dada por um "deus" é simplesmente usar seu livre-arbítrio escolhendo segui-las. Não seguir é livre-arbítrio também.

    * Não estou considerando as massas de seguidores cegos, esses são quase hipnotizados por seus líderes (sejam "padres", "pastores", "monges" et cetera) para obedecer, isso é
    dependência psicológica, não livre-arbítrio. Contudo, cada um é dotado de livre-arbítrio para decidir se "viciar" ou não em qualquer coisa.

    Voltando aos robôs, penso como o Marcos, acima: "A situação é complexa e exigirá muitas reflexões."

    Um abraço!

  • Marcos:

    A situação é complexa e exigirá muitas reflexões.
    Como bem citado pelo César, a possibilidade de um bug existe e é bem real, isso sem contar ataques cibernéticos de quaisquer naturezas.
    Abraços

  • Cesar:

    O que, para mim, seria o verdadeiro “Santo Graal” da robótica é um robô capaz de julgar uma situação. Isaac Asimov elaborou as três leis da robótica pensando em um robô capaz de entender uma situação e suas implicações:

    1. um robô não deve ferir um humano ou permitir que um humano seja ferido.

    2. um robô deve cumprir as ordens dos seres humanos, a não ser que entrem em conflito com a primeira lei.

    3. um robô deve preservar sua integridade, a menos que isto entre em conflito com a primeira ou segunda leis.

    No caso, como um robô vai, por exemplo, entender que sua omissão irá causar a morte de um ser humano? É um julgamento muito complexo em alguns casos. Em outros é simples: alguém que está fora do alcance do robô está disparando balas à esmo, e há um humano perto, o robô deve entender que o humano próximo pode ser ferido, e que o corpo dele, robô, pode impedir estes ferimentos, e assumir uma posição em que seu corpo sirva de escudo. São vários conceitos complexos, e um robô que seja capaz de entender eles já está capacitado, por exemplo, de livre-arbítrio. Mas se ele é capaz de livre-arbítrio, por quê mantê-lo escravo da vontade humana (alguém lembra do filme “Eu, Robô”?).

  • Kdabra:

    et cetera

  • ThiagoSperandio:

    Carinhas,

    Sobre a lógica, seguir seus procedimentos estruturados e et cetera, isso é o que acontece hoje…

    Eu tenho pensado em formas de burlar o padrão, se um dia eu tiver paciência pra criar um software de I.A. O mais interessante seria algo -> parecido <- com a teoria do caos…

    E gerar muitos comportamentos à escolher (ou seja: padrões), mas que serão escolhidos (e sequenciados) de forma aleatória, isso é muito fácil hoje (funções random), hehehehe

    Óbvio que a árvore de possibilidades e possibilidades em seqüencia deveria ter um mapeamento, ou pelo menos um mapeamento do que não fazer. Em outras palavras, ao pegar um copo com líquido, a máquina não poderia dançar, lutar, pular de um prédio (a lista é longa de exceções)… chato, né?! Por essas e por muitas outras necessidades que ninguém faz!

    Em outras palavras, a máquina seria "imprevisível", como alguns de nós, mas ela ainda não teria um real "livre-arbítrio".

    Resolvido o problema: "executar da mesma forma". Mas ainda sim não resolve o problema: "é confiável???".

    Um abraço!

  • Cesar:

    Guilherme

    O problema é que quanto mais complexo o equipamento, mais complexo o programa que o controla, e maior a probabilidade de haver bugs no programa, ou no sistema como um todo. Não que o cérebro humano não tenha bugs também, mas os robôs costumam ter força e velocidade sobre-humanos. Em outras palavras, você até pode ter alguma defesa contra uma outra pessoa, mas não terá defesa alguma contra uma máquina.

  • Guilherme:

    Marcos, não existe dúvida quanto a isso, um robô sempre vai ser mais confiável do que um humano, principalmente pelo fato de que após programar alguma coisa na maquina ela vai executa-la sempre da mesma forma, ao contrário de nós que somos suscetíveis a infinitos fatores.

    Para aqueles que temem uma revolta das máquinas, eu trabalho com tecnologia e posso afirmar que é impossível embutir sentimentos em uma maquina, ela segue regras lógicas definidas por um humano, mesmo que uma máquina possa “aprender” ela não pode ir contra sua programação básica, sem contar que ganância é uma coisa humana e é ela que move a maioria dos atos vis.

  • squish:

    Sou estudante de Controle e Automação e tudo o que posso dizer é que o robô é uma ferramenta e é tão burra quanto quem o programou ou quem a utiliza. Um robô (bem utilizado e com boa manutenção) não apresentaria nenhum risco pra ninguém. As pessoas tem o costume de demonizar a robótica, com medo de um possível holocausto apocaliptico do futuro. Culpa da mídia que vive inventando história.

    Quanto ao teste descrito no texto, qual é a diferença entre um robô sem sensores e um liquidificador? Nenhuma. Se você colocar o braço no liquidificador, ele vai te cortar e nem vai perceber o que está fazendo. Se este era o proposito do teste, ele nem precisaria ter sido realizado. O único risco real que vejo é se houver falha nos sensores.

    Vendo a fonte original, notei que o foco da reportagem da BBC é outro. Lá se diz que a instituição alemã não fez de fato testes de danos causados e sim desenvolveu sensores de torque para identificar o que está sendo cortado, minimizando os cortes caso perceba textura de carne. Isto sim é algo bom, pois até agora não haviam sensores para este tipo de função.

    Quanto ao comentário do Marcos. Estes eventos catastróficos podem ser evitados quase sempre com a prática da boa programação. Se você faz um robô que corre em direção a uma tomada, faz sentido programá-lo para desviar de obstáculos no caminho.

  • Marcos:

    Olá a todos !
    Pois é Cesar, é uma escolha difícil porque o humano tem a personalidade, caráter e vários fatores que podem afeta-lo. Um robô só vai sair de sua conduta padrão por um problema mecânico mas que, como voce mesmo disse, pode ocorrer.
    Então, vem a pergunta crucial: quem é mais confiável ?
    Abraços a todos !

  • Fernando Sávio:

    Putz, esquece…
    Já vi..
    uahuahauhauhauha

  • Fernando Sávio:

    Mais uma vez concordo com o Cesar (sempre com boas opiniões)!!
    Uma pergunta.. Porque teu nome fica Azul (já vi o link mas não sei como faço para deixar assim)..

  • Cesar:

    Açougueiros deveriam usar luvas de malha metálica para evitar amputações, e da mesma forma operários de indústria gráfica, mas alguém usa?

    Por outro lado, tenho certeza que um robô consegue evitar um acidente muito melhor que um ser humano, mas quando um robô falha… catástrofe. E aí, melhor um colega robô, com garantia de funcionar bem em 99,9999% dos casos, ou um colega que está passando por uma fase depressiva, toma medicamentos que alteram o comportamento, está no meio de um divórcio litigioso depois de pegar a esposa com o chefe, se sente uma engrenagem esmagada no meio de uma máquina insensível, e acabou de comprar uma pistola? Escolha difícil…

  • Marcos:

    Isso sem falar nos robôs militares que volta e meia, atiram nas suas próprias tropas, como aconteceu no Iraque …
    Abraços de novo !

  • Marcos:

    Sei não …
    A robótica, apesar de promissora, é uma área ainda incipiente e perigosa no que trata da relação robô-humanos. Uma geringonça destas fora de controle é extremamente perigoso.
    Aliás, a robótica está chegando num ponto que, apesar dos avanços, tende a estacionar porque há a questão da desconfiança no que um robô fora de controle possa fazer. Por exemplo, tem um robô que detecta automáticamente uma tomada quando suas baterias estão descarregando e aí ele se conecta a esta tomada. O problema é se esta tomada estiver do outro lado de uma porta ou parede e aí o robô vai fazer tudo para chegar até lá, nem que seja derrubando a porta ou a parede (parede americana, claro) e podendo, na ação, ferir alguém que esteja no seu caminho.
    Um outro caso interessante e que também está levando a questionamentos, é o de um robô que aprende o que vê: se voce pega uma ferramenta, ele pega; se voce pega um copo e pega água da torneira, ele fará a mesma coisa e assim vai. O problema é se ele ver alguém atacando outro ser humano ! Ele vai aprender e aí, salve-se quem puder hehehe …
    Abraços a todos e excelente dia !

Deixe seu comentário!