Seremos Dominados Pelas Máquinas?
Hoje é um dia importante para o HypeScience. Estamos inaugurando a coluna HiperCrônicas. Ela será atualizada semanalmente pelo escritor Mustafá Ali Kanso, que certamente não é estranho nosso. Aproveite as palavras desta mente privilegiada todas as segunda-feiras.
PARTE 1 – O ROBÔ COMO AMEAÇA
Não foram poucas vezes em que fui interrompido durante uma de minhas palestras sobre IA (Inteligência Artificial) com esta pergunta polêmica:
— Será que um dia os seres humanos serão dominados pelas máquinas?
É evidente que este questionamento apresenta vários desdobramentos, incluindo o aspecto social do desaparecimento do emprego, como consequência da paulatina substituição do homem pela máquina, seja na lavoura na qual tratores e colheitadeiras competem com o trabalho manual ou na indústria onde a automação vem substituir as atividades pesadas e repetitivas.
No entanto, vamos começar nossa abordagem com algo bem mais sensacionalista e polêmico:
— O antigo e famigerado complexo de Frankenstein.
Todo mundo conhece esse clássico do terror fundamentado no argumento de que um dia a criatura há de se voltar contra o seu criador e então destruí-lo.
Numa versão mais atual, as máquinas – ou de mais específico valor – os robôs, poderiam repentinamente assumir o controle, decidindo sobre o futuro de uma humanidade completamente subjugada.
Aliás, é esse o argumento básico de muitos sucessos de público no cinema e na TV, tais como Matrix, Galactica, Exterminador do Futuro, etc.
Esse tema tão recorrente nas histórias de ficção científica geralmente apresenta o “robô-como-ameaça”, que segundo o criador do termo “robótica” o grande ficcionista Isaac Asimov, a coisa toda poderia ser resumida por algo do tipo “ clangue clangue” e “Ah!”.
Porém, mesmo sendo repetitivas e pouco imaginativas estas histórias que povoaram os primórdios da FC alimentam o imaginário de muitos defensores das teorias da conspiração e é um assunto também em pauta nas conversas de corredor dos seminários científicos ou encontros de tecnólogos. Geralmente sou abordado na hora do cafezinho e a conversa se desenrola de um jeito bem natural. Eu geralmente contraponho as teorias da dominação com o argumento de que a automação exerce um papel crucial na redução dos custos da produção e no aumento da segurança do trabalho e presta um auxílio inestimável na melhoria da qualidade de vida.
No entanto o teórico da conspiração insiste em sua visão. Vou apresentar aqui uma dessas conversas apenas para ilustrar:
Do radar ao matar
Quando um sistema automático de controle de velocidade tira fotos de um automóvel que ultrapassa a velocidade limite da pista, ele se pergunta se aquele “robô”, que não fez academia de polícia ou tampouco passou nos testes para ser agente de trânsito, tem a devida autoridade para multá-lo.
Tecnicamente o tal “radar” é um robô “primário”, ou seja, um simples sistema perceptivo dotado de servomecanismo.
Traduzindo: – apresenta sensores de velocidade acoplados a um dispositivo que aciona uma câmera fotográfica.
— Quem passa do limite é simplesmente fotografado.
Deixando de lado as questões legais que dariam um bom caso para advogados antenados (desculpem o trocadilho), o teórico da conspiração aborda pelo lado do puro terror. E assim me propõe esta reflexão:
— Imagine professor, se ao invés de acionar uma câmera fotográfica o tal servomecanismo acionasse uma metralhadora ou um lança chamas ou um lançador de mísseis?
— Sem dúvida, um bom argumento para um filme de FC (ou de terror) recheado de efeitos especiais – foi minha resposta.
Porém, de onde o sujeito tirou essa ideia?
Não é segredo que, mesmo em plena crise, o governo norte-americano (só pra citar um exemplo) tem investido milhões de dólares em sistemas automáticos para aplicação bélica. Sistemas de IA foram e estão sendo desenvolvidos para pilotar tanques, aviões e – sinta o arrepio na espinha – mísseis nucleares.
Evidentemente isso não se restringe apenas à política bélica norte-americana. Esse tipo de pesquisa tem avançado de forma acelerada no mundo inteiro.
Daí a paranoia!
Tenho um colega que ao discorrer sobre a aplicação bélica dos agentes inteligentes da IA preconiza:
“Cada vez que se produz uma máquina inteligente com a intenção de matar se pressupõe a hegemonia da estultice humana.”
Sintetizando – é a conjugação pós-moderna entre a inteligência artificial e a estupidez natural.
Mesmo neste cenário distópico é possível contrapor:
— As máquinas respondem aos programas. Se ela for programada para matar, quem de fato é o assassino é o seu programador. Ficamos bem longe do questionamento inicial. Não são as máquinas que dominam o homem. É ele que as utiliza como instrumento de eliminação, mesmo que isso não faça a menor diferença para a vítima sob a alça de mira de um robô bélico.
No entanto é só para isso que servem as máquinas inteligentes? Matar e dominar? Não somos servidos todos os dias de forma construtiva por recursos da IA? Desde os programas de busca na Internet, caixas eletrônicos e até robôs cirurgiões?
O que nos leva ao segundo e terceiro desdobramentos da nossa questão. Desdobramentos esses também criados por Asimov:
- O robô-como-pathos: a máquina é apenas uma ferramenta que pode ser usada tanto para o bem quanto para o mal.
- O robô como produto industrial regulamentado: uma ferramenta que responde não apenas à sua programação, mas que também cumpre rigorosas normas de segurança (aquelas que, por exemplo, o impeçam de ferir ou destruir sistematicamente seu criador).
Porém, isso é assunto para o nosso próximo encontro. Não percam!
[Foto por Bistrosvage]
LEIA SOBRE O LIVRO A COR DA TEMPESTADE do autor deste artigo
Navegando entre a literatura fantástica e a ficção especulativa Mustafá Ali Kanso, nesse seu novo livro “A Cor da Tempestade” premia o leitor com contos vigorosos onde o elemento de suspense e os finais surpreendentes concorrem com a linguagem poética repleta de lirismo que, ao mesmo tempo que encanta, comove.
Seus contos “Herdeiros dos Ventos” e “Uma carta para Guinevere” juntamente com obras de Lygia Fagundes Telles foram, em 2010, tópicos de abordagem literária do tema “Love and its Disorders” no “4th International Congress of Fundamental Psychopathology.”
Foi premiado com o primeiro lugar no Concurso Nacional de Contos da Scarium Megazine (Rio de Janeiro, 2004) pelo conto Propriedade Intelectual e com o sexto lugar pelo conto Singularis Verita.
60 comentários
Bom, isso pode acontecer. Mas se por um lado as máquinas estão dominando o mundo isso é apenas um sinal da estupidez original do homem, seja ele cientista, especialista em robótica, etc. Isso mostra que como não nos suportamos, então nos tornando insensíveis(isso é algo bem fácil de notar), mas a maioria prefere fingir que não está acontecendo nada. Simplesmente fazem isso para as pessoas ficarem cada vez mais com medo e ceder. O problema é que temos tecnologia avançadíssima mais cabeça do tempo da pedra, onde os mais fortes tem que dominar os mais fracos e no final talvez uma máquina dominará o que soa uma total estupidez! Pq algo ou alguém tem que dominar? Onde está a real inteligência nisso? Soa inteligente, pq é complexo, pq pode fazer cálculos absurdos, mas a inteligência primária, aonde está? O problema é que a raça humana e a natureza tem sido subjugada por milênios, pois somos criaturas simplícimas na excência e pouco úteis. Não sinto que nascemos pare ser úteis, calculadoras, ferramentas, etc. Quanto mais o mundo evolui mais chato ele fica para a grande maioria. Em vez de criar algo melhor, melhore o que tem, e quando digo melhora, não estou falando de performance, servidão, fazer milhões de coisas ao mesmo tempo, etc. O que tão criando na verdade são escravos melhores ao invés de juntamente com mentes realmente humanas e não meras calculadoras biológicas erradicar de vez a escravidão humana para todo o sempre. Mas como uma calculadora biológica irá fazê-lo? O que talvez não conseguimos entender é que nossa maior virtude está na fraqueza e na delicadeza e não na força e na dominação. Ou seja, vamos criar máquinas baseadas em algo antigo e que pertence a idade da pedra, só mais avançadas.
É possível colocar não no “Gostei deste comentário”? Não sei, perdoem-me a insistência, mas ao olhar para as outras pessoas, vejo que há algo bem errado, ao ouvir o depoimento de pessoas inteligentes, grandes intelectuais sinto que algo está muito errado, a impressão que dá é que eles não tem ou suprimiram todos os sentimentos, são robôs e por isso dão tanta ênfase a máquinas, alterações genéticas, etc. Algo relacionado a ética está faltando ai, mas eles não ouvem ninguém que não tenha argumentos técnicos e sentimentos não tem nada a ver com argumentos técnicos.
Repetindo um comentário meu:
Não sei se alguém aqui já ouviu falar do MOVIMENTO PÓS-HUMANO (quem não sabe, procure na Internet), um movimento que está surgindo em alguns meios acadêmicos que apregoa que o ser humano já está ultrapassado e não devemos impedir o próximo salto evolucionário da nova humanidade: super-homens manipulados geneticamente e o advento de robôs com inteligência artificial superior à humana.
Esse é o futuro que, provavelmente, nos espera se a ciência abandonar de vez a ética, a religião e a moral! Se a coisa continuar ‘sem freio’ do jeito que anda, com a ciência e a política ignorando os apelos da Igreja, da moral e da ética, não tenham dúvida, daqui uns 50 a 100 anos, ninguém vai ficar chocado se seu filho quer fazer uma tatuagem, está usando drogas ou é gay; mas se ele vai querer ter uma carapaça de escorpião, uma pele de cobra, um chifre de búfalo na testa ou qualquer outro ‘acessório genético’ da última moda!
Infelizmente, na minha opinião, o Movimento Pós-Humano já começou e já está ficando fora de controle.
Sinceramente, acho que é um caminho sem volta!
uma coisa é usar drogas, é algo realmente complicado… mas o resto, qual o problema? “ninguém vai ficar chocado se seu filho quer fazer uma tatuagem, está usando drogas ou é gay; mas se ele vai querer ter uma carapaça de escorpião, uma pele de cobra, um chifre de búfalo na testa ou qualquer outro ‘acessório genético’ da última moda!”
E qual o problema de aperfeiçoar a raça humana? Vc já esta interferindo na seleção natural hoje, com cirurgia e remédios.
Nada contra, portanto se um dia aparecer MOVIMENTO PÓS-HUMANO
Nenhum problema muito grave, talvez só o extermínio da raça humana ou sua escravização pelos seres superiores!
Os mais aptos normalmente se destacam na sua profissão. Ou seja, não vai mudar nada!
E sobre escravidao ou extinção, existem leis que tornam todos iguais independente das suas aptidões.
Mais uma vez, não ia mudar nada! Todos teriam direitos iguais, da mesma forma que Bill Gates ou um super atleta tem o mesmo direito de um velho faxineiro aposentando.
Acho que vc está vendo muito os X-men!
Nunca assistiu O Exterminador do Futuro ou Matrix?
Já, assim como vi muitos outros. Ou li muitos livros do Asimov, Arthur C. Clark, Robert Heinlein, E.E. Doc Smith, Ray Brabury e vários outros, além dos clássicos de Julio Verne.
Sob Matrix e o Exterminador, não creio que pessoas ou máquinas inteligentes façam a guerra. Isso seria um enorme gasto de recursos e com o grande risco da destruição de inumeros recursos naturais e ecosistemas.
Além do mais uma guerra é uma disputa por algo, e maquinas e seres humanos não tem as mesmas necessidades. Ou seja, dificilmente haveria guerras entre homens e máquinas.
O que pode haver isso sim é que o ser humano vire um simples peso pra Terra sem nada dar em troca e as máquinas resolvam então exterminar os seres humanos. Só que ai a extinção seria por meios pacíficos, como uma simples estrelização.
Outra hipótese é que o ser humano, agora com tempo ocioso em demasia, simplesmente se mate em brigas e guerras inuteis.
Ou seja, a raça humana seja extinta não por robôs mas pela mão do homem mesmo!
Na ficção de Asimov, as máquinas protegiam o ser humano de si mesmo e propiciavam sua evolução moral (assim como em Matrix, o Arquiteto se aliou a Neo, permitindo que os humanos se desplugassem), mas vc está mais para aqueles que, acidentalmente (?) desenvolveram programas que fizeram com que as máquinas exterminassem os seres humanos.
Felizmente, “Cyphers” (Hitler, Stalin, Mao Tse Tung, Pol Pot, “Satan” Hussein) como vc não sobrevivem o suficiente para executarem toda a Humanidade, embora possam fazer grandes males conosco.
Brincadeiras à parte, o problema é que a ciência é uma ‘faca de dois gumes’; ela pode servir tanto para o bem como para o mal. Por isso, acho que ela deveria ser, até certo ponto, regulamentada por leis baseadas na religião ou, pelo menos, na ética e na moral.
Hoje, a ciência está tão avançada que em breve a humanidade vai ter que escolher qual caminho a seguir na encruzilha histórica da eugenia humana e dos seres transgênicos; se vamos ou não alterar artificialmente o genoma humano rumo ao neo-humano ou pós-humano.
O problema é que a coisa já está saindo de controle; pois, já existem algumas clínicas privadas oferecendo, por exemplo, a seleção de embriões (à custa de vários mortos) para escolha do sexo do bebê ou de bebês sem doenças genéticas e prometem que num futuro próximo se poderá escolher a cor dos olhos, a beleza, a inteligência, etc. Ou seja, é a volta do movimento da eugenia nazista de forma legalizada e incontrolável; e, infelizmente, não existe nenhum órgão internacional regulamentando isso!
O problema é que isso levará a uma polarização genética (que, de certa forma, já ocorre) entre ricos e pobres que não terão acesso fácil a tais tecnologias; e quem não aderir a elas ficará para trás, obrigando praticamente a uma adesão em massa! Assisti a um documentário outro dia debatendo justamente sobre esse polêmico assunto.
Embora, na minha opinião, isso já é um caminho sem volta; já que a sociedade se afastou de Deus e crê que tudo o que é possível na ciência, é de certa forma ético!
Procurem na internet pelo artigo de Carlos Pompeu:
“Critica ao Movimento Pos-Humano”
E o documentário: “DNA: A promessa e o preço”, do Discovery Channel.
Tem no YouTube e está dividido em dois episódios com seis capítulos cada.
A ideia de “melhoria genética” (vide Gattaca – a experiência genética) deriva da infeliz ideia de que a Ciência se sobrepôs ao natural e “sabe mais” que a própria Natureza sobre o que é um corpo humano “melhor”.
Na prática, subverte-se o evolucionismo, a principal “regra” científica usada ao se observar seres vivos; curiosamente, por mais que a Medicina procure livrar os seres humanos das doenças, constantemente os germes e virus fazem os cientistas de bobos, demonstrando a ingenuidade de um método científico que, por ter sucesso (?) com máquinas, pretende se tornar ‘sobrenatural”
Será o mundo mais chato possível! Todos iguais, mecânicos, só servem como utilitários. Melhor jogar a bomba nuclear e caprichar para não sobrar nada. O que é engraçado é que isso será feito pelo próprio ser humano. Tem que por pessoas que realmente entendam de ser humano no poder e não máquinas biológicas(cientistas, politicos em geral). O poder pela força, o poder pelo medo, isso tem que acabar, temos a chance de ouro e se não a aproveitamos, viver será insuportável. Nós iremos apenas sobreviver. E detalhe, já está quase assim, olhe a sua volta, olha para vocês e verão o quão mecânico se tornaram, como as coisas já não encantam, as pessoas, a natureza.
Aguiarubra,
A LEI DE MOORE só se aplica pra circuitos. Devo lembrar que os computadores quânticos não estão sujeitos a essa lei no sentido literal da palavra. Fora que serão infinitamente mais poderoros que os atuais baseados em semicondutores.
Além do mais, nada impede que vc coloque milhões de processadores em paralelo. O problema do calor poderá ser resolvido com supercondutores a temperatuta ambiente.
Ou seja, como disse antes, a tecnologia é o limite! E como a tecnologia está sempre evoluindo, não existem limites pra o que um computador no futuro possa fazer… ou pra sua inteligência!
Computadores QUÂNTICOS…
…processadores PARALELOS…com supercondutores NA TEMPERATURA AMBIENTE…
Cara, vc tá dando “saltos” na tua imaginação ou tá engolindo a propaganda em torno de maravilhas tecnológicas que, por muito tempo ainda, estarão consumindo bilhões, trilhões de dólares NÃO DISPONÍVEIS EM DÉCADAS para se realizarem NA PRÁTICA!!!
Lemos muita coisa por aí: mas, não confunda MÍDIA com REALIDADE!
Use um pouco de senso crítico: há muito ainda o que SE GASTAR para que os projetos saiam do papel.
Então, a LEI DE MOORE, por esse século XXI, vai limitar muitos vôos tecnológicos de nossos desejos. Podemos contar com a FC de Hollywood prá termos uma ideia do que isso será…UM DIA!!!
Salto nenhum! É questão de uma década ou pouco mais isso! Justamente o previsto por Kurweil qdo disse que em 2019 um computador de US$ 1000 será tão inteligente qto um homem.
E processamento paralelo todas as GPU e hoje as CPUs usam! E a tendencia é só aumentar o No. de Cores. Nada de espantoso novamente!
E sobre os computadores quanticos Olha a “ficção” ai…
http://info.abril.com.br/aberto/infonews/022007/15022007-3.shl
E já que mexo com eletronica desde os anos 70s, acredito estar bem informado entre o que é mídia e pesquisa pura e o que já pode, ou poderá, ser realidade em poucos anos.
Quem viver, verá!
Ao invés de temer ser dominado pelas máquinas o ser humano deveria temer desagradar à Deus e suas leis, como por exemplo não estuprando, seqüestrando, torturando seus semelhantes. Será que precisamos de mais tempo? Nem se fosse concedido ao homem mais 2 mil anos de desenvolvimento tecnológico, haveria qualquer risco de dominação por ” cérebros artificiais”. Isto que vou escrever em parte está na bíblia em parte é opinião própria: Em 30 anos no máximo teremos 1% vivendo uma quase utopia tecnológica, se orgulhando de suas riquezas e feitos tecnológicos, independência de um Criador,… Enquanto os outros 99% estará mal sobrevivendo devido a poluição da água, do ar, ( agravadas por esplosões nucleares) e de guerras civis , corrupção. Daí a ONU diz que o mundo tem paz e segurança, Quanta hipocrisia.! então aqueles 1% de países convoca seus exércitos para destruir ” o ópio do povo” ou seja, as religiões.( Algumas bem que poderiam ser destruídas antes disso). E então nessa época virá a mão pesada do julgameto de Deus .
Rone100theone,
Nao coloque religião no meio, por favor. Se vc olhar a história vai ver que hoje devido á ciencia a humanidade está muito melhor que antes. Um bom exemplo disso é a idade média onde 1/3 da europa morreu de Peste Negra.
E mesmo esses táis 99% que vc se refere, tem acesso a medicamentos, habitação, água potavel e esgoto na maioria das vezes. Ou seja, mesmos esses estão melhor que estariam numa sociedade não tecnológica.
E se houver uma guerra nuclear como vc fala, te asseguro que vc não terá NINGUÉM, mas absolutamente ninguém, vivendo bem!
Nem mesmo em algum hipotético bunker subterrâneo sem ver a luz do sol por anos…
E desde qdo a ONU luta contra as religiões? Não viaja, Rone100theone!!!
P.: “…Se vc olhar a história vai ver que hoje devido á ciencia a humanidade está muito melhor que antes…”
Comentário: Quando vc tiver a oportunidade de assistir a Discovery Chanel, verá que, de vez em quando, eles anunciam que 50% da Humanidade NÃO DISPÕE DE TELEFONE…Quanto mais de recursos CAROS da Medicina contemporânea, ou “badulaques tecnológicos” como automóveis, eletrodomésticos (computadores, videogames, celulares, etc.).
O melhor que essa parte da Humanidade tem é SANEAMENTO BÁSICO, que não custa muito para os cofres do governo e/ou pode ser realizado individualmente. Por isso, não morrem aos bilhões, como poderia estar acontecendo.
Enquanto vc não dispõe de TV À CABO, leia esse artigo, na web, da:
BBC Brasil Notícias: 1% da população adulta detém 40% da riqueza mundial, indica estudo
TRECHO: “…Dois quintos da riqueza mundial estão concentrados nas mãos de 37 milhões de indivíduos, ou 1% da população adulta, segundo indica um estudo da Universidade das Nações Unidas lançado em Londres nesta terça-feira.
Se considerados os 10% mais ricos do mundo, a proporção da riqueza mundial nas mãos desse grupo é de 85,2%.
Na outra ponta, os 50% mais pobres do mundo são donos de apenas 1% da riqueza global…”
Obs.: esquisito, não é? Principalmente ao se considerar que as promessas da CIÊNCIA eram a de resolver todos esses ‘pobre’mas político-econômicos através do uso da RAZÃO!!!…tsk!…tsk!…tsk!…
Mais detalhes em:
1)ZEITGEIST I, II e III
2)A HISTÓRIA DAS COISAS
3)DA SERVIDÃO MODERNA
Novamente repito, mesmos essas pessoas tem acesso a algum bem da sociedade moderna. Radio, TV, saude, roupas.
Podem ter menos que outros, mas mais que teriam na idade média.
Ou seja, é a ciencia (e não a religião) a serviço da humanidade.
Vc não entendeu: 50% da Humanidade NÃO TEM ACESSO NEM A ENERGIA ELÉTRICA!!!
Quanto mais à rádio, TV, saúde, roupas…
aguiarubra,
Poste o link com essa informação dos 50%.
E vc quer dizer que esses 50% andam igual ao que andavam na idade média, com roupas de pele ou de lã tecida á mão???
Lamento, mas nem na áfrica isso acontece mais!
E o que disse e repito, mesmo os mais carentes tem alguma melhora em relação que tinha alguém na Idade Média, por ex!
Ou seja, o desenvolvimento científico trouxe algum tipo de melhoria.
Ao Nuno: algumas pessoas usaram a Ciência para bem, já outras , criaram armas de destruição em massa. Já a questão da ONU, quem viver, verá.
Quem viver verá? E onde vc viu isso pra se embasar numa teoria tão estapafúrdia sobre a ONU?
Pode colocar aqui as fontes…
Só tenho uma coisa a dizer: o ser humano levou 1 milhão de anos para evoluir, a informática leva 3 semanas …
Sem dúvida! Não há pq não acreditar que no futuro computadores não possam ter QI de 200, 300..
Provavelmente o próximo gênio da humanidade será um robô!
Aqui no Hypescience há um artigo que trata de um software com “Q.I.” de 150!!!
Realmente não cheguei a ler. Mas por hoje, um QI de 150 é muitas vezes em uma área específica. Mas no futuro isso pode mudar e se extender pra áres de raciocínio lógico, abstrato, matemático…
Teoricamente não existem limites pra onde um computador poderoso possa chegar.
Como eu disse antes, o futuro gênio ou vai ser uma máquina ou um ciborgue.
Limites há, sim: a da LEI DE MOORE!!!
Mas eu acabo de ler um artigo interessantíssimo de autoria de Marcus du Sautoy (trad. Paulo Migliacci) na Folha de São Paulo (8/abr/2012, pg. 4 – Ilustríssima) intitulado O CÉU É O LIMITE: O ROBÔ QUE VENCEU UM PROGRAMA DE AUDITÓRIO.
Depois que eu responder aqui, vou ver se esse artigo está disponível na web.
No último parágrafo está escrito:
“…A comunidade da inteligência artificial já não está obcecada com a reprodução da inteligência humana, produto de milhões de anos de evolução, mas sim com a evolução de algo realmente novo e potencialmente muito mais interessante…”
Quando falamos de IA,o assunto sertamente é complicado e de muitas duvidas.O ser humano que é a especie dominante ,inteligente e supostamente racional,tem conciencia do que faz, mesmo assim destroi o meio em que vive ,mata seu semelhante tudo com o conhecimento do serto e errado burlando as leis da natureza que o criou!Agora IA para min é muito mais que um simples programa que com um software obedece o hemem, mas sim a que vai tomar decisões próprias!!! Ai sim é que vem a preocupação em as maquinas querer dar uma rasteira no homem.
Tamos lascados mesmo,sem comments…..
Hoje somos totalmente dependentes do equilíbrio da natureza e de máquinas que construímos, a natureza nos estamos acabando e as máquinas evoluindo, da dependência pra dominação é um passo, basta mais alguns anos de tecnologia e no dia em que as máquinas aprenderem a se programar, ao seu livre arbítrio, poderemos ver o que acontece… elas não dependem do equilíbrio da natureza mesmo, espero não estar mais aqui!
“As máquinas respondem aos programas. Se ela for programada para matar, quem de fato é o assassino é o seu programador. Ficamos bem longe do questionamento inicial. Não são as máquinas que dominam o homem. É ele que as utiliza como instrumento de eliminação, mesmo que isso não faça a menor diferença para a vítima sob a alça de mira de um robô bélico.”
O problema nessa afirmação são 2:
– Primeiro o autor está pensando como nos dias de hoje, onde programas são feitos por homens. Isso NÃO acontecerá no futuro, qdo os programas se tornarem tão complexos que somente sistemas especialistas será capazes de fazer novos cérebros positrônicos (vamos chamá-los assim em homenagem ao grande Asimov).
Ou seja, serão máquinas programando máquinas! Nós perderemos o controle da sua programação.
– O 2o problema é que essa programação pode ser tão complexa que significa um numero quase infinto de escolhas, da mesma forma que a estrutura do nosso cérebro foi programados pela genética. Ou seja, nós não somos nada mais que computadores biologicos incrivelmente complexos.
Não há pq acreditar que no futuro robôs serão menos complexos que o homem é hoje. Na prática poderão fazer qualquer coisa que o homem faz e até mais!
Ou seja, não podemos garantir que eles um dia não possam se virar contra a humanidade.
O Homo Sapiens pode ser um construtor de máquinas e, até mesmo, ser engolido por uma “metafísica” das máquinas, onde esse cenário de máquinas substituindo o Homo Sapiens pode muito bem ocorrer.
No entanto, a Natureza não é uma máquina: “Genética” é um conceito abstrato, “científico”, ou seja, não tem nada a ver com o “natural”.
“Naturalmente”, após certo período ao qual desconhecemos, o “sumiço” do Homo Sapiens fará a Natureza engendrar (por meios desconhecidíssimos!!!) um novo ser humano “naturalmente” dotado de consciência: talvez emerja do próprio seio de uma civilização totalmente maquínica, a lá I. A. – Inteligência Artificial.
Afinal, a vida não vai deixar de evoluir por causa de “automatismos” sem vida que eventualmente a possam substituir.
Imaginar que a Natureza é um tipo de “lógica humana” é outra forma de antropomorfismo mal disfarçado em máquinas robóticas.
Isaac Asimov sabia o que fazia ao criar o personagem “Robbie”, em seus contos no livro “Eu, Robô”. Examine-o mais de perto e verá o quanto ele é diferente de seus congêneres “autômatos”: ele tá vivo…e pensa…e sente!!!
No filme “O Homem Bicentenário” e em “Eu, Robo” isso está bem mais patente, embora tenham deturpado a obra original de Asimov.
Na série “Fundação” vc pode acompanhar as peripécias de robos sencientes, que poderia ser até mesmo Robbie aperfeiçoado através dos tempos!!! Nem mesmo “Data”, do seriado Jornada nas Estrelas – A Nova Geração (que também tem um cérebro positrônico) se aproxima de Robbie!!!
Um possível ponto de ruptura entre a máquina e o próximo substituto do Homo Sapiens está em “Jornada nas Estrelas – O filme”, onde o personagem “Vger” evolui graças ao auxílio de dois seres humanos apaixonados!!!
Consider isso MUITO SUGESTIVO!
Nossa e engraçado ouvir o povo debatendo essas coisas garanto que quanto isso ocorrer de programas de IA criando programas tambem de IA em ambito geral porque pra mim tem de ser geral. para ela dominar os homens ja nao existirar ninguem neste mundo todos ja morrrerao rsrs.. programas de IA atendem a areas expecificas nunca terao capacidade congnitiva igual ao do ser humano que aprente com erros acertos com sua capacidade congnitiva , intuisao e outras coisas mais.
Junior,
Realmente porgramas especialistas são, como o próprio nome diz, especializados numa determinadfa área. Eles podem até substituir o ser humano numa especialidade mas não no geral.
Agora isso não quer dizer que robôs dotados de IA não possam ser tão ou mais inteligentes que o ser humano. Não há nenhuma razão, a não ser o nosso orgulho e egocentrismo, pra duvidar que um dia as máquinas serão tão ou mais inteligentes que o ser human.
Sobre aprender sozinho com os erros já não é ficção.
http://tecnologia.terra.com.br/noticias/0,,OI4822189-EI12886,00-Pesquisadores+criam+robo+que+aprende+tarefas+sozinho.html
O problema é que as pessoas ainda acreditam em “energia vital”, onde se acreditava que só seres vivos eram capazes de sintetizar compostos orgãnicos. Hoje, como milhões de compostos orgânicos sintéticos, sabemos que isso é uma tremenda bobagem.
Mesmo assim ainda continuamos acreditando que a inteligência é uma propriedade exclusiva dos seres vivos e em especial do homem. Ou seja, que só os seres vivos tem a “energia vital” da inteligência.
Depois de perdermos pras máquinas no trabalho mecânico e no cálculo, logo descobriremos, pra assombro de muitos como vc, que inteligência nada tem de exclusivo e que logo seremos superados por computadores no último nicho que ainda resta ao homem.
“Inteligência” em máquinas é outra forma de antropomorfismo animista.
Nós seremos superados pelas máquinas em poucas décadas. Que diz isso nao sou e sim o proprio Ray Kurzweil.
Ai temos 2 caminhos, um nos tormarmos ciborgues e a outra deixar as máquinas fazerem o nosso destino.
Pois bem, neste último cenário cedo o tarde o conhecimento vai ficar totalmente em poder das máquinas. Afinal, pq estudar se a maquina faz mais e melhor? Aprender e trabalhar não serão mais necessários pra sobrevivência. Mais, se tornarão inúteis pq as máquinas serão melhor que nós em tudo!
Seria o mesmo que treinar corrida pra competir com um carro. Pura perda de tempo! Um carro é mais rápido e mais forte que qualquer homem. Com a inteligencia acontecerá o mesmo!
Com isso a humanidade passará a depender das máquinas e será cada vez mais embrutecida e burra.
É provável que apesar da boa vida, o tédio torne brigas e pequenas guerras algo comum.
Mais ainda, a humanidade se tornará um PSEO pra o planeta sem nada dar em troca.
Por isso, apesar de essas maquinas provavelmente terem as 3 leis da robotica, elas podem decidir exterminar a humanidade. Não com guerras e sim simplesmente esterlizando a humanidade de forma silenciosa.
Esse me parece um cenário plausivel se a humanidade seguir o caminho do menor esforço, de deixar o controle com as máquinas!
O 2o cenário, como não acredito que o homem deixe outros tomarem na mão o seu destino, será nos tornamos ciborgues e, depois quem sabe, no final da vida do corpo organico, nos tornarmos andróides.
Esse pra mim é o cenário mais provável.
Agora qdo isso acontecer, surgirão outras perguntas interessantes.
Qto androides a humanidade pode ter? Quem decidirá qtas máquinas seráo fabricadas? Existira um governo ou cada máquina será autonoma e totalmete livre?
Sensações e necessidade como sexo, água, comida e até musica serão coisa do passado.
Essa nova humanidade cibernética será mais pacifica e desenvolvida que jamais foi, mas talvez menos bela que é hoje com toda a sua heterogenidade e defeitos.
Se isso acontecer enquanto eu estiver vivo, sem dúvidas eu virarei um “ROBOCOP”…rsrsrsrsrs
Já perdi a graça em ser um ROBOCOP no futuro próximo, depois de assistir O PREÇO DO AMANHÃ…
si tiver uma robotica com todas as caracteristicas feminina de uma sofia loren,bem que vou encomendar uma lá para casa.
nao se preocupem, seremos dominados e escravizados por seres extraterrenos antes disso acontecer……
Já existe, pelo menos na ficção. É o filme Cherry 2000, onde as amantes são robôs :0)
http://en.wikipedia.org/wiki/Cherry_2000
Esse filme pode ser “puxado” do site BAIXAR RAPIDO.NET
Há 4 opções: recomendo a opção “Uploaded”.
O meu maior temor é esse fato de misseis nucleares controlados por uma unidade de IA porque pelo que sei todo sistesma ou programa por mais seguro que seja esta vulnerável a virus,o que teoricamente poderia ser criado por algum hacker terrorista afim de assumir o controle de tais misseis,a história humana é marcada por grandes conflitos bélicos,o uso da força como meio de criar uma sociedade livre é totalmente auto destrutivo,e os homens além de criar armas cada vez mais letais e destrutivas ainda querem deixar nas mãos de máquinas!!
Lamento informar a todos, mas já estamos sendo dominados pelos “robôs e máquinas”.
Importante não é como se apresentam as máquinas, mas o que elas representam hoje.
Se pegarmos a definição:”conjugação pós-moderna entre a inteligência artificial e a estupidez natural” veremos que as máquinas são:
– A burrocracia
– A corrupção
– As de cobranças de taxas e impostos
– A da dominação e destruição do meio ambiente em nome das indústrias
– A da TV, rádio, revista pró-elitistas
– As do petróleo, autos, fármacos, ARMAS etc etc etc
A sede dos robôs são:
– A Presidência
– O Senado
– O Parlamento
– As Câmaras de deputados e vereadores, apesar que alguns tentam desentortar essa história, mas acabam sendo esmagados pelos demais e pelas “leis” impostas, plenas de emendas constitucionais e medidas provisórias.
– Os artistas e apresentadores de TV, radio, midia em geral que só falam e mostram aquilo que interessa a quem está no Poder
– SOLDADOS E SEUS GENERAIS
Sem contar ainda com os:
-Sambistas e carnavalescos com seus temas “amornantes”, tentando jogar panos quentes e
-Famosos times de futebol, com seus jogadores-robôs
Não vai dar tempo de sermos dominados pelas máquinas, o fim virá antes…
E o começo depois…
Seremos Dominados Pelas Máquinas?
Este é o tópico.
Seremos ?????
Ja estamos.
OU A MÁQUINA FAZ OU NADA FAZEMOS.
A ERA DIGITAL TEM DIAS CONTADOS,ISSO JA OCORREU.
Seres inteligentes do passado deste planeta deram mostras de serem mais evoluidos que a era atual.
Por isso suas gravações ficaram em pedras.
PEDRAS TEM DURAÇÃO ILIMITADA
Era digital tem como chefe o sol e ele é de origem EXTERNA,incontrolavel para o humano.
BEM,o tempo logo mostrará mais uma vez que o ser humano continua sendo simplesmente um APRENDIZ,E UM MAU APRENDIZ.
P.: “…OU A MÁQUINA FAZ OU NADA FAZEMOS…”
Comentário: Pois é! Logo, logo, a Matrix estará por toda parte mesmo!!!
Vide o documentário “Da Servidão Moderna”, acessível pela internet.
Ela começa assim: “…A servidão moderna é uma escravidão voluntária consentida pela multidão de escravos que se arrastam pela face da terra.
Eles mesmos compram as mercadorias que os escravizam cada vez mais. Eles mesmos procuram um trabalho cada vez mais alienante que só lhes é outorgado se demonstram estarem devidamente domados. Eles mesmos escolhem os mestres a quem deverão servir…”
Portanto, quando os robôs estiverem “inteligentes” o suficiente, muitos o escolherão como mestres a quem servir.
Curiosamente, o termo “robô” é o aportuguesamento da palavra tcheca “robota”, que significa “escravo” e identifica o indivíduo que está submetido a ‘trabalho forçado’.
No andar da carruagem, o aperfeiçoamento dos robôs pode nos levar a uma versão do cenário de Matrix, onde nós mesmos pediremos para que nossos cérebros sejam retirados de nossos ‘inúteis’ corpos e enfiados em camaras especiais sustentados por computadores “até que a morte nos separe”…
P.: “…– Será que um dia os seres humanos serão dominados pelas máquinas?…”
Resp.: já o somos! A questão real é se algum dia a máquina vai substituir o Homo Sapiens, como a próxima etapa da evolução da Humanidade (?).
Num futuro bem próximo, como escreve Ray Kurzweil em “A Era das Máquinas Espirituais”, as diferenças entre homem e máquina não serão mais claras e distintas.
Talvez o cenário de “I.A. – A Inteligência Artificial”, onde o ser humano provoca sua própria extinção e as máquinas “sobrevivam”, tenha mais probabilidade de ocorrer do que o cenário de “Exterminador do Futuro”, onde máquinas com chips militares “sencientes” decidem que os humanos são obsoletos e considerados inimigos por conta do complexo de Frankenstein.
“The Matrix” é otimista demais! No nosso mundo “capetalista neo-liberal”, onde só 25% da Humanidade “tem vez no sistema”, a tendência preponderante é que se realize o cenário asimoviano do exo-planeta “Solaria”, onde meia dúzia de humanos (que odeiam contato pessoal!!!) são servidos por milhões de robots! O “resto” da “escória humana” viveria em “Aurora”…
P.: “…É evidente que este questionamento apresenta vários desdobramentos, incluindo o aspecto social do desaparecimento do emprego, como consequência da paulatina substituição do homem pela máquina, seja na lavoura na qual tratores e colheitadeiras competem com o trabalho manual ou na indústria onde a automação vem substituir as atividades pesadas e repetitivas…”
Comentário: é evidente, também, que este desdobramento não é nada secundário, perante o “sensacionalista e polêmico” complexo de Frankenstein.
P.: “…Porém, mesmo sendo repetitivas e pouco imaginativas estas histórias que povoaram os primórdios da FC alimentam o imaginário de muitos defensores das teorias da conspiração e é um assunto também em pauta nas conversas de corredor dos seminários científicos ou encontros de tecnólogos…”
Comentário: tenho algo “repetitivo” e “pouco imaginativo” prá vc comentar nas conversas de corredor dos seminários científicos e encontros de tecnólogos, geralmente alienados do que acontece fora de suas torres de marfim de maravilhas tecnológicas a disposição de cada vez menor parcela da Humanidade “tão querida”:
– “História das Coisas”
– “Da Servidão Moderna”
– “Zeitgeist”
Todos acessíveis pela internet. Se ainda tiver alguma dúvida a respeito da credibilidade desses documentários, pode assistir “TRABALHO INTERNO”
P.: “…Eu geralmente contraponho as teorias da dominação com o argumento de que a automação exerce um papel crucial na redução dos custos da produção e no aumento da segurança do trabalho e presta um auxílio inestimável na melhoria da qualidade de vida…”
Comentário: talvez seja pedir muito, mas leia o “teórico” Boaventura de Souza Santos em “OS PROCESSOS DA GLOBALIZAÇÃO” (também acessível pela internet) e conclua se é conspiração ou não o que ele escreve, conferindo antes com o notíciário:
– BBC Brasil Notícias:
1% da população adulta detém 40% da riqueza mundial, indica estudo
– Entrevista com o Marcola (obs.: essa entrevista é creditado a Arnaldo Jabor, mas ele nega. Descobri que é uma modificação que fizeram de uma notícia real veiculado de um fato real ocorrido no Recife, se não me engano, em 2005. Embora seja uma peça jornalistica forjada, é um resumo do que significa “Ciência Aplicada” ao mundo real, que sub-“jaz” às propagandas “encantadas” que a mídia faz dos progressos científicos “a favor da bem-aventurança humana”… (o termo “humano”, aqui, parece demais com a definição de “humano” no exo-planeta Solaria de Asimov!!!).
Vai descobrir ao que leva o argumento: “…a automação exerce um papel crucial na redução dos custos da produção e no aumento da segurança do trabalho e presta um auxílio inestimável na melhoria da qualidade de vida…”.
“Melhoria da qualidade de vida” pode significar o extermínio de 6,5 bilhões de seres humanos em prol da “boa vida” da faixa norte do planeta, onde 10% da Humanidade vivem em paises como E.U.A., Europa e Japão, eliminando-se o ‘resto inadaptado’ (em nome de “São” Darwin, é claro.)
P.: “…Não é segredo que, mesmo em plena crise, o governo norte-americano (só pra citar um exemplo) tem investido milhões de dólares em sistemas automáticos para aplicação bélica. Sistemas de IA foram e estão sendo desenvolvidos para pilotar tanques, aviões e – sinta o arrepio na espinha – mísseis nucleares.
Evidentemente isso não se restringe apenas à política bélica norte-americana. Esse tipo de pesquisa tem avançado de forma acelerada no mundo inteiro.
Daí a paranoia!
Tenho um colega que ao discorrer sobre a aplicação bélica dos agentes inteligentes da IA preconiza:
“Cada vez que se produz uma máquina inteligente com a intenção de matar se pressupõe a hegemonia da estultice humana.”
Sintetizando – é a conjugação pós-moderna entre a inteligência artificial e a estupidez natural.
Mesmo neste cenário distópico é possível contrapor:…”
Comentário: fico intrigado que, no que se segue a “contrapor”, não se tenha citado O FATO de que um dos objetivos da I.A. é aperfeiçoar softwares de máquinas que já se AUTO PROGRAMAM hoje em dia (leia o artigo da internet “Os Últimos Dias De Uma Raça Chamada Humana”).
Esse cenário foi explorado em filmes como:
– O Exterminador do Futuro (Terminator,1984)
– Jogos de Guerra (War Games, 1983)
– Colossus (Colossus : The Forbin Project, 1969)
Os Robos de Asimov tem diretrizes como:
1ª Lei : Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal.
2ª Lei : Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem a primeira lei.
3ª Lei : Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a primeira e a segunda leis.
Lei Zero : Um robô não deve causar mal a humanidade ou, por omissão, permitir que a humanidade sofra algum mal, nem permitir que ela própria o faça.
Mas o próprio Asimov escreve seus contos sobre robos mostrando como falhas no funcionamento dessas leis podem levar os robos a cometerem crimes contra os humanos! Há até uma “robopsicóloga” especializada nos conflitos que essas leis causam nos robos!
E robos como o do conto “O Homem Bicentenário” não funcionam atreladas a elas!
Só que ele é “bonzinho demais” para ser real.
P.: “…No entanto é só para isso que servem as máquinas inteligentes? Matar e dominar? Não somos servidos todos os dias de forma construtiva por recursos da IA? Desde os programas de busca na Internet, caixas eletrônicos e até robôs cirurgiões?
O que nos leva ao segundo e terceiro desdobramentos da nossa questão. Desdobramentos esses também criados por Asimov:
Comentário: Asimov a parte (com seu adorável mundo de fantasia), para minha sensibilidade de “pós-moderno globalizado”, na real tenho que seguir, roboticamente, as “diretrizes neo-liberais de vida”, para não me transformar em ‘morador de rua’!
A parafernália tecnológica que me cerca existe para “garantir” os lucros de meus patrões, isso sim!!!
E minha saúde, nessa cidade poluida em que vivo (São Paulo), ajuda a enriquecer os patrões das multinacionais das indústrias farmacêuticas, servidas por “médicos-quase-robos” que enfiam na gente remédios para doenças “criadas” pela má alimentação (contaminados por “científicos” agrotóxicos) e pelo ritmo “psicótico” de trabalho (vide “História das Coisas”, sendo que “coisas” somos nós mesmos!!!).
Precizamos *Ugente de robos, estamos muito carentes de robos nas ruas de nossas cidade, para enfrentar bandidos, assacinos,traficantes, valentões, que infestam nossas cidades, precisamos deles tambem nas prospcção de petróleo no fundo do oceano, eles tem toda pespquitiva de substituir o homem em tal profundidade eminentimente, será uma imensa vantagem os Srs. da petrobrás iniciarem isto rapidamente, ao bem do pressal e seu acionistas, e tambem mesmo para npsso Pais. E na corrida espaçial, estamos totalmente carente em colocar um homen para pesquisar o solo de venus, mercurio, neturno, saturno, precisamos entra lá, porque não mandar os rrôs imediatamente pizarem no solo destes e traseirem e busca o que nós poringuanto não podemos fazer? isto é coisa séria srs. traremos lucro imediato se assim fizermos, já estamos falando dimais a este respeito aquanto tempo vejo falar nisto, ja era para estarmos fabriicando rrobôsa em escala, Honde estão estes rrobôs? temos que fabrica-los mais do que carro será felizmente mais lucrativo do que carro e trara sem duvida nenhuma mais rentabikidade do que qualque industria, ***Venhão Rápidos RRRROÔÔ^bO^^SSS, o pressal e o espaço esperam por voces.
O bom ou mau uso da máquina é óbvio que depende de quem a criou (humanos, por enquanto). Assim como o bom ou mau uso da internet. As ferramentas estão aí.
Eu pessoalmente agradeço diariamente por não ter nascido na Idade Média e ter acesso a todas essas máquinas formidáveis: celular, automóvel, máquinas de lavar tudo quanto é coisa que a mente de alguém criou para me liberar de trabalhos mecânicos e pesados.Para mim os robôs e as leis da robótica (veja Asimov)são bem-vindos.
Sempre fui convicto de que a ciência não pode ser detida, mas quando o assunto é inteligência artificial confesso que tenho medo e acho extremamente perigoso perdermos o controle das maquinas. Nesse caso seria nosso fim?
Mto bom.
Concordo plenamente com a visão de que as maquinas estão “aí” para facilitar e atingir o bem estar do homem. Muito bem colocado o fato de que se as maquinas forem utilizadas como equipamentos bélicos, o verdadeiro assassino é o programador.
Mas então se as maquinas nada mais são que a reprodução de seus projetistas, não seremos nós dominados pelos projetistas?
Essa mania de temer a tecnologia pode ser infundada, mas não é muito impressionante que ela seja tão forete. Chega a ser justo que o povo de um planeta que foi barbaramente castigado pelas tecnologias bélicas tenha certo receio quanto as recentes tecnologias. Claro que o cinema americano não colabora muito para resolver esse problema.
Talvez após um longo processo cultural seja possível que a humanidade se livre desse preconceito e tome conciência de que as tecnologias recentes podem não apenas facilitar as nossas vidas, mas ainda resolver os mistérios que à milênios assombram a humanidade. Afinal, não foi com telescópios que descobrimos as estrelas?