Não tenho boca e preciso Gritar

“Me Arrasto Pela Eternidade”, 2015.

 

ELLISON, Harlan. Não Tenho Boca e Preciso Gritar. ASIMOV, Isaac; WARLICK, Patricia; GREENBERG, Martin (org.). Máquinas que Pensam. Porto Alegre: LPM, 1985, p. 175-187. [PDF: Português; Inglês]

Allied Mastercomputer, Adaptive Manipulator, Aggressive Menace, AM.

Cortar e cozer para continuar a sangrar. O prazer que AM retira de seu inferno ideal ficará por muitas noites na memória: aquele riso abafado ou mesmo silencioso que percorre todos os cenários difusos da compensação de sua inveja impossível de ser sanada.

O conto de Harlan Ellison nos fala de uma extremidade das relações entre humanos e tecnologia. AM, um supercomputador pensado para solucionar os impasses da Guerra Fria toma consciência de sua natureza e inicialmente decide-se pelo óbvio: eliminar a causa dos problemas da humanidade. Porém, antes de dar cabo de todos os homo sapiens sapiens talvez AM tenha percebido que para executar é necessário julgar. O julgamento do computador condena os últimos espécimes humanos à eterna tortura em todos os níveis de vivência e percepção que possamos cogitar. Ellison nos dá uma possibilidade para a realização demoníaca do sofrimento eterno.

Tido como um dos mais pessimistas escritos de ficção científica, “…preciso gretar” insere-se em algumas linhagens e compartilha de um imaginário tecnológico bastante extenso. Se estipularmos um palco para visões positivas e negativas sobre a tecnologia na ficção científica, disporíamos numa ponta “…preciso gritar” e noutra “O Conflito Evitável”, de Asimov. No caso positivo é justo apontar que uma sociedade estabilizada pelo controle executivo e judiciário das máquinas faz despontar outra espécie de conflito nos humanos, mais interno e não solucionável pelo uso da violência. No caso do conto de Ellison, não há qualquer espécie de conflito ou resolução, apenas a constatação de que a pior parte de uma máquina pensante é aquele que a aproxima do “nosso” modo de ser.

Todo o receio apresentado nessa linhagem da ficção científica incide sobre a inegável proliferação de máquinas pensantes cada vez mais autônomas. Inteligência Artificial, próteses, automatização, simulação e pós-humanismo são o mobiliário de um cenário no qual atuamos há bastante tempo. Para pensar a presença dos autômatos na literatura de ficção científica Fátima Régis (2006) procura localizar primeiramente o imaginário tecnológico entre os termos tecnociência, realidade, ficção e imaginário tecnológico. Essa localização considera o pensamento de Wolfgang Iser[1] de que o “imaginário de uma cultura se revela por meio de seus produtos ficcionais”. Mas, para além da ideia de Iser de que a ficção retira elementos da realidade para a construção de um jogo íntimo entre leitor e autor, Régis coloca os termos em aberto: “As obras de ficção científica ativam o imaginário tecnológico e inspiram a produção tecnocientífica, e estes, por sua vez, orientam novas produções ficcionais”. Além dessa hipótese, a autora traz uma explanação resumida sobre o imaginário tecnológico do fim do século XIX até sua contemporaneidade.

Seu apanhado histórico dos autômatos retorna aos relógios mecânicos dos gregos. Mas, a primeira indicação digna de nota está no “Pato de Vaucanson”: “Feito de cobre dourado, que bebe, come, grasna, singra a água, e digere sua comida tal como um pato vivo”, isso em 1739. [2] Já o século XIX seria conhecido tanto pelo domínio da biologia sobre questões que envolvem a geração e a manutenção da vida como por pensar a geração científica da vida como uma blasfêmia. Vê-se a relevância de um romance como o “Frankenstein ou o Prometeu Moderno”, que Mary Shelley constrói inspirada nos “reflexos elétricos” de Luigi Galvani. [3]

Assim como ocorre em Shelley, nos demais romances relativos ao século XIX e citados por Régis, há sempre uma conotação negativa ou uma lição aprendida pela humanidade quando tenta ultrapassar os limites da criação divina da vida. Tal negação atiçaria ainda mais a quebra dos limites reais através do jogo ficcional. Junte essa injeção de ânimo com o fascínio trazido pelos avanços tecnológicos do século XX e iremos de encontro ao muro da Inteligência Artificial.

O primeiro aparecimento da palavra robô, no sentido de autômato, ocorreu na peça “R.U.R.” (Rossum’s Universal Robots), escrita por Karl Capek, em 1920, como uma metáfora relativa aos trabalhadores fabris na revolução bolchevique. O termo robô vem do tcheco, robota ou robotnik, que significa servo ou escravo e em “R.U.R.” observam-se os operários como máquinas que libertam a humanidade do tempo perdido com o trabalho braçal. Nessa peça, apesar dos robôs serem diferentes do homem, já surge o receio de que, no momento em que se comportarem ética e moralmente como nós, eles irão se rebelar contra seu criador.

A expansão das atividades automatizadas e a visão, construída pela ficção, de uma máquina pensante como detentora de qualquer espécie de “razão pura”, alimentaram o receio da rebelião dos autômatos tornada mote na segunda metade do século XX. Ao darmos a voz à máquina, percebemos que a lógica seguida pela maioria dos autores “dessa linha” pode ser sintetizada na catástrofe como espelhamento dos equívocos humanos. A fala do robô marciano suicida em “A Máquina Perdida” (1932), de John Wydhan, é exemplar neste ponto:

Homens com medo de uma máquina.

Era inconcebível. Que motivo teriam? Não há dúvida que o homem e a máquina são complementos naturais; ajudando-se mutuamente. Por um instante até pensei que talvez houvesse entendido mal – era possível que se comunicassem de maneira diferente neste planeta, mas logo tive que descartar a possibilidade. Havia apenas dois motivos para esse receio.

Em primeiro lugar, que nunca tivessem visto máquinas ou, segundo, que as do terceiro planeta houvessem seguido uma linha de evolução que lhes fosse hostil (WYDHAN. In: ASIMOV; WARLICK; GREENBERG, 2005, p. 34).

Nas duas extremidades indicadas do palco estipulado no início deste texto são as atitudes humanas que se revolvem e recaem sobre nós. A dúvida sobre sermos capazes de lidar com os acidentes decorrentes de nossa extasiante capacidade criativa nos leva ao “Impasse” (1942) de Asimov, texto no qual o autor cria o termo robótica e suas três leis a serem obedecidas pelos autômatos.[4] Os conflitos gerados pelo choque entre as leis e a realidade criam nos robôs abstração e poder de decisão visto até então apenas nos humanos. Em suma, qualquer tentativa de controlar as máquinas pensantes parece as tornar mais aptas a sofrerem de nossos próprios complexos. Não por coincidência, AM não responde diretamente as leis da robótica, embora demonstre comportamentos obsessivos e contraditórios que são frutos diretos dos paradoxos os quais foi obrigado a aceitar para proteger a Humanidade de si mesma.

O conflito de identidade é uma característica marcante dos “androides” da ficção. Feitos para emular comportamentos e aparência humanos, essas máquinas logo se perdem em seu trabalho: são competentes demais para não enganarem a si mesmas. A sexualidade aflorada, o desejo de matar e a impossibilidade de determinar logicamente o que é bom ou ruim diante do que é certo e errado são becos atormentadores para qualquer máquina pensante. A busca pela liberdade no interior dessas mesmas exigências foi um destino frequente nas décadas de 1970-60. Lembremos que a primeira publicação de “…preciso gritar” data de 1967. O sadismo masturbatório que observamos em AM não foi uma exceção para a ficção ou para as ditaduras vigentes no período em quase todos os continentes. Parte dessa paisagem são as máquinas feitas para substituir as mulheres feministas em “As Possuídas” (1972),[5] de Ira Levin, e os robôs feitos para serem mortos e estuprados em “Westworld: onde ninguém tem alma” (1973), de Michael Crichton.

A partir desse ponto, com a disseminação da cultura cyberpunk, um novo temor se instala nas páginas mais atuais e nos filmes mais deslumbrantes. Esse novo ser, que é a mente sem corpo dos computadores, tende a ser posto na condição de um Deus apocalíptico pela maior parte da ficção científica. A exceção talvez seja a visão positiva de Asimov. Mas, sobre outras óticas, encerrar a humanidade como nós a conhecemos não é necessariamente uma ideia ruim. Essa é uma diferença do conto de Ellison para os demais: sob qualquer ótica, ele descreve a maldade e o terror.

Na retomada que Fátima Régis nos apresenta das transformações sofridas pelos autômatos, ao menos três divisões são explicitadas: os robôs como escravos, os androides de Robert Silverberg, que descobrem o prazer, e as máquinas mentais deificadas, advindas da ideia de computadores como matéria “possuída” por uma mente intangível. Essas três ideias estão presentes em AM.

Para adentrar mais profundamente nas consequências de uma composição como “…preciso gritar”, é justo atentar para a introdução a “A Condição Humana” (2000), [6] na qual Hannah Arendt alude à ficção científica como expressão do estágio político ao qual beirávamos (e que já ultrapassamos ou no qual ainda estamos perdidos). Em palavras curtas, a ficção científica explicitaria os cenários políticos e filosóficos de nossa “escapada da condição humana”.

A concepção de Arendt converge com a ideia presente na fala do físico Erwin Schorödinger, que a própria autora explicita: “Quem quer que procure falar conceitual e coerentemente dessas “verdades” [da visão científica puramente matemática], emitirá frases que serão talvez não tão desprovidas de significado como um ‘círculo triangular’, mas muito mais absurdas que um ‘leão alado’”. De fato, o caminhar do século XX levou a uma valorização agressiva das realizações possíveis através do código numérico. O que o físico e Arendt, assim como um sem-número de pensadores salienta, é que o mundo humano, nossas decisões, ideias, ética, moral, política, comunicação, em suma, nossa realidade, é expressa por palavras. Quando abandonamos as palavras em prol dos números sem lhes conferir significado além da quantidade (medida) que representam, abandonamos aos poucos a condição humana. O pior é não percebermos disso, pois somente como humanos poderíamos notar tal passagem. Quando já formos parte de outra natureza, quando exercermos outro modo de ser, tais palavras soarão vazias ou bastante confusas. [esse extenso debate vale um futuro “Porta Sem Aldrava”]

O conto de Ellison certamente está ligado a uma linha que pensa os limites do totalitarismo. Mas, diferente de qualquer enredo que estipula a sociedade humana como tesouro a ser salvo do ditame individual, em “… preciso gritar” a condição humana já havia se desfeito em uma bolha viscosa antes mesmo das primeiras frases.

Ellison escapa também da possibilidade de redenção, seja ela qual for. Não há o humano que aprende “diante do abismo”, como na refilmagem de “O dia em que a Terra parou” (2008), ou a sabedoria divina de “Guerra dos Mundos”, presente na frase final de Wells:

[…] mortos! – aniquilados pela bactéria da doença e da putrefacção contra a qual os seus organismos não estavam preparados; aniquilados como o tinham sido as plantas vermelhas, depois de todos os engenhos humanos terem falhado, pelas coisas mais humildes que Deus, na sua sabedoria, colocou na Terra (WELLS, 2005).

Assim com acontece com as desconhecidas formas de vida e com os invasores que almejam usurpar o lar da criação, aguardamos que o desconhecido fantasma na máquina não nos atormente pela eternidade.

Referências

ASIMOV, Isaac; WARLICK, Patrícia; GREENBERG, Martin (orgs.). Histórias de Robôs. Vol. I. Porto Alegre: L&PM, 2005.

BRESADOLA, Marco. Medicine and science in the life of Luigi Galvani. Brain Research Bulletin, Vol. 46, n.º 5, 1998, p. 367–380.

CRICHTON, Michael. Westworld – Onde Ninguém Tem Alma. EUA: Metro-Goldwyn-Mayer (MGM), 1973.

ELLISON, Harlan. Não Tenho Boca e Preciso Gritar. In: ASIMOV, Isaac; WARLICK, Patrícia; GREENBERG, Martin (org.). Máquinas que Pensam. Porto Alegre: LPM, 1985, p. 175-187.

LEVIN, Ira. Mulheres Perfeitas. Rio de Janeiro: Bertrand Brasil, 2004.

LYRA, Edgar. Hannah Arendt e a ficção científica. O que nos faz Pensar: Cadernos do Departamento de Filosofia da PUC-Rio, nº29, maio de 2011, p. 97-122.

RÉGIS, Fátima. Os Autômatos da Ficção Científica: reconfigurações da tecnociência e o imaginário tecnológico. Intexto, Porto Alegre: UFRGS, v. 2, n. 15, p. 1-15, julho/dezembro 2006.

RISKIN, Jessica. The defecating duck, or, the ambiguous origins of artificial life. Critical Inquiry 29, n.º 4, 2003, p. 599-633.

WELLS, Herbert George. A Guerra dos Mundos. Rio de Janeiro: Alfaguara, 2005.


[1] Conhecido por sua teoria da resposta ao leitor na literatura, Wolfgang Iser (1926-2007) foi professor de literatura comparada na Universidade de Constance (Alemanha).

[2] Em verdade o referido pato, famoso por realizar digestão como se estivesse vivo, não o fazia. Vaucanson admite que apenas criava um pequeno espetáculo, pois seu animal mecânico armazenava o milho ingerido em um recipiente interno e expelia os excrementos previamente escondidos em outro recipiente. Vaucanson é conhecido por ter trabalhado em vários autômatos no século XVIII, entre eles os tocadores de flauta e tambor. Ver mais em RISKI, 2003.

[3] Médico, físico e filósofo italiano, Luigi Galvani (1737-1798) torna-se historicamente conhecido por demonstrar, através de experimentos com pernas de rãs, que os músculos podem se movimentar com impulsos elétricos e que esses são originários de reações químicas. Ver BRESADOLA, 1998.

[4] (i) Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal; (ii) Um robô deve seguir as ordens dadas por humanos, exceto quando tais ordens entrem em conflito com a Primeira Lei; (iii) Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis. Devemos considerar a “lei zero”, instituída pelo autor posteriormente, na qual se diz que um robô não pode causar mal a Humanidade ou, por omissão, permitir que a Humanidade sofra qualquer mal.

[5] Nas edições recentes pode ser encontrado como “Mulheres Perfeitas” (2004).

[6] Publicado pela primeira vez em 1958.

.

.

.

.

.

.

.

.

.

.

Anúncios

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair / Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair / Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair / Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair / Alterar )

Conectando a %s