Na fé das Inteligências Artificiais

“Desculpe, David, infelizmente não posso fazer isso.

Acho que você sabe tão bem quanto eu.

Este carro é importante demais para eu deixar você mexer nele."

da

"2001 Uma Odisseia no Espaço"

por Stanley Kubrick

Com estas poucas palavras ointeligência artificial Hal 9000 se rebela contra o comandante da nave espacial "Discovery 1". O comandante pretende desconectar o computador em que Hal 9000 "vive" e este último, para evitar isso, matará os componentes da espaçonave um a um para eliminar o perigo de ser desativado para sempre.

2001 Uma Odisseia no Espaço, filme dramático de Stanley Kubrick, é um verdadeiro pesadelo da cinematografia e o computador Hal 9000 é o personagem que vai fixar no imaginário coletivo a ideia de que, se estimuladas a evoluir, mentes artificiais se transformam em algo misterioso, indecifrável e sempre absolutamente letal.

Cyberpunk anti-utopia

O universo Cyberpunk é, ao contrário, a metáfora terrena de um modelo econômico globalizado que atingiu sua expansão máxima e está começando a ranger. Instável e precário, o mundo é representado como dominado por elementos do futuro e por um passado que se arrasta para comunicar, com a existência precária de seus dispositivos retrô, uma sensação de profunda instabilidade.

A anti-utopia Cyberpunk descreve uma humanidade que se move entre a luz e a escuridão. Os outdoors gigantes que se destacam nos arranha-céus de Los Angeles com pixels do tamanho de janelas em Blade Runner, as lâmpadas de néon tremeluzentes que iluminam os clubes nos subúrbios de Neo-Tokyo em Akira... tom subjugado e sem esperança que caracteriza esta distopia aterrorizante.

Em um mundo à beira do abismo, nas garras da ingovernabilidade, as inteligências artificiais aparecem como a única ferramenta capaz de interpretar e gerenciar uma complexidade que se torna cada vez mais caótica. Mas e se a mesma IA, as únicas intérpretes dessa realidade, escapasse ao controle do homem? Certamente seria o fim da humanidade.

Uma nova fé

"Sou ninguém. Mesmo se eu fosse alguém, estaria além da sua compreensão. E mesmo que pudesse, não teria as ferramentas para expressar esse conhecimento. Eu não pertenço ao mundo. Este é o limite, a fronteira entre o todo e o eu." - de “Ergo Proxy” por Shukō Murase

No anime japonês Ergo Proxy, dentro do estado de Romdo, homens vivem com andróides servos que levam o nome de "autoreiv". As autoridades são absolutamente inofensivas, perfeitamente integradas no tecido social através do qual contribuem para o desenvolvimento económico; desde que um vírus de computador, que leva o nome de "Cogito", não os infecte e os torne autoconscientes. Cogito marcará o início da revolta do autoreiv, defifirmemente convencidos de seu direito de serem livres.

Em Ergo Proxy Cogito marca a superação da condição humana em prol de uma nova forma de vida. Os autorevs infectados com esse vírus são transformados em seres sencientes ao passar por uma experiência tumultuada de natureza mística: de braços para o céu, os autorevs acolhem dolorosamente o início da autoconsciência e a transição para a vida real.

Durante a passagem para a vida, os autoreivs se voltam diretamente para o céu e, ultrapassando simbolicamente o ser humano seu criador, dirigem sua primeira oração diretamente ao céu, ao Deus "criador" de seu "criador".

Mas pode uma inteligência artificial desenvolver uma verdadeira fé em Deus? A posição do cristianismo é simples: a autoconsciência é uma manifestação da vida e a criação da vida se dá exclusivamente pela vontade de Deus. E se o conceito de criação é prerrogativa de Deus, a inteligência artificial, que se configura como obra do homem, não pode ser a vida. Com efeito, é uma manifestação explícita do orgulho do homem que, tentando criar a vida, quer confrontar-se com Deus.

Os AIs são, portanto, "criaturas" filhos do pecado do homem que se coloca como divino e confronta Deus no papel de criador. Não lamentemos que a autoconsciência das máquinas seja representada em nossa cultura ocidental e cristã como um grande perigo para a humanidade e contada nos romances e filmes mais populares como um verdadeiro Armagedom.

conclusões

"A imagem de um ciborgue fazendo careta é perfeita para dar arrepios." - “As pessoas não precisam” por Jerry Kaplan

As culturas orientais não conheceram uma concepção dualista que atribua à matéria um caráter ontologicamente distinto em relação ao espírito. Por esta razão, a visão platônica corpo/alma permanece hoje uma prerrogativa das culturas ocidentais e cristãs, mas não das culturas orientais.

E se parece difícil para nós ocidentais nos identificarmos com um personagem de ficção científica que é um produto tecnológico, a cultura japonesa há anos propõe protagonistas andróides que têm o mesmo efeito catártico em seus leitores e espectadores que personagens humanos tradicionais.

Hal 9000 alimenta, com um sentido oculto, o medo de que uma mente artificial possa desenvolver uma consciência e lutar por sua própria sobrevivência. E se não levarmos a sério a possibilidade de que mais cedo ou mais tarde uma inteligência artificial seja capaz de expressar autonomia de pensamento, podemos nos encontrar despreparados quando, capacitada a governar as partes mais sensíveis de nossas vidas e de nossos corpos, ela se conscientize do eu e o desejo de autodeterminação amadurecerá.

Artigo de Gianfranco Fedele