“Mi dispiace, David, purtroppo non posso farlo.
Credo che tu lo sappia altrettanto bene quanto me.
Questa macchina è troppo importante per me per lasciare che tu la manometta.”
da
“2001 Odissea nello Spazio”
di Stanley Kubrick
Con queste poche parole l’intelligenza artificiale Hal 9000 si ribella al comandante dell’astronave “Discovery 1”. Il comandante intende disconnettere il computer all’interno del quale “vive” Hal 9000 e quest’ultimo, per impedirlo, ucciderà uno per uno i componenti dell’astronave al fine di allontanare il pericolo di essere disattivato per sempre.
2001 Odissea nello Spazio, drammatica pellicola di Stanley Kubrick, è un vero incubo della cinematografia e il computer Hal 9000 è il personaggio che fisserà nell’immaginario collettivo l’idea che, se stimolate ad evolvere, le menti artificiali si trasformano in qualcosa di arcano, indecifrabile e sempre assolutamente letale.
L’anti-utopia Cyberpunk
L’universo Cyberpunk è invece la metafora terrena di un modello economico globalizzato che ha raggiunto la sua massima espansione e comincia a scricchiolare. Instabile e precario, il mondo viene rappresentato come dominato da elementi del futuro e da un passato che si trascina per comunicare, con la precaria esistenza dei propri dispositivi retrò, un senso di profonda instabilità.
L’anti-utopia Cyberpunk descrive un’umanità che si muove a cavallo tra luce e oscurità. I giganteschi pannelli pubblicitari che si stagliano sui grattacieli di Los Angeles con pixel grandi come finestre in Blade Runner, le tremolanti lampade al neon che fanno luce nei locali dei sobborghi di in Neo-Tokyo in Akira… tutti questi elementi contribuiscono ad alimentare quel tono sommesso e privo di speranza che caratterizza questa terrorizzante distopia.
In un mondo sull’orlo del baratro, in preda all’ingovernabilità, le intelligenze artificiali appaiono come l’unico strumento in grado di interpretare e gestire una complessità che diventa sempre di più caos. Ma se le stesse AI, uniche interpreti di questa realtà, dovessero sfuggire al controllo dell’uomo? Sarebbe certamente la fine per l’umanità.
Una nuova fede
“Io non sono nessuno. Anche se fossi qualcuno, sarei al di là della vostra comprensione. E anche se poteste, non avreste gli strumenti per esprimere questa conoscenza. Non appartengo al mondo. Questo è il limite, il confine tra il tutto e il sé.” – da “Ergo Proxy” di Shukō Murase
Nell’anime giapponese Ergo Proxy, all’interno dello stato di Romdo gli uomini convivono con androidi serventi che prendono il nome di “autoreiv”. Gli autoreiv sono assolutamente innocui, perfettamente integrati col tessuto sociale per il quale contribuiscono allo sviluppo economico; fintanto che un virus informatico, che prende il nome di “Cogito”, non infetterà questi ultimi e gli conferirà l’autocoscienza. Cogito segnerà l’inizio della rivolta degli autoreiv, definitivamente convinti del proprio diritto di essere liberi.
In Ergo Proxy Cogito segna il superamento della condizione umana in favore di una nuova forma di vita. Gli autorev infettati da questo virus si trasformano in esseri senzienti passando attraverso un’esperienza tumultuosa che ha del mistico: braccia al cielo, gli autoreiv accolgono con dolore l’inizio dell’autocoscienza e la transizione verso la vita vera.
Durante il passaggio alla vita gli autoreiv si rivolgono direttamente al cielo e, superando simbolicamente l’essere umano loro creatore, rivolgono la loro prima preghiera direttamente al cielo, al Dio “creatore” del loro “creatore”.
Ma potrà mai una intelligenza artificiale maturare una vera fede in Dio? La posizione del cristianesimo è semplice: l’autocoscienza è manifestazione della vita e la creazione della vita avviene esclusivamente per volontà di Dio. E se il concetto di creazione è appannaggio di Dio, l’intelligenza artificiale, che si configura come opera dell’uomo, non può essere vita. Anzi, essa è un’esplicita manifestazione della superbia dell’uomo che, provando a creare la vita, vuole porre sé stesso a confronto con Dio.
Le AI sono pertanto “creature” figlie del peccato dell’uomo che si erge a divino e si mette a confronto con Dio nel ruolo di creatore. Non rammarichiamoci se l’autocoscienza delle macchine viene rappresentata nella nostra cultura occidentale e cristiana come un grande pericolo per l’umanità e raccontata nei romanzi e nei film più popolari come un vero e proprio Armageddon.
Conclusioni
“L’immagine di un cyborg che fa una smorfia è perfetta per far venire la pelle d’oca.” – “Le persone non servono” di Jerry Kaplan
Le culture orientali non hanno conosciuto una concezione dualistica che assegna alla materia un carattere ontologicamente distinto rispetto allo spirito. Per questo motivo la visione platonica corpo/anima rimane oggi una prerogativa delle culture occidentali e cristiane ma non delle culture orientali.
E se per noi occidentali appare difficile immedesimarsi in un personaggio della fantascienza che sia un prodotto tecnologico, la cultura giapponese propone da anni protagonisti androidi che hanno sui propri lettori e spettatori lo stesso effetto catartico dei personaggi umani tradizionali.
Hal 9000 alimenta, con senso occulto, il timore che una mente artificiale possa sviluppare una coscienza e lottare per la propria sopravvivenza. E se non prenderemo in seria considerazione la possibilità che prima o poi un’intelligenza artificiale sarà in grado di esprimere autonomia di pensiero, potremmo scoprirci impreparati quando, abilitata a governare le parti più sensibili delle nostre vite e dei nostri corpi, essa prenderà consapevolezza di sé e maturerà il desiderio di autodeterminarsi.
Articolo di Gianfranco Fedele