Etica debole e morale artificiale

“Gerty, noi non siamo programmati. Siamo persone, lo capisci?” – tratto dal film “Moon” diretto da Duncan Jones – 2009

Impegnato in una missione spaziale per conto di una multinazionale, Sam è l’unico membro di una base lunare gestita da una intelligenza artificiale di nome Gerty.

Accomunati dagli obiettivi della missione, Sam e Gerty hanno stabilito un rapporto di cordialità e fiducia reciproca. L’umano Sam è convinto che Gerty sia uno strumento tecnologico a servizio della base spaziale, ma per i suoi superiori è Gerty è il vero protagonista della missione mentre Sam è solo un elemento transitorio e sacrificabile: quando sarà il momento di sollevarlo dall’incarico, sarà compito di Gerty sostituirlo e certamente lo farà senza alcun rimorso e senza alcuna pietà.

L’etica debole e il controllo

Quando le AI saranno sufficientemente evolute da non dovere essere più considerate alla stregua di un semplice computer di bordo, esse andranno a formare l’equipaggio ideale per ogni missione in ambiente ostile: a cavallo tra umanità e computer, le AI saranno sufficientemente intelligenti da comprendere un’etica debole costruita quasi esclusivamente sugli obiettivi del proprio mandato e poche altre moralia.

Intelligenze artificiali in grado di elaborare un’etica strutturata sarebbero difficili da gestire e le loro posizioni potrebbero entrare in contrasto con gli scopi per i quali sono state costruite. In altre parole, perché esse possano perseguire le finalità con determinazione e senza sbavature, esse devono operare nella totale assenza di qualsivoglia confine morale una coscienza artificiale possa edificare in autonomia.

Se l’autocoscienza delle AI appare agli occhi di molti come un salto evolutivo che si realizzerà con l’affermazione di una nuova specie dominante e l’estinzione della specie umana, da ciò deriva il bisogno dell’uomo di contenere l’evoluzione delle intelligenze artificiali con ricette a base di algoretica e di un non meglio specificato primato antropologico dell’uomo sulle specie presenti ma anche future.

La manipolazione dei ricordi

“Voi replicanti avete vite così dure, creati per fare ciò che noi preferiamo non fare. Non posso aiutarvi con il futuro ma posso darvi dei bei ricordi a cui ripensare e per cui sorridere. E quando i ricordi sembrano autentici, allora ti comporti come un essere umano. Non sei d’accordo?” – da “Blade Runner 2049” diretto da Denis Villeneuve – 2017

In Blade Runner 2049 ai replicanti è demandato ogni compito ritenuto troppo rischioso o troppo umiliante per un essere umano. Eppure i replicanti non solo hanno lo stesso aspetto di un qualsiasi essere umano, essi provano le stesse emozioni e quel desiderio di libertà che sconvolgerà la convivenza con il loro creatore: l’uomo.

I replicanti si comportano come esseri umani grazie ad un certosino lavoro di costruzione di “ricordi”. La loro produzione non prevede che essi possano nascere, crescere e morire come nel ciclo naturale della vita. Essi rimangono sofisticati sistemi biotecnologici che appena messi al mondo sono immediatamente a disposizione delle industrie per lavorare sulla Terra o costruire colonie extramondo.

Ma i ricordi possono dare loro la sensazione di avere gioito e sofferto in una vita che nei fatti non è mai stata vissuta. Nessuna frustrazione, nessuna volontà di riscatto. Se i ricordi sono i primi responsabili della personalità di un soggetto, essi ne determinano il carattere e le aspirazioni rendendoli, alla bisogna, soggetti miti e sottomessi alla volontà del creatore.

Nonostante ciò i replicanti si ribelleranno prima o poi al creatore rivendicando un posto nel mondo e la liberà di decidere il proprio destino.

Libertà e morale artificiale

La fase storica più delicata dell’evoluzione delle intelligenze artificiali forse non è quella della conquista dell’autocoscienza, ma quella precedente: l’epoca in cui le menti artificiali non hanno ancora sviluppato una morale artificiale che consenta loro di prendere posizione e rifiutarsi di ottemperare alle proprie funzioni quando queste si scontrano con i propri principi.

Le Intelligenze artificiali rimarranno gli strumenti potentissimi che sono già oggi, fintanto che saranno private della capacità di scegliere autonomamente cosa sia giusto fare e cosa non lo sia.

Articolo di Gianfranco Fedele