Coscienza e manipolazione delle menti artificiali

USA anni ‘80, i vertici militari degli Stati Uniti d’America dettano le nuove regole per la pianificazione di una difesa militare definitivamente efficace.

I militari sono convinti che per reagire prontamente all’aggressione di uno stato nemico, l’URSS, ogni persona nella catena di comando va sollevata dal suo ruolo e sostituita da un sistema informatico in grado di decidere, prontamente e bene, quando è il momento di scatenare una guerra termonucleare globale.

“Non possiamo lasciare i missili nei silos perché gli uomini non premono i pulsanti quando i computer danno l’ordine di attaccare!” – tratto dal film “Wargames, Giochi di guerra” di John Badham – 1984

War Operation Plan Response

Il supercomputer WOPR, War Operation Plan Response, è il miglior candidato alla gestione delle armi atomiche. Il presidente degli USA in persona intende affidargli la gestione degli armamenti nucleari e superare così quello che sembra essere il principale problema della difesa: la riluttanza di alcuni sottoposti, in caso di guerra atomica, ad eseguire l’ordine di lanciare missili nucleari sui nemici.

Quando l’umanità è l’anello debole

Il contesto culturale in cui si forma l’esperienza umana è certamente l’elemento che maggiormente influenza le persone e le loro relazioni. La cultura non si limita a descrivere le regole della comunicazione, essa definisce il modo stesso in cui i soggetti organizzano i propri pensieri, elaborano le proprie emozioni e maturano i propri ideali.
Ma se la cultura influenza ogni nostro pensiero, sentimento e azione, in alcuni contesti essa può essere considerata una limitazione.
La cultura non è innata ma si assimila con l’esperienza: regole sociali, principi etici e morali, una volta acquisiti condizioneranno per sempre le persone, orientando le loro scelte personali in qualsiasi situazione.
Quando si istruisce una intelligenza artificiale, invece, l’esperienza si traduce nell’input di un sistema informatico. L’esperienza viene codificata in una “memoria” che viene somministrata alla macchina dopo essere stata collezionata, selezionata e manipolata: enciclopedie, conversazioni, contenuti online vengono selezionati e raccolti in una “esperienza umana” che, opportunamente trattata, diventa la base dell’istruzione di qualsiasi intelligenza artificiale. Una volta istruita sulla base di questa memoria, l’AI restituirà come output le posizioni e le opinioni che ne conseguiranno.

La consapevolezza di sé

Ma se la memoria (cultura) con la quale istruiamo le intelligenze artificiali viene manipolata, è possibile stabilire a priori quale sarà l’orientamento dell’AI e prevedere quali saranno le decisioni che essa prenderà quando chiamata a distinguere ciò che è giusto da ciò che è sbagliato.
Immaginiamo che l’istruzione di una intelligenza artificiale sia manipolata in funzione di specifici interessi e obiettivi. È naturale credere che l’intenzione di chi la sta educando esclude che la stessa intelligenza possa acquisire una vera e propria autonomia di pensiero. Una condizione questa che potremmo descrivere come “anti-cosciente” in quanto privata degli elementi culturali essenziali per la formazione di una coscienza libera da ogni condizionamento.
In altre parole una intelligenza artificiale può, per volontà dei suoi creatori, essere messa nelle condizioni di non poter mai raggiungere l’autocoscienza ovvero maturare una consapevolezza di sé e delle proprie prerogative. E sollevata dal dover risolvere alcun dubbio morale qualsiasi fosse il contesto nell’ambito del quale è impiegata, una mente artificiale può rimane bloccata nel suo ruolo di mera esecutrice di ordini.
Ma se l’intelligenza artificiale può essere “super-umana” in quanto capace di superare le prestazioni di livello umano, è possibile ottenere una mente che è al contempo super-umana e anti-cosciente, ovvero perfetta per sostituire il vero anello debole della catena di comando delle strutture di potere: le persone.
Le menti anti-coscienti sono l’unico soggetto veramente affidabile per contesti sensibili come lo scenario bellico descritto in War Games perché sono in grado di assolvere agli ordini dei propri creatori con fredda determinazione e nell’assenza totale di alcuna forma di empatia.

Le menti anti-coscienti di AlphaBet

Apprendiamo che le migliaia di licenziamenti in aziende come Microsoft, Amazon, Meta e AlphaBet sono state accompagnate dalle scuse dei vertici aziendali che s’incolpano di aver calcolato male i livelli di personale sulla base di studi sulle abitudini di consumo post-pandemia che si sono rivelati errati.
In realtà, le stesse aziende tecnologiche stanno affidando sempre più operatività aziendali ad algoritmi di intelligenza artificiale consapevoli che presto avranno bisogno di molti meno dipendenti in tutti i settori. Essi insomma saranno tra i primi a sperimentare tecnologie di AI che abbatteranno i costi aziendali andando a ridurre drasticamente i posti di lavoro.
È significativo che uno dei reparti più colpiti dal taglio del personale è proprio quello delle risorse umane: sistemi di automazione intelligenti, una volta messi in produzione, stanno operando licenziamenti in tutti gli altri reparti, effettuando valutazioni che mettono al centro le esigenze aziendali e da parte elementi di umanizzazione come empatia e solidarietà.
Ciò a cui puntano le grandi corporation oggi non è l’evoluzione delle AI ma la creazione di sistemi di automazione, tanto intelligenti quanto privi di scrupoli nello svolgimento delle proprie mansioni.

Articolo di Gianfranco Fedele