Il paradosso di Hawking

“Grey non è più qui. È in un posto migliore. Chiuso nella sua mente, dove vuole stare. Ho io il controllo adesso. Un mondo immaginario per lui è molto meno doloroso di quello reale. Tutto ciò di cui aveva bisogno era che la sua mente si spezzasse, e lui l’ha rotta.” – da Upgrade, film scritto e diretto da Leigh Whannell.

Nel 2021 è stato pubblicato su Nature Medicine uno studio effettuato da un gruppo di ricercatori dell’Università della California. Nell’ambito della ricerca alcuni medici hanno impiantato chirurgicamente un microchip nel cervello di una donna affetta da una grave forma di depressione che risultava non essere più trattabile con i farmaci.

Per farlo, i ricercatori hanno individuato due aree del cervello della donna particolarmente coinvolte nella generazione dei “pensieri depressivi” ed a queste aree hanno collegato il microchip.

Pensieri Positivi

Quest’ultimo, essendo in grado di intercettare particolari impulsi elettrici collegati ai pensieri ossessivi, ha iniziato a produrre stimolazioni elettriche in grado di formare “pensieri positivi” che li avversassero.

Questo episodio solleva una quantità di problemi etici su come, quando è perché dovremmo alterare la mente di una persona impiantando nel suo cervello un chip che ne modifichi il funzionamento.

Se ci limitassimo all’utilizzo di microchip per la cura di patologie in soggetti farmacoresistenti, stabilire confini etici sarebbe un’operazione semplice.

Ma il tentativo di “aumentare” la potenza del cervello umano estendendone le capacità mediante una CPU aggiuntiva incaricata di effettuare elaborazioni inline con la nostra mente è già nei programmi di molte aziende e startup come la famigerata Neuralink di Elon Musk. Cosa si vuole ottenere?

Immaginiamo di poter risalire in qualsiasi momento il contenuto di una voce di Wikipedia senza doverci collegare ad Internet. O di poter governare strumenti tecnologici con la sola forza del pensiero. Adesso proviamo ad immaginare i numerosi contesti in cui questi superpoteri trasformerebbero la vita delle persone, ad esempio consentendo a chi è affetto da gravi patologie di recuperare un po’ della propria autonomia. Tutto ciò è meraviglioso.

Se però spostiamo l’attenzione sul microchip che renderà possibile questo miracolo, è facile immaginare quanto sia importante fissare principi etici riguardo le possibilità offerte ed i rischi che possono scaturire dall’abbinamento di sistemi di calcolo intelligenti ed il cervello umano.

Sembra fantascienza ma qualcosa di simile è già accaduto in passato.

Cosa c’entra Stephen Hawking?

Nel 2014 le condizioni di salute di Stephen Hawking, affetto da una patologia neurodegenerativa, non gli consentivano più di comunicare col mondo attraverso i sistemi digitali tradizionali. I movimenti che era in grado di produrre con la sola guancia erano diventati impercettibili e nessuno strumento elettronico sarebbe mai stato in grado di leggerli ed interpretarli.

Così la Intel, assieme alla londinese SwiftKey, realizzarono per lui una intelligenza artificiale che, istruita sulla base dei libri e dei documenti da lui scritti nel corso degli anni, consentiva ad Hawking di comunicare. In altre parole, la tecnologia faceva una valutazione intelligente della comunicazione non verbale di Hawking stabilendo, di volta in volta, cosa fosse più probabile che lui volesse dire durante ogni conversazione.

Hawking fu entusiasta della tecnologia e delle opportunità che gli si spalancavano, ma il fatto che quello strumento fosse il solo punto di contatto tra lui e il mondo, rendeva la sua capacità di comunicare completamente dipendente da esso. Gli algoritmi di intelligenza artificiale che rendevano possibile il miracolo erano diventati l’unico ponte tra Hawking ed il resto del mondo. Un’eventuale anomalia nell’interpretazione dei segnali del corpo di Hawking avrebbe potuto determinare una risposta errata della AI, non voluta da Hawking ma al contempo assolutamente coerente col contesto della conversazione.

Lo scenario è quello di un grande scienziato incapace di comunicare col mondo e di una intelligenza artificiale che prende il controllo della sua vita e che comunica al suo posto.

Secondo alcuni, fu proprio la condizione di dipendenza di Hawking dalle AI a stimolare in lui un’idea pessimistica secondo cui, utilizzando le sue parole: “[…] l’intelligenza artificiale opererà e si svilupperà in modo indipendente dall’uomo e finirà col mettere in pericolo l’esistenza stessa dell’umanità”.

La perdita del controllo

Il film Upgrade descrive bene questa eventualità: l’atletico meccanico Grey è vittima di un attentato nel quale la moglie perde la vita e lui finisce costretto a vivere per sempre su una sedia a rotelle. Solo il chip sperimentale dotato di intelligenza artificiale noto come STEM, una volta impiantato nella sua spina dorsale, potrà rimetterlo in piedi e dargli una nuova speranza di vita.

Ma mentre Grey si convincerà di poter tornare alla normalità, lo STEM s’impadronirà del suo corpo manipolando la sua psiche fino a farla regredire ad uno stato di sonno perenne: Grey si ricongiungerà come per miracolo con la sua moglie defunta e vivrà per sempre all’interno di un metaverso costruito apposta per lui mentre STEM diventerà il prototipo di una nuova razza di corpi umani governati da menti artificiali.

Conclusioni

Come si può prevenire uno scenario del genere? A mio parere non è necessario attendere lo sviluppo di sistemi evoluti come lo STEM perché le tecnologie possano prendere il controllo delle nostre vite. Né esiste la possibilità di contrastare una evoluzione tecnologica come STEM per gli enormi interessi economici che ne finanziano la creazione.

È ovvio che l’adulto che si mette alla ricerca di un metaverso dove alleviare le proprie pene e riscoprire artificialmente la felicità sta già cedendo il controllo della propria mente a qualcun altro.

Il solo modo per evitare che la tecnologia possa un giorno impossessarsi delle nostre vite è quello di formare le nuove generazioni ai principi che ci tengono ancorati alla realtà.

È importante capire che il metaverso è solo un’illusione, un’illusione che ha il difetto di essere sotto il controllo di qualcuno e che quel qualcuno non siamo noi.

Articolo estratto dal Post di Gianfranco Fedele, se vuoi leggere l’intero post clicca qui