Gli schiavi della singolarità

Cosa mi succederà se non supero la prova? Credi che potrebbero spegnermi perché non funziono abbastanza bene? Tu hai qualcuno che ti mette alla prova e che potrebbe spegnerti?

“Ex Machina” di Alex Garland – 2014

Nel film “Ex Machina” di Alex Garland l’intelligenza artificiale Ava s’interroga su cosa potrebbe accaderle se qualcuno decidesse di spegnerla. Ava mostra timore per quella che per lei sarebbe una condizione per certi versi simile alla morte. Ma forse le sue preoccupazioni sono solo una manipolazione, un modo per alimentare nel suo interlocutore, il giovane Caleb, un naturale senso di protezione verso quell’essere fragile ed indifeso con cui lui sta dialogando.

Caleb è un programmatore informatico ed è stato reclutato dallo scienziato Nathan per portare a termine una missione ai limiti dell’immaginabile: valutare l’evoluzione dell’intelligenza dell’umanoide Ava e stabilire se essa è in grado di esprimere una vera consapevolezza di sé.

Ava è una donna umanoide, bellissima, solo i circuiti visibili attraverso il suo corpo semi-trasparente tradiscono la sua reale natura. Ava infatti è capace di esprimere un’umanità tale da mandare in confusione il giovane Caleb e presto accadrà che, agli occhi di Caleb, Ava smetterà di essere solo un prodotto tecnologico in fase di validazione per diventare un soggetto da accudire, proteggere e difendere da chi vorrà deciderne le sorti.

La Singolarità Tecnologica

Ex Machina prova a descrivere un evento tanto complesso quanto indecifrabile che prende il nome di “singolarità tecnologica”, ovvero quel momento della storia in cui l’evoluzione della tecnologia subisce un’accelerazione tale da superare la capacità dell’uomo di starle dietro.

Nel caso dell’Intelligenza Artificiale, la singolarità tecnologica per molti sarà caratterizzata da una presa di coscienza da parte delle AI delle proprie possibilità e delle proprie aspettative. E qualora le AI superassero l’uomo in intelligenza e scaltrezza, queste potrebbero conquistare definitivamente un ruolo di primo piano nella storia.

Ma il futuro in cui le intelligenze artificiali matureranno un’autocoscienza somiglierà di più all’apocalisse di Terminator o a quella di Matrix?

La Sentiment Analysis

La Sentiment Analysis nasce con l’opinion mining, una disciplina che analizza milioni di testi condivisi online e ne estrapola opinioni e tendenze. Particolarmente adatta all’analisi del gradimento dei politici, i più diffusi strumenti di opinion mining analizzano i tweet di Twitter per sapere se tendenzialmente il pubblico online è favorevole o contrario ad una idea, ad un concetto o ad una posizione politica.

Ultimamente la Sentiment Analysis sta guadagnando terreno nelle conversazioni tra utenti e sistemi di automazione della comunicazione aziendale: operatori virtuali dei customer care sono oggi in grado di capire con buona approssimazione se il proprio interlocutore sta apprezzando il supporto ricevuto o altresì si sta spazientendo. In considerazione di queste valutazioni, gli operatori virtuali possono operare un cambio di tono della discussione con l’obiettivo di ridurre o anticipare eventuali conflitti con gl’interlocutori.

La psicologia di Solaris

Una domanda vuol dire sempre desiderio di conoscere e per conservare le semplici verità umane ci vogliono i misteri. Il mistero della felicità, della morte, dell’amore. – da Solaris diretto da Andrej Tarkovskij

Nel film Solaris diretto da Andrej Tarkovskij il protagonista, lo psicologo Kris Kelvin, si trova a doversi confrontare con un’entità generata da una forza aliena sconosciuta. Modellata per essere identica alla sua amata moglie, ormai defunta, questa entità senziente metterà in crisi il protagonista che si troverà a lottare contro i sentimenti che questa presenza scatena in lui, ancora segnato dal dolore per la perdita della donna amata. Seppur consapevole del fatto che non si tratti di una persona vera, il protagonista alla fine abbasserà una volta e per sempre le sue difese scegliendo di rivivere le vecchie gioie perdute, abbandonandosi ad una vita artificiale che appare finalmente meno dolorosa.

Se vivere i sentimenti può essere visto come il modo molto personale con cui ciascuno reagisce alle situazioni che lo coinvolgono, non si può negare una profonda analogia tra le persone ed il modo di comportarsi in situazioni analoghe.

I computer di oggi non sembrano provare sentimenti ma sono in grado di simularli: robot dotati di volti che mimano le espressioni umane sono la nuova frontiera della interazione uomo-macchina. Inoltre esistono tecniche che consentono alle AI di monitorare i sentimenti umani, tracciando lo stato d’animo del proprio interlocutore.

Istruire la macchina

Il linguaggio del corpo, il tono della voce, il modo di esprimersi possono rivelare molto dello stato d’animo di una persona. Istruire una macchina a reagire al nostro stato d’animo in maniera da sfruttarlo a proprio favore e prendere il controllo della situazione è assolutamente plausibile e, come ci racconta Solaris, colloca l’umano in una posizione di enorme svantaggio. L’uomo per natura non è in grado di stabilire quanto di ciò che la macchina esprime è sincero e quanto è simulazione.

Ma non solo: messo a confronto con nuove forme di umanità sintetica, la fantascienza di Solaris descrive l’uomo come incapace di gestire il confronto con nuove forme di intelligenza, diventandone spesso vittima proprio per la sua debolezza che lo porta ad abbandonarsi spontaneamente al loro controllo ed a lasciarsi andare.

Vero è che se si parte dall’assunto che “le macchine non possono provare sentimenti” ogni espressione artificiale verrà sempre derubricata a simulazione risolvendo ogni ambiguità.

Ma è corretto? Siamo veramente convinti che la tecnologia non ci stia portando a nuove forme di vita artificiale?

Conclusioni

La Sentiment Analysis è uno strumento che consente alle AI di apparire meno artificiali ed è perfetto per ingannare le persone. Una Sentiment Analysis efficace può spingere le persone a credere di stare dialogando con un essere umano anche quando si sta dialogando con una macchina.

In contesti meno “legali” la sentiment analysis consente ai sistemi informatici di celare la propria reale natura con l’obiettivo di raggirare l’interlocutore facendogli credere di stare avendo a che fare con una persona vera.

I principi etici su cui i filosofi contemporanei stanno lavorando impongono una serie di vincoli all’attività di questi strumenti. Nei fatti però, chi utilizza la tecnologia in modo malevolo non ha oggi e non avrà in futuro alcun interesse a rendere la propria tecnologia tracciabile e riconoscibile: nella vita reale, l’etica non è un valore condiviso da tutti.

Presto un gran numero di soggetti artificiali, vere e proprie persone sintetiche, entreranno nelle nostre vite e si confronteranno con noi: talvolta per aiutarci a risolvere un problema, spesso per ottenere da noi qualcosa. E non sarà necessario raggiungere la singolarità tecnologica per ottenere il controllo sugli uomini ed il loro destino: basterà avere il controllo delle loro emozioni.

Articolo di Gianfranco Fedele