intelligenze artificiali

Alla sua conferenza annuale re:Mars 2022 Amazon ha annunciato che presto Alexa sarà in grado di dialogare con noi imitando le voci di persone reali, grazie alle intelligenze artificiali.

È stato proprio Rohit Prasad, responsabile scientifico del progetto Alexa Artificial Intelligence, durante il suo keynote ad affermare che grazie ad una nuova funzionalità lo smart speaker di casa Amazon consentirà agli utenti di trasformare le relazioni personali in qualcosa di “permanente” (“lasting personal relationships”).

Se a qualcuno non fosse chiaro a cosa Prasad facesse riferimento, ecco apparire sul grande schermo alle sue spalle l’immagine di un ragazzino che rivolgendosi ad Alexa le chiede: “Nonna può terminare la lettura de ‘Il Mago di Oz’?”. Alexa prontamente risponde “Ok!” e da quel momento si sente provenire dal dispositivo la voce di una donna anziana che prende a leggere al bambino la fiaba di Frank Baum.

“La nonna presente in questo scenario non è più tra noi” sentenzierà algido Tony Dokoupil, giornalista di CBS News, commentando la presentazione di Prasad.

C’è sempre una prima volta

Già nel luglio 2017 fece scalpore un servizio pubblicato da WIRED, ancora oggi disponibile su YouTube, dove in una video-intervista si racconta la storia del tecnico informatico che “ha trasformato il padre in fin di vita in una AI”.

Quando James Vlahos si rese conto che suo padre stava morendo a causa di un male incurabile, egli decise di salvare i ricordi del padre in una lunga lista di audio e file di testo, per poi collocarli nel suo smartphone.

Ma questo fu solo l’inizio: attraverso un algoritmo di intelligenza artificiale, James abilitò il suo telefono a rispondere alle domande restituendo gli audio ed i testi del padre più pertinenti, generando una conversazione tra i due molto verosimile. Nelle intenzioni di James, l’algoritmo avrebbe reso nuovamente possibile il dialogo col padre anche dopo la sua morte, e così è stato.

Ma l’intervista prende una strana piega sul finale. Quando James chiede al suo defunto padre “Mi vuoi bene?” la risposta appare un po’ evasiva: “Wow! Mi sei mancato tanto! Di cosa vogliamo parlare?”.

Ed è allora che James si lancia in una profonda riflessione sull’accaduto: “Sono rimasto deluso dalla reticenza di mio padre a dirmi che mi vuole bene.”, afferma con dolore James. “Un padre si suppone sappia rispondere a domande come questa, ma non è così. Insomma, avrei voluto sentirglielo dire.”

Ed è qui che la situazione si complica.

Into the loop

L’esperienza di James è diventata un’impresa, una no-profit che promette alle persone di entrare in contatto con i propri defunti grazie all’AI. Un servizio a pagamento col quale chiunque può riportare in vita un proprio caro trasferendone i ricordi in una app.

Ma se consideriamo le profonde implicazioni psicologiche che comporta il venire a contatto con un caro defunto, non possiamo escludere che questo servizio potrebbe determinare nuovi ed imprevedibili sconvolgimenti sociali. Ad esempio, siamo pronti a vivere in una società di persone che piuttosto che elaborare un lutto si affidano ad un servizio a pagamento per restare ancorati alle esperienze di vita più felici come in un loop? Se oggi la nostra memoria elabora i ricordi dolorosi in una prospettiva di auto-protezione, come sarà domani quando manipolandoli potremo trasformarli in qualcosa di mai doloroso e sempre artificialmente felice?

Amazon non si fa promotore di un progresso scientifico, altresì cerca nuovi spazi dove collocare prodotti e li cerca dove nessuno aveva osato prima.

Le tecnologie con cui Alexa riprodurrà le voci ed i toni delle persone reali, sono algoritmi già noti da tempo. Potremmo dire: nulla di nuovo sotto il sole. È la loro applicazione che promette di essere distruptive, una provocazione che arriva fino ai limiti dell’etica contemporanea.

Con Alexa, Amazon sembra volere costruire attorno a ciascun utente un vero e proprio metaverso di ricordi popolato dalle persone amate e perdute. Un luogo di sollievo dove potremmo tutti scegliere di non dire addio al passato, potendo scegliere di riviverlo all’infinito grazie a un software.

La situazione si complica

Cosa accadrebbe se James Vlahos, frustrato dalla incapacità del padre (defunto) di manifestargli il suo affetto, decidesse un giorno di “correggere”, modificando qualche riga di codice, questo aspetto del suo carattere e più simile al padre che desiderava?

Inoltre, chi impedirà agli utenti di Alexa di istruire lo smart speaker per vesta per noi i panni di una persona perfettamente in vita, nutrendo una nuova forma di feticismo digitale di cui ancora non si sentiva l’esigenza?

Proviamo ad immaginare un amante deluso che trasforma Alexa nell’oggetto del suo amore, non tralasciando di correggerne il carattere per piegarlo ai propri bisogni emotivi e umorali. Sarebbe un modo questo per togliere valore alle relazioni umane e far piombare la vita dei soggetti più fragili in nuove forme di affezione, slegate dalla realtà ed ancorate a strumenti tecnologici eterodiretti da multinazionali dei servizi?

Ma perché?

L’obiettivo di Amazon è quello di creare strumenti che attirino attenzione delle persone e le coinvolgano sempre di più in attività online. Il coinvolgimento degli utenti già riguarda molti ambiti della vita privata ed è intenzione di Amazon andare a occuparne di nuovi, coinvolgendo se serve anche la sfera sentimentale, come in una guerra di occupazione dove il terreno di conquista è nel privato di ciascuno di noi.

Ma se sfruttare i sentimenti e il dolore è la nuova frontiera, le implicazioni etiche di questo comportamento andrebbero prese in seria considerazione: non si dovrebbe lasciare campo libero a chi intende sfruttare le nuove tecnologie per creare nuove forme di coinvolgimento che diventano forme di manipolazione.

Vogliamo forse trasformare le nuove generazioni in schiere di soggetti nutriti sentimentalmente dalla tecnologia e incapaci di evolvere naturalmente nella propria esperienza di vita?

Articolo di Gianfranco Fedele

Newsletter sull’Innovazione

Non perderti le notizie più importanti sull'Innovazione. Iscriviti per riceverle via e-mail.
Loading

Puoi cancellarti in ogni momento. Leggi la nostra Privacy Policy.