En la seva conferència anual re: Març 2022 Amazon ha anunciat que Alexa aviat podrà parlar amb nosaltres imitant les veus de persones reals, gràcies a la intel·ligència artificial.
Era Rohit Prasad, director científic del projecte Alexa Intel·ligència Artificial, durant la seva conferència magistral afirmant que gràcies a una nova funció, l'altaveu intel·ligent d'Amazon permetrà als usuaris transformar les relacions personals en quelcom "permanent" ("relacions personals duradores").
Si algú no tenia clar a què es referia Prasad, la imatge d'un nen apareix a la pantalla gran darrere seu, adreçant-se a Alexa i preguntant-li: "L'àvia pot acabar de llegir 'El mag d'Oz'?". Alexa respon ràpidament "D'acord!" i a partir d'aquell moment s'escolta la veu d'una dona gran que surt de l'aparell mentre comença a llegir el conte de fades de Frank Baum al nen.
"L'àvia present en aquest escenari ja no és amb nosaltres", sentencia Tony Dokoupil, periodista de CBS News, comentant Presentació de Prasad.
Ja el juliol de 2017 va causar sensació un servei publicat per WIRED, encara disponible avui en dia YouTube, on una entrevista en vídeo explica la història del tècnic informàtic que "va transformar el seu pare moribund en una IA".
Quan James Vlahos es va adonar que el seu pare s'estava morint d'una malaltia incurable, va decidir guardar els records del seu pare en una llarga llista d'arxius d'àudio i de text, i després col·locar-los al seu telèfon intel·ligent.
Però això només va ser el començament: mitjançant un algorisme d'intel·ligència artificial, James va permetre que el seu telèfon respongués a les preguntes retornant l'àudio i els textos del pare més pertinents, generant una conversa molt probable entre tots dos. Segons les intencions de James, l'algoritme hauria tornat possible el diàleg amb el seu pare fins i tot després de la seva mort, i així va ser.
Però l'entrevista pren un gir estrany al final. Quan James li pregunta al seu difunt pare "M'estimes?" la resposta sembla una mica evasiva: “Wow! T'he trobat molt a faltar! De què volem parlar?".
I és llavors quan en James es llança a una profunda reflexió sobre el que va passar: "Em va decebre la reticència del meu pare a dir-me que m'estima", diu James amb dolor. “Se suposa que un pare ha de saber les respostes a preguntes com aquesta, però no ho sap. Vull dir, volia sentir-ho dir-ho".
I aquí és on la situació es complica.
L'experiència de James s'ha convertit en un negoci, una organització sense ànim de lucre que promet que les persones poden connectar amb els seus difunts mitjançant IA. Un servei de pagament amb el qual qualsevol persona pot tornar a la vida a un ésser estimat transferint els seus records a una aplicació.
Però si tenim en compte les profundes implicacions psicològiques d'entrar en contacte amb un estimat difunt, no podem excloure que aquest servei pugui comportar nous i imprevisibles trastorns socials. Per exemple, estem preparats per viure en una societat de persones que en comptes de dol depenen d'un servei de pagament per romandre ancorats a les experiències de vida més feliços com en un bucle? Si avui la nostra memòria processa records dolorosos des d'una perspectiva d'autoprotecció, com serà demà quan manipulant-los els puguem transformar en quelcom que mai és dolorós i sempre artificialment feliç?
Amazon no promou el progrés científic, també busca nous espais on col·locar els productes i els busca on ningú s'havia atrevit abans.
Les tecnologies amb les quals Alexa reproduirà les veus i els tons de persones reals són algorismes que es coneixen des de fa temps. Podríem dir: res de nou sota el sol. És la seva aplicació la que promet ser destructiva, una provocació que arriba als límits de l'ètica contemporània.
Amb Alexa, Amazon sembla voler construir al voltant de cada usuari un veritable metavers de records poblats per persones estimades i perdudes. Un lloc de relleu on tots podríem optar per no acomiadar-nos del passat, podent optar per reviure-lo infinitament gràcies a un programari.
Què passaria si James Vlahos, frustrat per la incapacitat del seu pare (difunt) per mostrar-li el seu afecte, decidís un dia a "corregir", modificant unes quantes línies de codi, aquest aspecte del seu caràcter i més semblant al pare que volia? ?
A més, qui impedirà que els usuaris d'Alexa ensenyin l'altaveu intel·ligent perquè faci el paper d'una persona perfectament viva per a nosaltres, alimentant una nova forma de fetitxisme digital que encara no sentim la necessitat?
Intentem imaginar una amant decebuda que transforma l'Alexa en l'objecte del seu amor, sense oblidar de corregir el seu caràcter per doblegar-lo a les seves pròpies necessitats emocionals i humorals. Seria aquesta una manera de devaluar les relacions humanes i submergir la vida dels subjectes més fràgils en noves formes d'afecte, desvinculades de la realitat i ancorades a eines tecnològiques dirigides per empreses multinacionals de serveis?
L'objectiu d'Amazon és crear eines que atreguin l'atenció de la gent i que els impliquin cada cop més en les activitats en línia. La implicació dels usuaris ja afecta molts àmbits de la vida privada i és la intenció d'Amazon anar a ocupar-ne de nous, implicant també l'àmbit sentimental si cal, com en una guerra d'ocupació on el terreny de la conquesta és en la intimitat de cadascun de nosaltres. .
Però si l'explotació dels sentiments i el dolor és la nova frontera, les implicacions ètiques d'aquest comportament s'han de considerar seriosament: el camp no s'ha de deixar lliure per a aquells que pretenen explotar les noves tecnologies per crear noves formes d'implicació que esdevinguin formes de manipulació.
Volem, potser, transformar les noves generacions en multitud de subjectes nodrits sentimentalment per la tecnologia i incapaços d'evolucionar de manera natural en la seva pròpia experiència vital?
Article di Gianfranco Fedele
El desenvolupament de la motricitat fina a través del color prepara els nens per a habilitats més complexes com escriure. Per acolorir...
El sector naval és una veritable potència econòmica mundial, que ha navegat cap a un mercat de 150 milions...
Dilluns passat, el Financial Times va anunciar un acord amb OpenAI. FT autoritza el seu periodisme de classe mundial...
Milions de persones paguen per serveis de streaming, pagant quotes de subscripció mensuals. És l'opinió comuna que tu...
