Intelixencias artificiais nos albores dos mortos

Na súa conferencia anual Re: Marzo 2022 Amazon anunciou que Alexa en breve poderá falar connosco imitando as voces de persoas reais, grazas á intelixencia artificial.

Foi Rohit Prasad, director científico do proxecto Alexa Intelixencia Artificial, durante o seu discurso de apertura afirmando que grazas a unha nova función, o altofalante intelixente de Amazon permitirá aos usuarios transformar as relacións persoais en algo "permanente" ("relacións persoais duradeiras").

Se alguén non tiña claro a que se refería Prasad, unha imaxe dun neno que se dirixiu a Alexa preguntoulle na pantalla grande e preguntoulle: "A avoa pode rematar de ler 'O mago de Oz'?". Alexa responde inmediatamente "¡Ok!" e a partir dese momento escóitase a voz dunha anciá saír do aparello mentres comeza a ler o conto de fadas de Frank Baum ao neno.

"A avoa presente neste escenario xa non está connosco", sentenciará Tony Dokoupil, xornalista de CBS News. comentando Presentación de Prasad.

Sempre hai unha primeira vez

Xa en xullo de 2017 causou sensación un servizo publicado por WIRED, aínda dispoñible hoxe en día YouTube, onde unha entrevista en vídeo conta a historia do técnico informático que "transformou o seu pai moribundo nunha IA".

Cando James Vlahos decatouse de que o seu pai estaba morrendo dunha enfermidade incurable, decidiu gardar os recordos do seu pai nunha longa lista de ficheiros de audio e texto, e despois colocalos no seu teléfono intelixente.

Pero isto foi só o comezo: a través dun algoritmo de intelixencia artificial, James permitiu que o seu teléfono responda ás preguntas devolvendo os audios e os textos máis pertinentes do seu pai, xerando unha conversación entre ambos moi probable. Nas intencións de James, o algoritmo tería feito posible de novo o diálogo co seu pai mesmo despois da súa morte, e así foi.

Pero a entrevista dá un xiro estraño ao final. Cando James lle pregunta ao seu falecido pai: "Queresme?" a resposta parece un pouco evasiva: “¡Guau! Boteime moito de menos! De que queremos falar?".

E é entón cando James lanza unha profunda reflexión sobre o acontecido: "Decepcionoume a reticencia de meu pai a dicirme que me quere", di James con dor. "Suponse que un pai sabe as respostas a preguntas como esta, pero non o sabe. Quero dicir, quería escoitalo dicir".

E aquí é onde a situación se complica.

No bucle

A experiencia de James converteuse nun negocio, unha organización sen ánimo de lucro que promete ás persoas conectarse cos seus falecidos a través da IA. Un servizo de pago co que calquera pode devolver a vida a un ser querido transferindo os seus recordos a unha aplicación.

Pero se temos en conta as profundas implicacións psicolóxicas de entrar en contacto cun ser querido falecido, non podemos excluír que este servizo poida levar a novos e imprevisibles trastornos sociais. Por exemplo, estamos preparados para vivir nunha sociedade de persoas que, en lugar de chorar, confían nun servizo de pago para permanecer ancorados a experiencias vitais máis felices como nun bucle? Se hoxe a nosa memoria procesa lembranzas dolorosas nunha perspectiva de autoprotección, como será mañá cando manipulándoas poidamos transformalas en algo que nunca é doloroso e sempre artificialmente feliz?

Amazon non promove o progreso científico, tamén busca novos espazos nos que colocar produtos e búscaos onde ninguén se atrevera antes.

As tecnoloxías coas que Alexa reproducirá as voces e os tons de persoas reais son algoritmos que se coñecen dende hai tempo. Poderiamos dicir: nada novo baixo o sol. É a súa aplicación a que promete ser destrutiva, unha provocación que chega aos límites da ética contemporánea.

Con Alexa, Amazon parece querer construír arredor de cada usuario un verdadeiro metaverso de recordos poboados de persoas queridas e perdidas. Un lugar de alivio onde todos poderiamos optar por non despedirnos do pasado, podendo optar por revivilo infinitamente grazas a un software.

A situación complícase

Que pasaría se James Vlahos, frustrado pola incapacidade do seu pai (falecido) para mostrarlle o seu cariño, decidise algún día "corrixir", modificando unhas liñas de código, este aspecto do seu carácter e máis parecido ao pai que quería?

Ademais, quen impedirá que os usuarios de Alexa encarguen ao altofalante intelixente para que faga o papel dunha persoa perfectamente viva para nós, fomentando unha nova forma de fetichismo dixital que aínda non sentimos a necesidade?

Tentemos imaxinar unha amante decepcionada que transforma a Alexa no obxecto do seu amor, sen esquecer corrixir o seu carácter para dobralo ás súas propias necesidades emocionais e humorais. Sería esta unha forma de desvalorizar as relacións humanas e mergullar a vida dos suxeitos máis fráxiles en novas formas de afecto, desvinculadas da realidade e ancoradas ás ferramentas tecnolóxicas dirixidas polas multinacionais de servizos?

Pero por qué?

O obxectivo de Amazon é crear ferramentas que atraigan a atención das persoas e involucren cada vez máis nas actividades en liña. A implicación dos usuarios atinxe xa a moitos ámbitos da vida privada e é a intención de Amazon ir ocupar outros novos, implicando o ámbito sentimental, se fose necesario, como nunha guerra de ocupación onde o terreo da conquista está na intimidade de cada un de nós.

Pero se a nova fronteira é a explotación dos sentimentos e da dor, hai que considerar seriamente as implicacións éticas deste comportamento: o campo non debe quedar libre para aqueles que pretenden explotar as novas tecnoloxías para crear novas formas de implicación que se convertan en formas de manipulación.

Quizais queremos transformar as novas xeracións en multitude de suxeitos nutridos sentimentalmente pola tecnoloxía e incapaces de evolucionar naturalmente na súa propia experiencia vital?

Artigo de Gianfranco Fedele