Inteligențe artificiale în zorii morților

La conferința lui anuală re: Marte 2022 Amazon a anunțat că Alexa va putea în curând să ne vorbească imitând vocile oamenilor reali, datorită inteligenței artificiale.

Era Rohit Prasad, directorul științific al proiectului Alexa Inteligenta Artificiala, în cadrul discursului său, afirmând că, datorită unei noi funcții, difuzorul inteligent Amazon va permite utilizatorilor să transforme relațiile personale în ceva „permanent” („relații personale durabile”).

Dacă cineva nu era clar la ce se referă Prasad, o imagine a unui băiețel care s-a întors către Alexa a întrebat-o pe marele ecran și a întrebat-o: „Bunica poate termina de citit „Vrăjitorul din Oz”?”. Alexa răspunde prompt „Ok!” iar din acel moment se aude vocea unei femei în vârstă venind de pe aparat în timp ce ea începe să citească copilului basmul lui Frank Baum.

„Bunica prezentă în acest scenariu nu mai este cu noi”, va condamna Tony Dokoupil, jurnalistul CBS News, algid. comentând Prezentarea lui Prasad.

Întotdeauna există o prima dată

Deja în iulie 2017 un serviciu publicat de WIRED a făcut furori, disponibil și astăzi pe YouTube, unde un interviu video spune povestea tehnicianului de calculatoare care „și-a transformat tatăl pe moarte într-un AI”.

Când James Vlahos și-a dat seama că tatăl său era pe moarte de o boală incurabilă, a decis să salveze amintirile tatălui său într-o listă lungă de fișiere audio și text și apoi să le plaseze pe smartphone-ul său.

Dar acesta a fost doar începutul: printr-un algoritm de inteligență artificială, James a permis telefonului său să răspundă la întrebări, returnând cele mai pertinente sunet și texte ale tatălui său, generând o conversație între cei doi foarte probabil. În intențiile lui James, algoritmul ar fi făcut din nou posibil dialogul cu tatăl său chiar și după moartea lui, și așa a fost.

Dar interviul ia o întorsătură ciudată la sfârșit. Când James îl întreabă pe răposatul său tată „Mă iubești?” răspunsul pare puțin evaziv: „Uau! Mi-ai lipsit atat de mult! Despre ce vrem să vorbim?”.

Și tocmai atunci James se lansează într-o reflecție profundă asupra a ceea ce s-a întâmplat: „Am fost dezamăgit de reticența tatălui meu de a-mi spune că mă iubește.”, spune James cu durere. „Un tată ar trebui să știe răspunsurile la astfel de întrebări, dar nu știe. Adică, am vrut să-l aud spunând asta.”

Și aici situația se complică.

În buclă

Experiența lui James a devenit o afacere, o organizație non-profit care promite oamenilor să se conecteze cu decedatul lor prin AI. Un serviciu plătit prin care oricine poate readuce la viață o persoană dragă, transferându-și amintirile într-o aplicație.

Dar dacă luăm în considerare implicațiile psihologice profunde ale intrării în contact cu o persoană dragă decedată, nu putem exclude că acest serviciu ar putea duce la tulburări sociale noi și imprevizibile. De exemplu, suntem gata să trăim într-o societate de oameni care, în loc să plângă, se bazează pe un serviciu plătit pentru a rămâne ancorați la experiențe de viață mai fericite ca într-o buclă? Dacă astăzi memoria noastră procesează amintirile dureroase într-o perspectivă de autoprotecție, cum va fi mâine când manipulându-le le putem transforma în ceva care nu este niciodată dureros și întotdeauna fericit artificial?

Amazon nu promovează progresul științific, caută și noi spații în care să plaseze produsele și le caută acolo unde nimeni nu mai îndrăznise.

Tehnologiile cu care Alexa va reproduce vocile și tonurile oamenilor reali sunt algoritmi care sunt cunoscuți de ceva timp. Am putea spune: nimic nou sub soare. Aplicația lor este cea care promite a fi distructivă, o provocare care ajunge la limitele eticii contemporane.

Cu Alexa, Amazon pare să vrea să construiască în jurul fiecărui utilizator un adevărat metavers al amintirilor populate de oameni iubiți și pierduți. Un loc de ușurare în care am putea alege cu toții să nu ne luăm rămas bun de la trecut, putând alege să-l retrăim la infinit datorită unui software.

Situația devine complicată

Ce s-ar întâmpla dacă James Vlahos, frustrat de incapacitatea tatălui său (decedat) de a-i arăta afecțiunea, ar decide într-o zi să „corecteze”, modificând câteva rânduri de cod, acest aspect al caracterului său și mai mult ca tatăl pe care și-l dorea?

De asemenea, cine îi va împiedica pe utilizatorii Alexa să instruiască difuzorul inteligent să joace rolul unei persoane perfect vii pentru noi, hrănind o nouă formă de fetișism digital de care încă nu simțeam nevoia?

Să încercăm să ne imaginăm o iubită dezamăgită care o transformă pe Alexa în obiectul iubirii sale, fără a uita să-și corecteze caracterul pentru a-l apleca propriilor nevoi emoționale și umorale. Ar fi aceasta o modalitate de a devaloriza relațiile umane și de a cufunda viața celor mai fragili subiecți în noi forme de afecțiune, detașate de realitate și ancorate la instrumentele tehnologice dirijate de companiile multinaționale de servicii?

Dar de ce?

Scopul Amazon este de a crea instrumente care să atragă atenția oamenilor și să-i implice din ce în ce mai mult în activitățile online. Implicarea utilizatorilor vizează deja multe domenii ale vieții private și intenția Amazonului este să meargă și să ocupe altele noi, implicând sfera sentimentală, dacă este cazul, ca într-un război de ocupație în care terenul de cucerire este în intimitatea fiecăruia dintre noi.

Dar dacă exploatarea sentimentelor și a durerii este noua frontieră, implicațiile etice ale acestui comportament ar trebui luate în considerare cu seriozitate: domeniul nu trebuie lăsat liber pentru cei care intenționează să exploateze noile tehnologii pentru a crea noi forme de implicare care devin forme de manipulare.

Poate vrem să transformăm noile generații în mulțimi de subiecți hrăniți sentimental de tehnologie și incapabili să evolueze natural în propria experiență de viață?

Articolul din Gianfranco Fedele