Umetne inteligence v zori mrtvih

Na svoji letni konferenci re: Mars 2022 Amazon je napovedal, da se bo Alexa po zaslugi umetne inteligence kmalu lahko pogovarjala z nami s posnemanjem glasov resničnih ljudi.

To je bil Rohit Prasad, znanstveni direktor projekta Alexa Umetna inteligenca, med svojim osrednjim govorom, ko je izjavil, da bo pametni zvočnik Amazon zaradi nove funkcije uporabnikom omogočil preoblikovanje osebnih odnosov v nekaj "trajnega" ("trajni osebni odnosi").

Če komu ni bilo jasno, na kaj je Prasad mislil, jo je slika majhnega dečka, ki se je obrnil k Alexi, vprašala na velikem platnu in jo vprašala: "Lahko babica dokonča branje 'Čarovnika iz Oza'?". Alexa takoj odgovori "Ok!" in od tega trenutka se iz naprave sliši glas starejše ženske, ki otroku začne brati pravljico Franka Bauma.

"Babica, ki je prisotna v tem scenariju, ni več z nami," bo algida obsodil Tony Dokoupil, novinar CBS News. komentiranje Prasadova predstavitev.

Vedno je prvič

Že julija 2017 je storitev, ki jo je izdal WIRED, povzročila senzacijo in je še danes na voljo na YouTube, kjer video intervju pripoveduje zgodbo o računalniškem tehniku, ki je "svojega umirajočega očeta spremenil v AI".

Ko je James Vlahos ugotovil, da njegov oče umira zaradi neozdravljive bolezni, se je odločil, da bo očetove spomine shranil na dolg seznam zvočnih in besedilnih datotek ter jih nato postavil na svoj pametni telefon.

Toda to je bil šele začetek: z algoritmom umetne inteligence je James svojemu telefonu omogočil odgovarjanje na vprašanja tako, da je vrnil najustreznejši zvok in besedila svojega očeta, kar je zelo verjetno povzročilo pogovor med obema. Po Jamesovih namerah bi algoritem znova omogočil dialog z očetom tudi po njegovi smrti, in tako je tudi bilo.

Toda intervju se na koncu čudno obrne. Ko James vpraša svojega pokojnega očeta "Ali me ljubiš?" odgovor se zdi nekoliko izmikajoč: »Vau! Zelo sem te pogrešal! O čem se želimo pogovarjati?"

In takrat James začne globoko razmišljati o tem, kaj se je zgodilo: "Bil sem razočaran nad očetovo nenaklonjenostjo, da mi pove, da me ima rad," pravi James z bolečino. »Oče bi moral vedeti odgovore na takšna vprašanja, a jih ne. Mislim, hotel sem ga slišati, kako to pove."

In tu se situacija zaplete.

V zanko

Jamesova izkušnja je postala posel, neprofitna organizacija, ki ljudem obljublja, da se prek umetne inteligence povežejo s svojimi pokojnimi. Plačljiva storitev, s katero lahko kdorkoli oživi ljubljeno osebo tako, da prenese njene spomine v aplikacijo.

Toda če upoštevamo globoke psihološke posledice stika s pokojno ljubljeno osebo, ne moremo izključiti, da bi ta storitev lahko povzročila nove in nepredvidljive družbene pretrese. Na primer, ali smo pripravljeni živeti v družbi ljudi, ki se namesto na žalovanje zanašajo na plačano storitev, da ostanejo zasidrani v srečnejših življenjskih izkušnjah kot v zanki? Če danes naš spomin procesira boleče spomine v perspektivi samozaščite, kako bo jutri, ko jih lahko z manipulacijo spremenimo v nekaj, kar ni nikoli boleče in vedno umetno srečno?

Amazon ne spodbuja znanstvenega napredka, prav tako išče nove prostore, kamor umešča izdelke in jih išče tam, kjer si prej nihče ni upal.

Tehnologije, s katerimi bo Alexa reproducirala glasove in tone resničnih ljudi, so algoritmi, ki jih poznamo že nekaj časa. Lahko bi rekli: nič novega pod soncem. Prav njihova uporaba obljublja destruktivnost, provokacijo, ki sega do meja sodobne etike.

Zdi se, da želi Amazon z Alexo okoli vsakega uporabnika zgraditi pravi metaverzum spominov, ki jih naseljujejo ljubljeni in izgubljeni ljudje. Kraj olajšanja, kjer se lahko vsi odločimo, da se ne bomo poslovili od preteklosti, saj se lahko odločimo, da jo podoživljamo neskončno zahvaljujoč programski opremi.

Situacija postane zapletena

Kaj bi se zgodilo, če bi se James Vlahos, razočaran nad nezmožnostjo (pokojnega) očeta, da mu izkaže svojo naklonjenost, nekega dne odločil, da bo s spremembo nekaj vrstic kode »popravil« ta vidik svojega značaja in postal bolj podoben očetu, kakršnega je želel?

Poleg tega, kdo bo uporabnikom Alexe preprečil, da bi pametnemu zvočniku naročili, naj namesto nas igra vlogo popolnoma žive osebe, ki neguje novo obliko digitalnega fetišizma, po katerem še nismo čutili potrebe?

Poskusimo si predstavljati razočaranega ljubimca, ki Alexo spremeni v predmet svoje ljubezni, pri čemer ne pozabi popraviti njenega značaja, da bi ga prilagodil svojim čustvenim in humornim potrebam. Ali bi bil to način za razvrednotenje človeških odnosov in pahnitev življenj najbolj krhkih subjektov v nove oblike naklonjenosti, ločene od realnosti in zasidrane na tehnološka orodja, ki jih usmerjajo multinacionalna storitvena podjetja?

Ampak zakaj?

Amazonov cilj je ustvariti orodja, ki pritegnejo pozornost ljudi in jih vedno bolj vključijo v spletne dejavnosti. Vpletenost uporabnikov že zadeva številna področja zasebnega življenja in Amazon namerava poseči na nova, po potrebi vključiti tudi sentimentalno sfero, kot v okupacijski vojni, kjer je osvajalski teren v zasebnosti vsakega od nas.

Če pa je izkoriščanje čustev in bolečine nova meja, je treba resno razmisliti o etičnih posledicah tega vedenja: polje ne bi smelo biti prosto za tiste, ki nameravajo izkoristiti nove tehnologije za ustvarjanje novih oblik vpletenosti, ki postanejo oblike manipulacije.

Ali morda želimo nove generacije spremeniti v množice subjektov, ki se sentimentalno hranijo s tehnologijo in se ne morejo naravno razvijati v lastni življenjski izkušnji?

Člen Gianfranco Fedele