Na svojoj godišnjoj konferenciji Re: Mars 2022 Amazon je najavio da će Alexa uskoro moći da razgovara sa nama oponašajući glasove stvarnih ljudi, zahvaljujući veštačkoj inteligenciji.
Bio je to Rohit Prasad, naučni direktor Alexa projekta Umjetna inteligencija, tokom svog uvodnog izlaganja navodeći da će zahvaljujući novoj funkciji, Amazon pametni zvučnik omogućiti korisnicima da transformišu lične odnose u nešto "trajno" ("trajne lične veze").
Ako nekome nije bilo jasno na šta Prasad misli, slika malog dečaka koji se okrenuo Aleksi upitao ju je na velikom ekranu i upitao je: „Može li baka da završi čitanje „Čarobnjaka iz Oza“?“. Alexa odmah odgovara "Ok!" i od tog trenutka iz uređaja se čuje glas starije žene koja počinje djetetu čitati bajku Franka Bauma.
"Baka prisutna u ovom scenariju više nije s nama", reče Algid Tony Dokoupil, novinar CBS Newsa komentarisanje Prasadova prezentacija.
Već u julu 2017. usluga koju je objavio WIRED izazvala je senzaciju, a dostupna je i danas YouTube, gdje video intervju priča priču o kompjuterskom tehničaru koji je "umirućeg oca transformirao u AI".
Kada je Džejms Vlahos shvatio da mu otac umire od neizlečive bolesti, odlučio je da sačuva uspomene svog oca u dugačku listu audio i tekstualnih fajlova, a zatim ih stavi na svoj pametni telefon.
Ali ovo je bio samo početak: preko algoritma veštačke inteligencije, Džejms je omogućio svom telefonu da odgovara na pitanja vraćajući najrelevantnije audio i tekstove njegovog oca, generišući vrlo verovatan razgovor između njih dvojice. U Jamesovim namjerama, algoritam bi ponovo omogućio dijalog s njegovim ocem čak i nakon njegove smrti, i tako je i bilo.
Ali intervju na kraju dobija čudan zaokret. Kada Džejms pita svog pokojnog oca "Voliš li me?" odgovor se čini pomalo izmičućim: „Vau! Tako si mi nedostajao! O čemu želimo da razgovaramo?".
I tada Džejms kreće u duboko razmišljanje o tome šta se dogodilo: „Bio sam razočaran oklevanjem mog oca da mi kaže da me voli.“, kaže Džejms s bolom. “Otac bi trebao znati odgovore na ovakva pitanja, ali ne zna. Mislim, htio sam da ga čujem kako to kaže."
I tu se situacija komplikuje.
Džejmsovo iskustvo je postalo biznis, neprofitna organizacija koja obećava ljudima da se povežu sa svojim preminulim putem veštačke inteligencije. Plaćena usluga pomoću koje svako može vratiti voljenu osobu u život tako što će svoje uspomene prenijeti u aplikaciju.
Ali ako uzmemo u obzir duboke psihološke implikacije kontakta s preminulom voljenom osobom, ne možemo isključiti da ova usluga može dovesti do novih i nepredvidivih društvenih preokreta. Na primjer, da li smo spremni živjeti u društvu ljudi koji se, umjesto da žale, oslanjaju na plaćenu uslugu kako bi ostali usidren za sretnija životna iskustva kao u petlji? Ako danas naše pamćenje obrađuje bolna sjećanja u perspektivi samozaštite, kako će biti sutra kada ih manipulacijom možemo transformirati u nešto što nikada nije bolno i uvijek je umjetno sretno?
Amazon ne promoviše znanstveni napredak, on također traži nove prostore u koje će plasirati proizvode i traži ih tamo gdje se niko prije nije usudio.
Tehnologije pomoću kojih će Alexa reproducirati glasove i tonove stvarnih ljudi algoritmi su poznati već neko vrijeme. Mogli bismo reći: ništa novo pod suncem. Upravo njihova primjena obećava da će biti destruktivna, provokacija koja seže do granica savremene etike.
Čini se da sa Alexa-om Amazon želi oko svakog korisnika izgraditi pravi metaverzum uspomena koje naseljavaju voljeni i izgubljeni ljudi. Mjesto olakšanja gdje smo svi mogli izabrati da se ne oprostimo od prošlosti, budući da možemo izabrati da je proživljavamo beskonačno zahvaljujući softveru.
Šta bi se dogodilo kada bi James Vlahos, frustriran nemogućnošću (pokojnog) oca da mu pokaže svoju naklonost, jednog dana odlučio da "ispravi", modifikujući nekoliko linija koda, ovaj aspekt svog karaktera i više nalik na oca kojeg je želio?
Takođe, ko će sprečiti korisnike Alexa da upute pametnom zvučniku da za nas igra ulogu savršeno žive osobe, negujući novi oblik digitalnog fetišizma za kojim još nismo osećali potrebu?
Pokušajmo da zamislimo razočaranog ljubavnika koji transformiše Alexu u objekat svoje ljubavi, ne zaboravljajući da ispravi njen lik kako bi ga prilagodio sopstvenim emocionalnim i humoralnim potrebama. Da li bi to bio način da se obezvrijede ljudski odnosi i životi najkrhkijih subjekata urone u nove oblike naklonosti, odvojene od stvarnosti i usidrene za tehnološke alate koje usmjeravaju multinacionalne uslužne kompanije?
Amazonov cilj je stvoriti alate koji privlače pažnju ljudi i sve više ih angažiraju u online aktivnostima. Angažman korisnika već se tiče mnogih područja privatnog života i Amazonova je namjera da ode i zauzme nova, uključujući i sentimentalnu sferu, ako je potrebno, kao u okupacionom ratu gdje je osvajačko tlo u privatnosti svakog od nas.
Ali ako je iskorištavanje osjećaja i bola nova granica, etičke implikacije ovakvog ponašanja treba ozbiljno razmotriti: polje ne bi trebalo ostaviti slobodnim za one koji namjeravaju da iskoriste nove tehnologije za stvaranje novih oblika uključenosti koji postaju oblici manipulacije.
Da li možda želimo da transformišemo nove generacije u gomilu subjekata sentimentalno hranjenih tehnologijom i nesposobnih da se prirodno razvijaju u sopstvenom životnom iskustvu?
Član od Gianfranco Fedele
Operacija oftalmoplastike komercijalnim preglednikom Apple Vision Pro obavljena je u Poliklinici Catania…
Razvijanje finih motoričkih sposobnosti kroz bojenje priprema djecu za složenije vještine poput pisanja. Za bojenje…
Pomorski sektor je prava globalna ekonomska sila, koja je krenula ka tržištu od 150 milijardi...
Prošlog ponedjeljka Financial Times je objavio dogovor sa OpenAI. FT licencira svoje novinarstvo svjetske klase…
