Na svojej výročnej konferencii Re: Mars 2022 Amazon oznámil, že Alexa sa s nami čoskoro bude môcť rozprávať napodobňovaním hlasov skutočných ľudí vďaka umelej inteligencii.
Bol to Rohit Prasad, vedecký riaditeľ projektu Alexa Umelá inteligencia, počas svojej hlavnej reči uviedol, že vďaka novej funkcii inteligentný reproduktor Amazon umožní používateľom premeniť osobné vzťahy na niečo „trvalé“ („trvalé osobné vzťahy“).
Ak niekomu nebolo jasné, čo má Prasad na mysli, na veľkej obrazovke sa jej opýtal obrázok malého chlapca, ktorý sa obrátil na Alexu a spýtal sa jej: „Babička môže dočítať Čarodejníka z krajiny Oz?“. Alexa pohotovo odpovie "Ok!" a od tej chvíle sa zo zariadenia ozve hlas staršej ženy, ktorá začne dieťaťu čítať rozprávku od Franka Bauma.
"Babička prítomná v tomto scenári už nie je medzi nami," odsúdi Tony Dokoupil, novinár CBS News, algida komentovanie Prasadova prezentácia.
Už v júli 2017 vyvolala senzáciu služba publikovaná spoločnosťou WIRED, ktorá je dodnes dostupná na YouTube, kde videorozhovor rozpráva príbeh počítačového technika, ktorý „premenil svojho umierajúceho otca na AI“.
Keď si James Vlahos uvedomil, že jeho otec umiera na nevyliečiteľnú chorobu, rozhodol sa uložiť otcove spomienky do dlhého zoznamu zvukových a textových súborov a potom ich umiestniť do svojho smartfónu.
Ale to bol len začiatok: pomocou algoritmu umelej inteligencie umožnil James svojmu telefónu odpovedať na otázky vrátením najrelevantnejšieho zvuku a textov jeho otca, čo veľmi pravdepodobne vyvolalo konverzáciu medzi nimi. V Jamesových zámeroch by algoritmus umožnil opäť dialóg s jeho otcom aj po jeho smrti, a tak sa aj stalo.
Rozhovor však na konci naberie zvláštny spád. Keď sa James spýta svojho zosnulého otca: "Miluješ ma?" odpoveď sa zdá byť trochu vyhýbavá: „Wow! Veľmi si mi chýbal! O čom sa chceme rozprávať?".
A práve vtedy sa James pustí do hlbokej úvahy o tom, čo sa stalo: "Bol som sklamaný otcovou neochotou povedať mi, že ma miluje.", hovorí James s bolesťou. „Otec by mal poznať odpovede na takéto otázky, ale nevie. Chcem povedať, že som ho chcel počuť povedať."
A tu sa situácia komplikuje.
Jamesova skúsenosť sa stala biznisom, neziskovou organizáciou, ktorá ľuďom sľubuje, že sa spoja so svojimi zosnulými prostredníctvom AI. Platená služba, pomocou ktorej môže ktokoľvek priviesť milovaného človeka späť k životu prenesením jeho spomienok do aplikácie.
Ak však zvážime hlboké psychologické dôsledky kontaktu so zosnulým blízkym, nemôžeme vylúčiť, že táto služba môže viesť k novým a nepredvídateľným spoločenským otrasom. Sme napríklad pripravení žiť v spoločnosti ľudí, ktorí sa namiesto smútku spoliehajú na platenú službu, aby zostali pripútaní k šťastnejším životným skúsenostiam ako v slučke? Ak dnes naša pamäť spracováva bolestivé spomienky v perspektíve sebaobrany, aké to bude zajtra, keď ich manipuláciou dokážeme premeniť na niečo, čo nikdy nie je bolestivé a vždy umelo šťastné?
Amazon nepodporuje vedecký pokrok, hľadá aj nové priestory, do ktorých produkty umiestňuje a hľadá ich tam, kde sa predtým nikto neodvážil.
Technológie, pomocou ktorých bude Alexa reprodukovať hlasy a tóny skutočných ľudí, sú algoritmy, ktoré sú už nejaký čas známe. Mohli by sme povedať: nič nové pod slnkom. Je to ich aplikácia, ktorá sľubuje, že bude deštruktívna, provokácia, ktorá dosahuje hranice súčasnej etiky.
Zdá sa, že s Alexou chce Amazon okolo každého používateľa vybudovať skutočnú metaverziu spomienok obývaných milovanými a stratenými ľuďmi. Miesto úľavy, kde sme sa všetci mohli rozhodnúť nerozlúčiť sa s minulosťou, pretože si ju vďaka softvéru mohli vybrať donekonečna.
Čo by sa stalo, keby sa James Vlahos, frustrovaný z neschopnosti svojho (zosnulého) otca prejaviť mu svoju náklonnosť, jedného dňa rozhodol „napraviť“ úpravou niekoľkých riadkov kódu tento aspekt svojej postavy a viac sa podobať na otca, ktorého chcel?
Tiež, kto zabráni používateľom Alexa, aby inštruovali inteligentného reproduktora, aby pre nás hral rolu dokonale živého človeka, ktorý pestuje novú formu digitálneho fetišizmu, o ktorú sme ešte necítili potrebu?
Skúsme si predstaviť sklamanú milenku, ktorá premení Alexu na objekt svojej lásky, pričom nezabudne napraviť jej charakter, aby ho ohýbal podľa vlastných emocionálnych a humorných potrieb. Bol by to spôsob, ako znehodnotiť ľudské vzťahy a ponoriť životy tých najkrehkejších subjektov do nových foriem náklonnosti, odtrhnutých od reality a ukotvených v technologických nástrojoch v réžii nadnárodných spoločností poskytujúcich služby?
Cieľom Amazonu je vytvárať nástroje, ktoré upútajú pozornosť ľudí a čoraz viac ich zapájajú do online aktivít. Zapojenie používateľov sa už týka mnohých oblastí súkromného života a zámerom Amazonu je ísť a obsadiť nové, vrátane sentimentálnej sféry, ak je to potrebné, ako v okupačnej vojne, kde je dobyvateľstvo v súkromí každého z nás.
Ak je však zneužívanie pocitov a bolesti novou hranicou, mali by sa vážne zvážiť etické dôsledky tohto správania: toto pole by sa nemalo ponechať voľné pre tých, ktorí majú v úmysle využívať nové technológie na vytváranie nových foriem zapojenia, ktoré sa stávajú formami manipulácie.
Chceme snáď premeniť nové generácie na zástupy subjektov sentimentálne živených technológiou a neschopných prirodzene sa vyvíjať vo vlastnej životnej skúsenosti?
Článok z Gianfranco Fedele
Google DeepMind predstavuje vylepšenú verziu svojho modelu umelej inteligencie. Nový vylepšený model poskytuje nielen…
Laravel, známy svojou elegantnou syntaxou a výkonnými funkciami, tiež poskytuje solídny základ pre modulárnu architektúru. tam…
Cisco a Splunk pomáhajú zákazníkom urýchliť ich cestu do Security Operations Center (SOC) budúcnosti s…
Ransomvér dominuje novinkám posledné dva roky. Väčšina ľudí si dobre uvedomuje, že útoky...
Operácia oftalmoplastiky pomocou komerčného zobrazovača Apple Vision Pro bola vykonaná na poliklinike v Catanii…
Rozvíjanie jemnej motoriky pomocou vyfarbovania pripravuje deti na zložitejšie zručnosti, ako je písanie. Na farbenie…
Námorný sektor je skutočnou globálnou ekonomickou veľmocou, ktorá smerovala k 150 miliardovému trhu...
Minulý pondelok Financial Times oznámili dohodu s OpenAI. FT licencuje svoju žurnalistiku svetovej triedy…
