Штучний інтелект на світанку мертвих

На своїй щорічній конференції Re: Марс 2022 Amazon оголосив, що незабаром Alexa зможе розмовляти з нами, імітуючи голоси реальних людей, завдяки штучному інтелекту.

Ним став Рохіт Прасад, науковий керівник проекту Alexa Artificial Intelligence, під час свого основного виступу заявив, що завдяки новій функції розумний динамік Amazon дозволить користувачам перетворити особисті стосунки на щось «постійне» («тривалі особисті стосунки»).

Якщо хтось не зрозумів, що мав на увазі Прасад, зображення маленького хлопчика, який звернувся до Алекси, запитав її на великому екрані та запитав: «Бабуся може дочитати «Чарівника країни Оз»?». Alexa негайно відповідає "Ok!" і з цього моменту з пристрою лунає голос літньої жінки, яка починає читати дитині казку Френка Баума.

«Бабусі, присутньої в цьому сценарії, більше немає з нами», – винесе вирок Тоні Докоупіл, журналіст CBS News коментування Презентація Прасада.

Завжди є перший раз

Вже в липні 2017 року сервіс, опублікований WIRED, викликав сенсацію, доступний і сьогодні YouTube, де відеоінтерв’ю розповідає історію комп’ютерного техніка, який «перетворив свого вмираючого батька на ШІ».

Коли Джеймс Влахос зрозумів, що його батько помирає від невиліковної хвороби, він вирішив зберегти спогади батька в довгому списку аудіо- та текстових файлів, а потім розмістити їх на своєму смартфоні.

Але це був лише початок: за допомогою алгоритму штучного інтелекту Джеймс увімкнув свій телефон відповідати на запитання, повертаючи найбільш відповідні аудіо та текстові повідомлення свого батька, генеруючи розмову між ними, дуже ймовірно. Згідно з намірам Джеймса, алгоритм знову зробив би діалог з батьком можливим навіть після його смерті, так воно і було.

Але в кінці інтерв'ю набуває дивного повороту. Коли Джеймс запитує свого покійного батька: "Ти мене любиш?" відповідь здається трохи ухильною: «Ого! Я так за тобою сумувала! Про що ми хочемо поговорити?».

І саме тоді Джеймс починає глибоко розмірковувати про те, що сталося: «Мене розчарувало небажання мого батька сказати мені, що він мене любить», — з болем каже Джеймс. «Батько повинен знати відповіді на такі питання, але він цього не знає. Я маю на увазі, я хотів почути, як він це сказав».

І тут ситуація ускладнюється.

В петлю

Досвід Джеймса став бізнесом, некомерційною організацією, яка обіцяє людям зв’язуватися зі своїми померлими через ШІ. Платна послуга, за допомогою якої кожен може повернути близькій людині життя, перенісши її спогади в додаток.

Але якщо ми врахуємо глибокі психологічні наслідки контакту з померлою близькою людиною, ми не можемо виключити, що ця послуга може призвести до нових і непередбачуваних соціальних потрясінь. Наприклад, чи готові ми жити в суспільстві людей, які замість того, щоб сумувати, покладаються на платні послуги, щоб залишатися прив’язаними до щасливішого життєвого досвіду, як у петлі? Якщо сьогодні наша пам’ять обробляє хворобливі спогади в перспективі самозахисту, як це буде завтра, коли, маніпулюючи ними, ми зможемо перетворити їх на щось, що ніколи не викликає болю і завжди штучно радіє?

Amazon не сприяє науковому прогресу, він також шукає нові простори для розміщення продуктів і шукає їх там, де раніше ніхто не наважувався.

Технології, за допомогою яких Alexa відтворюватиме голоси та звуки реальних людей, є алгоритмами, відомими вже давно. Можна сказати: нічого нового під сонцем. Саме їхнє застосування обіцяє бути деструктивним, провокацією, що виходить за межі сучасної етики.

За допомогою Alexa Amazon, схоже, хоче побудувати навколо кожного користувача справжній метавсесвіт спогадів, населених коханими та втраченими людьми. Місце полегшення, де ми всі можемо вирішити не прощатися з минулим, маючи можливість нескінченно переживати його заново завдяки програмному забезпеченню.

Ситуація ускладнюється

Що трапилося б, якби Джеймс Влахос, розчарований нездатністю свого (покійного) батька висловити йому свою прихильність, одного разу вирішив би «виправити», змінивши кілька рядків коду, цей аспект свого характеру й стати більш схожим на батька, якого він хотів?

Крім того, хто завадить користувачам Alexa доручити розумній колонці грати для нас роль цілком живої людини, плекаючи нову форму цифрового фетишизму, в якій ми ще не відчували потреби?

Спробуймо уявити розчарованого коханця, який перетворює Алексу на об'єкт свого кохання, не забуваючи виправляти її характер, щоб підігнати його під власні емоційні та гуморальні потреби. Чи буде це способом знецінити людські стосунки та занурити життя найтендітніших суб’єктів у нові форми прихильності, відірвані від реальності та прив’язані до технологічних інструментів, керованих транснаціональними сервісними компаніями?

Але чому?

Метою Amazon є створення інструментів, які привертають увагу людей і все більше залучають їх до онлайн-діяльності. Залучення користувачів уже стосується багатьох сфер приватного життя, і Amazon має намір зайняти нові, залучаючи, якщо необхідно, сентиментальну сферу, як у війні за окупацію, де територія завоювання знаходиться в приватному житті кожного з нас.

Але якщо експлуатація почуттів і болю є новим кордоном, слід серйозно розглянути етичні наслідки такої поведінки: поле не повинно залишатися вільним для тих, хто має намір використовувати нові технології для створення нових форм участі, які стають формами маніпуляції.

Чи, можливо, ми хочемо перетворити нові покоління на натовпи суб’єктів, які сентиментально підживлюються технологіями та не можуть розвиватися природним шляхом у власному життєвому досвіді?

Артиколо ді Gianfranco Fedele