Штучний інтелект на зорі живих мерців

На своїй щорічній конференції Re: Марс 2022 Amazon оголосила, що незабаром Alexa зможе спілкуватися з нами, імітуючи голоси реальних людей.

Саме Рохіт Прасад, науковий керівник проекту Alexa Artificial Intelligence, під час свого основного виступу сказав, що завдяки новій функції розумний динамік дому Amazon дозволить користувачам перетворити стосунки з персоналом на щось «постійне» ("тривалі особисті стосунки).

Якщо хтось не зрозумів, що мав на увазі Прасад, зображення маленького хлопчика, який звернувся до Алекси, запитав її на великому екрані та запитав: «Бабуся може дочитати «Чарівника країни Оз»?». Alexa негайно відповідає "Ok!" і з цього моменту з пристрою лунає голос літньої жінки, яка починає читати дитині казку Френка Баума.

«Бабусі, присутньої в цьому сценарії, більше немає з нами», – винесе вирок Тоні Докоупіл, журналіст CBS News коментування Презентація Прасада.

Завжди є перший раз

Вже в липні 2017 року сервіс, опублікований WIRED, викликав сенсацію, доступний і сьогодні YouTube, де відеоінтерв’ю розповідає історію комп’ютерного техніка, який «перетворив свого вмираючого батька на ШІ».

Коли Джеймс Влахос зрозумів, що його батько помирає від невиліковної хвороби, він вирішив зберегти спогади батька в довгому списку аудіо- та текстових файлів, а потім розмістити їх на своєму смартфоні.

Але це був лише початок: за допомогою алгоритму штучного інтелекту Джеймс увімкнув свій телефон відповідати на запитання, повертаючи найбільш відповідні аудіо та текстові повідомлення свого батька, генеруючи розмову між ними, дуже ймовірно. Згідно з намірам Джеймса, алгоритм знову зробив би діалог з батьком можливим навіть після його смерті, так воно і було.

В петлю

Досвід Джеймса став бізнесом, некомерційною організацією, яка обіцяє людям зв’язуватися зі своїми померлими через ШІ. Платна послуга, за допомогою якої кожен може повернути близькій людині життя, перенісши її спогади в додаток.

Але якщо ми врахуємо глибокі психологічні наслідки контакту з померлою близькою людиною, ми не можемо виключити, що ця послуга може призвести до нових і непередбачуваних соціальних потрясінь. Наприклад, чи готові ми жити в суспільстві людей, які замість того, щоб сумувати, покладаються на платні послуги, щоб залишатися прив’язаними до щасливішого життєвого досвіду, як у петлі? Якщо сьогодні наша пам’ять обробляє хворобливі спогади в перспективі самозахисту, як це буде завтра, коли, маніпулюючи ними, ми зможемо перетворити їх на щось, що ніколи не викликає болю і завжди штучно радіє?

Ситуація ускладнюється

Що трапилося б, якби Джеймс Влахос, розчарований нездатністю свого (покійного) батька висловити йому свою прихильність, одного разу вирішив би «виправити», змінивши кілька рядків коду, цей аспект свого характеру й стати більш схожим на батька, якого він хотів?

Крім того, хто завадить користувачам Alexa інструктувати його розумний спікер зіграти для нас роль абсолютно живої людини, яка плекає нову форму цифрового фетишизму, у якій ще не відчували потреби?

Але чому?

Метою Amazon є створення інструментів, які привертають увагу людей і все більше залучають їх до онлайн-діяльності. Залучення користувачів уже стосується багатьох сфер приватного життя, і Amazon має намір зайняти нові, залучаючи, якщо необхідно, сентиментальну сферу, як у війні за окупацію, де територія завоювання знаходиться в приватному житті кожного з нас.

Стаття взята з Post of Gianfranco Fedele, якщо ви хочете прочитативесь допис натисніть тут