Парадокс Гокінга

«Грея тут більше немає. Це в кращому місці. Закритий у своїй свідомості, де він хоче бути. Зараз я під контролем. Уявний світ для нього набагато менш болючий, ніж реальний. Все, що йому потрібно, це зламати свій розум, і він його зламав». - з Upgrade, фільму сценариста та режисера Лі Воннелла.

У 2021 році опубліковано на Nature Medicine дослідження, проведене групою дослідників з Каліфорнійського університету. У рамках дослідження деякі лікарі хірургічним шляхом імплантували мікрочіп у мозок жінки, яка страждала від важкої форми депресії, яка вже не піддавалася лікуванню ліками.

Для цього дослідники визначили дві області мозку жінки, які особливо залучені до генерації «депресивних думок», і підключили мікрочіп до цих областей.

Позитивні думки

Останній, здатний перехоплювати певні електричні імпульси, пов’язані з нав’язливими думками, почав виробляти електричні стимуляції, здатні формувати «позитивні думки», які їм протистоять.

Цей епізод піднімає низку етичних питань про те, як, коли і чому ми повинні змінювати свідомість людини, імплантувавши в її мозок чіп, який змінює його роботу.

Якби ми обмежилися використанням мікрочіпів для лікування патологій у пацієнтів, стійких до ліків, встановлення етичних меж було б простою операцією.

Але спроба «збільшити» потужність людського мозку, розширивши його можливості за допомогою додаткового ЦП, відповідального за обробку вбудований на нашу думку, це вже є в програмах багатьох компаній і стартапів, таких як сумнозвісний Neuralink Ілона Маска. Чого ти хочеш досягти?

Уявіть собі можливість відстежувати вміст запису у Вікіпедії в будь-який час без підключення до Інтернету. Або мати можливість керувати технологічними інструментами лише силою думки. А тепер давайте спробуємо уявити численні контексти, в яких ці надздібності змінюють життя людей, наприклад, дозволяючи хворим на серйозні захворювання відновити частину своєї автономії. Це все чудово.

Однак якщо ми переключимо нашу увагу на мікрочіп, який уможливить це диво, легко уявити, наскільки важливо встановити етичні принципи щодо пропонованих можливостей і ризиків, які можуть виникнути в результаті поєднання інтелектуальних обчислювальних систем і людини. мозок.

Звучить як наукова фантастика, але щось подібне траплялося раніше.

Яке відношення до цього має Стівен Гокінг?

У 2014 році стан здоров'я Стівена Хокінга, який страждав від нейродегенеративного захворювання, більше не дозволяв йому спілкуватися зі світом через традиційні цифрові системи. Рухи, які він міг робити тільки щокою, стали непомітними, і жоден електронний інструмент ніколи не зміг би їх прочитати та витлумачити.

Тому Intel разом із лондонською компанією SwiftKey створили для нього штучний інтелект, який, керуючись книгами та документами, написаними ним протягом багатьох років, дозволив Хокінгу спілкуватися. Іншими словами, технологія здійснила інтелектуальну оцінку невербальної комунікації Гокінга, час від часу встановлюючи, що він, швидше за все, мав на увазі під час кожної розмови.

Хокінг був у захваті від технологій і можливостей, які відкрилися перед ним, але той факт, що цей інструмент був єдиною точкою контакту між ним і світом, робив його здатність спілкуватися повністю залежною від нього. Алгоритми штучного інтелекту, завдяки яким стало можливим диво, стали єдиним мостом між Хокінгом і рештою світу. Будь-яка аномалія в інтерпретації сигналів тіла Хокінга могла призвести до неправильної відповіді ШІ, небажаної Хокінгом, але в той же час абсолютно відповідної контексту розмови.

Сценарій полягає в тому, що великий вчений не може спілкуватися зі світом і штучний інтелект, який бере під контроль його життя та спілкується замість нього.

На думку деяких, саме залежність Гокінга від штучного інтелекту стимулювала в ньому песимістичну ідею, згідно з якою, використовуючи його слова: «[...] штучний інтелект діятиме і розвиватиметься незалежно від людини і в кінцевому підсумку поставить під загрозу саме існування людства».

Втрата контролю

Фільм модернізація добре описує цей випадок: спортивний механік Грей став жертвою нападу, під час якого його дружина втрачає життя, а він змушений вічно жити в інвалідному візку. Лише експериментальний чіп, оснащений штучним інтелектом, відомим як STEM, після імплантації в його магістраль зможе повернути його на ноги та дати йому нову надію на життя.

Але хоча Ґрей переконаний, що він може повернутися до нормального життя, STEM захопить його тіло, маніпулюючи його психікою, доки вона не повернеться до стану вічного сну: Ґрей ніби дивом поєднається зі своєю померлою дружиною та житиме вічно в всередині метавсесвіту, створеного спеціально для нього, тоді як STEM стане прототипом нової породи людських тіл, керованих штучним розумом.

Висновки

Як запобігти такому сценарію? На мою думку, не варто чекати розвитку передових систем, таких як STEM, щоб технології взяли під контроль наше життя. Також немає можливості протистояти технологічній еволюції, такій як STEM, через величезні економічні інтереси, які фінансують її створення.

Очевидно, що дорослий, який шукає метавсесвіт, де він міг би полегшити свій біль і штучно віднайти щастя, вже передає контроль над своїм розумом комусь іншому.

Єдиний спосіб запобігти тому, щоб технології одного разу заволоділи нашим життям, — це навчити нові покоління принципам, які тримають нас на зв’язку з реальністю.

Важливо розуміти, що метавсесвіт — це лише ілюзія, ілюзія, яка має недолік перебувати під чиїмось контролем і цей хтось — не ми.

Стаття взята з Post of Gianfranco Fedele, якщо ви хочете прочитативесь допис натисніть тут