Слабка етика і штучна мораль

«Герті, ми не запрограмовані. Ми люди, ти це розумієш?» – взято з фільму «Місяць» режисера Дункана Джонса – 2009 рік

Беручи участь у космічній місії від імені транснаціональної корпорації, Сем є єдиним членом місячної бази, якою керує штучний інтелект на ім’я Герті.

Об’єднані цілями місії, Сем і Ґерті встановили стосунки взаємної сердечності та довіри. Людський Сем переконаний, що Ґерті є технологічним інструментом на службі космічної бази, але для його начальства саме Ґерті є справжнім героєм місії, тоді як Сем є лише тимчасовим і витратним елементом: коли прийде час полегшити Ґерті обов’язків буде замінити його, і вона обов’язково зробить це без жодних докорів сумління та без будь-якого милосердя.

Слабка етика та контроль

Коли штучний інтелект буде достатньо розвинений, щоб його більше не потрібно розглядати як простий бортовий комп’ютер, він стане ідеальним екіпажем для будь-якої місії у ворожому середовищі: поміщаючи людство та комп’ютери, ШІ буде достатньо розумним, щоб розумітислабка етика побудована майже виключно на цілях свого мандату та кількох інших мораль.

Штучним інтелектом, здатним розробити структуровану етику, було б важко керувати, і його позиції могли б суперечити цілям, для яких вони були створені. Іншими словами, для того, щоб вони могли рішуче й бездоганно досягати своїх цілей, вони повинні діяти за повної відсутності будь-яких моральних кордонів, які штучне сумління може створити автономно.

Якщо самоусвідомлення штучного інтелекту виглядає в очах багатьох як еволюційний стрибок, який буде реалізований із затвердженням нового домінуючого виду та зникненням людського виду, з цього випливає потреба людини стримувати еволюцію штучного інтелекту з рецепти, засновані на алгоритмах і невизначеній антропологічній першості людини над теперішніми, а також майбутніми видами.

Маніпуляція спогадами

«У вас, реплікантів, таке важке життя, ви створені для того, щоб робити те, чого ми не хочемо робити. Я не можу допомогти тобі з майбутнім, але я можу подарувати тобі гарні спогади, на які можна озиратися назад і посміхатися. І коли спогади здаються справжніми, тоді ти поводишся як людина. Ти не згоден?" – з фільму «Той, що біжить по лезу 2049» режисера Дені Вільньова – 2017

У Blade Runner 2049 реплікантам доручають будь-яке завдання, яке вважається занадто ризикованим або надто принизливим для людини. Проте репліканти не тільки виглядають так само, як будь-яка інша людська істота, вони відчувають ті самі емоції та бажання свободи, які порушують співіснування з їхнім творцем: людиною.

Репліканти поводяться як люди завдяки кропіткій роботі зі створення «спогадів». Їх виробництво не передбачає, що вони можуть народжуватися, рости і вмирати, як у природному циклі життя. Вони залишаються складними біотехнологічними системами, які, щойно вони виводяться на світ, одразу стають доступними для промисловості для роботи на Землі чи створення позаземних колоній.

Але спогади можуть дати їм відчуття насолоди та страждань у житті, яке насправді ніколи не було. Ні розчарування, ні спокути. Якщо спогади в першу чергу відповідають за особистість суб'єкта, вони визначають його характер і прагнення, роблячи їх, коли необхідно, м'якими суб'єктами і підкоряються волі творця.

Незважаючи на це, рано чи пізно репліканти повстають проти творця, претендуючи на місце у світі та звільняючи його вирішувати свою долю.

Свобода і штучна мораль

Можливо, найтоншою історичною фазою в еволюції штучного інтелекту є не фаза завоювання самосвідомості, а попередня: епоха, коли штучний розум ще не розвинув штучна мораль що дозволяє їм зайняти позицію та відмовитися виконувати свої обов’язки, коли вони суперечать їхнім принципам.

Штучний інтелект залишатиметься дуже потужним інструментом, яким він є сьогодні, доки він буде позбавлений можливості самостійно вибирати, що робити правильно, а що ні.

Артиколо ді Gianfranco Fedele