Слабая этыка і штучная мараль

«Герці, мы не запраграмаваныя. Мы людзі, вы гэта разумееце?» – з фільма Дункана Джонса «Месяц» 2009 г

Сэм, які ўдзельнічае ў касмічнай місіі ад імя транснацыянальнай карпарацыі, з'яўляецца адзіным членам месяцовай базы, якой кіруе штучны інтэлект па імені Герці.

Аб'яднаныя мэтамі місіі, Сэм і Герці ўсталявалі адносіны ўзаемнай сардэчнасці і даверу. Чалавек Сэм перакананы, што Герці з'яўляецца тэхналагічным інструментам на службе касмічнай базы, але для яго начальства менавіта Герці з'яўляецца сапраўдным героем місіі, у той час як Сэм - толькі пераходны і расходны элемент: калі прыйдзе час вызваліцца яго абавязкаў, праца Герці будзе замяніць яго, і яна, безумоўна, зробіць гэта без усялякіх згрызотаў сумлення і без літасці.

Слабая этыка і кантроль

Калі штучны інтэлект будзе дастаткова развітым, каб яго больш не трэба было разглядаць як просты бартавы камп'ютар, ён стане ідэальным экіпажам для любой місіі ў варожым асяроддзі: паміж чалавецтвам і кампутарамі, штучны інтэлект будзе дастаткова разумным, каб разумецьслабая этыка будаваўся амаль выключна на мэтах свайго мандата і некаторых іншых мараль.

Штучным інтэлектам, здольным выпрацаваць структураваную этыку, было б цяжка кіраваць, і іх пазіцыі маглі б канфліктаваць з мэтамі, для якіх яны былі створаны. Іншымі словамі, для таго, каб яны маглі рашуча і бездакорна дамагацца сваіх мэтаў, яны павінны дзейнічаць пры поўнай адсутнасці любых маральных межаў, якія штучнае сумленне можа пабудаваць аўтаномна.

Калі самасвядомасць штучнага інтэлекту выглядае ў вачах многіх як эвалюцыйны скачок, які будзе рэалізаваны са сцвярджэннем новага дамінуючага віду і знікненнем чалавечага віду, з гэтага вынікае патрэба чалавека стрымліваць эвалюцыю штучнага інтэлекту з рэцэпты, заснаваныя на алгарытмах і невызначаным антрапалагічным прымаце чалавека над цяперашнімі, але і будучымі відамі.

Маніпуляцыя ўспамінамі

«У вас, рэплікантаў, такое цяжкае жыццё, вы створаны для таго, каб рабіць тое, чаго мы аддаем перавагу не рабіць. Я не магу дапамагчы табе з будучыняй, але я магу даць табе добрыя ўспаміны, каб азірнуцца назад і ўсміхнуцца. І калі ўспаміны адчуваюць сябе сапраўднымі, тады вы паводзіце сябе як чалавек. Вы не згодныя?» – з «Бегучага па лязе 2049» рэжысёра Дэні Вільнёва – 2017 г.

У Blade Runner 2049 рэплікантам давяраюць любую задачу, якая лічыцца занадта рызыкоўнай або занадта зневажальнай для чалавека. Тым не менш, рэпліканты не толькі выглядаюць гэтак жа, як любы чалавек, яны адчуваюць тыя ж эмоцыі і тое жаданне свабоды, што парушыць суіснаванне з іх стваральнікам: чалавекам.

Рэпліканты паводзяць сябе як людзі дзякуючы карпатлівай працы па стварэнні «ўспамінаў». Іх вытворчасць не прадугледжвае, што яны могуць нараджацца, расці і паміраць, як у натуральным цыкле жыцця. Яны застаюцца складанымі біятэхналагічнымі сістэмамі, якія, як толькі яны з'яўляюцца ў свеце, адразу становяцца даступнымі для прамысловасці для працы на Зямлі або для стварэння калоній за межамі свету.

Але ўспаміны могуць даць ім адчуванне таго, што яны атрымлівалі асалоду ад і пакутавалі ў жыцці, якое насамрэч ніколі не было. Няма расчаравання, няма выкупу. Калі ўспаміны ў першую чаргу адказваюць за асобу суб'екта, яны вызначаюць яго характар ​​і памкненні, робячы іх, пры неабходнасці, мяккімі суб'ектамі і пакорлівымі волі творцы.

Нягледзячы на ​​гэта, рана ці позна рэпліканты паўстануць супраць стваральніка, прэтэндуючы на ​​месца ў свеце і вызваліўшы яго самастойна вырашаць свой лёс.

Свабода і штучная мараль

Мабыць, самая далікатная гістарычная фаза ў эвалюцыі штучнага інтэлекту - гэта не фаза заваёвы самасвядомасці, а папярэдняя: эпоха, у якой штучны розум яшчэ не развіўся штучная мараль што дазваляе ім заняць пазіцыю і адмовіцца выконваць свае абавязкі, калі яны супярэчаць іх прынцыпам.

Штучны інтэлект застанецца вельмі магутным інструментам, якім ён з'яўляецца сёння, пакуль ён будзе пазбаўлены магчымасці аўтаномна выбіраць, што рабіць правільна, а што не.

Артыкола дзі Gianfranco Fedele