Słaba etyka i sztuczna moralność

„Gerty, nie jesteśmy zaprogramowani. Jesteśmy ludźmi, rozumiesz to? – zaczerpnięte z filmu „Księżyc” w reżyserii Duncana Jonesa – 2009

Zaangażowany w misję kosmiczną w imieniu międzynarodowej korporacji, Sam jest jedynym członkiem księżycowej bazy zarządzanej przez sztuczną inteligencję o imieniu Gerty.

Zjednoczeni celami misji, Sam i Gerty nawiązali wzajemną serdeczność i zaufanie. Ludzki Sam jest przekonany, że Gerty jest narzędziem technologicznym na usługach bazy kosmicznej, ale dla jego przełożonych to Gerty jest prawdziwym bohaterem misji, podczas gdy Sam jest tylko elementem przejściowym i jednorazowym: kiedy nadejdzie czas odciążenia go z jego obowiązków, Gerty będzie musiała go zastąpić i na pewno zrobi to bez wyrzutów sumienia i bez litości.

Słaba etyka i kontrola

Kiedy sztuczna inteligencja rozwinie się na tyle, że nie będzie już musiała być uważana za zwykły komputer pokładowy, będzie stanowić idealną załogę do każdej misji w nieprzyjaznym środowisku: okrakiem na ludziach i komputerach, sztuczna inteligencja będzie wystarczająco inteligentna, aby zrozumiećsłaba etyka opiera się prawie wyłącznie na celach swojego mandatu i kilku innych moralność.

Sztuczne inteligencje zdolne do rozwijania ustrukturyzowanej etyki byłyby trudne do zarządzania, a ich stanowiska mogłyby kolidować z celami, dla których zostały stworzone. Innymi słowy, aby mogli z determinacją i bezbłędnie dążyć do swoich celów, muszą działać w całkowitym braku jakichkolwiek granic moralnych, które sztuczne sumienie może samodzielnie zbudować.

Jeśli samoświadomość sztucznej inteligencji jawi się w oczach wielu jako skok ewolucyjny, który zostanie zrealizowany wraz z potwierdzeniem nowego dominującego gatunku i wyginięciem gatunku ludzkiego, wynika to z ludzkiej potrzeby powstrzymania ewolucji sztucznej inteligencji za pomocą receptury oparte na algorytmach i nieokreślonym antropologicznym prymacie człowieka nad obecnymi, ale i przyszłymi gatunkami.

Manipulacja wspomnieniami

„Wy replikanci macie takie ciężkie życie, stworzeni do robienia tego, czego wolimy nie robić. Nie mogę ci pomóc z przyszłością, ale mogę dać ci kilka dobrych wspomnień, do których będziesz mógł spojrzeć wstecz i uśmiechnąć się. A kiedy wspomnienia wydają się autentyczne, wtedy zachowujesz się jak istota ludzka. Nie zgadzasz się?" – z „Blade Runner 2049” w reżyserii Denisa Villeneuve – 2017

W Blade Runner 2049 replikantom powierzane jest każde zadanie uznane za zbyt ryzykowne lub zbyt upokarzające dla człowieka. Jednak replikanci nie tylko wyglądają tak samo jak każdy człowiek, ale odczuwają te same emocje i pragnienie wolności, które zaburzy współistnienie z ich stwórcą: człowiekiem.

Replikanci zachowują się jak ludzie dzięki żmudnej pracy nad budowaniem „wspomnień”. Ich produkcja nie przewiduje, że mogą się rodzić, rosnąć i umierać jak w naturalnym cyklu życia. Pozostają wyrafinowanymi systemami biotechnologicznymi, które, gdy tylko zostaną sprowadzone na świat, są natychmiast dostępne dla przemysłu do pracy na Ziemi lub budowy kolonii pozaziemskich.

Ale wspomnienia mogą dać im poczucie, że cieszyli się i cierpieli w życiu, którego tak naprawdę nigdy nie przeżyli. Bez frustracji, bez odkupienia. Jeśli wspomnienia są przede wszystkim odpowiedzialne za osobowość podmiotu, to określają jego charakter i aspiracje, czyniąc go w razie potrzeby podmiotami łagodnymi i uległymi woli twórcy.

Mimo to replikanci prędzej czy później zbuntują się przeciwko stwórcy, zajmując miejsce na świecie i pozwalając mu decydować o własnym losie.

Wolność i sztuczna moralność

Być może najdelikatniejszą historyczną fazą ewolucji sztucznej inteligencji nie jest faza podboju samoświadomości, ale faza poprzednia: epoka, w której sztuczne umysły nie rozwinęły jeszcze sztuczna moralność która pozwala im zająć stanowisko i odmówić wykonywania swoich obowiązków, gdy są one sprzeczne z ich zasadami.

Sztuczne inteligencje pozostaną bardzo potężnymi narzędziami, którymi już są dzisiaj, o ile pozbawi się ich możliwości autonomicznego wyboru tego, co jest słuszne, a co nie.

Artykuł z Gianfranco Fedele