Slabá etika a umelá morálka

"Gerty, nie sme naprogramovaní." Sme ľudia, rozumieš tomu?" – prevzaté z filmu „Moon“ režiséra Duncana Jonesa – 2009

Sam, zapojený do vesmírnej misie v mene nadnárodnej korporácie, je jediným členom lunárnej základne riadenej umelou inteligenciou menom Gerty.

Zjednotení cieľmi misie, Sam a Gerty vytvorili vzťah vzájomnej srdečnosti a dôvery. Ľudský Sam je presvedčený, že Gerty je technologický nástroj slúžiaci vesmírnej základni, no pre jeho nadriadených je Gerty skutočným protagonistom misie, zatiaľ čo Sam je len prechodným a nahraditeľným prvkom: keď príde čas na úľavu jeho povinnosti, bude úlohou Gerty nahradiť ho a určite to urobí bez výčitiek svedomia a bez milosti.

Slabá etika a kontrola

Keď budú AI dostatočne vyvinuté na to, aby sa už nemuseli považovať za jednoduchý palubný počítač, vytvoria ideálnu posádku pre akúkoľvek misiu v nepriateľskom prostredí: na pomedzí ľudstva a počítačov budú AI dostatočne inteligentné na to, aby porozumelislabá etika takmer výlučne na cieľoch svojho mandátu a niekoľkých ďalších morálky.

Umelé inteligencie schopné rozvíjať štruktúrovanú etiku by bolo ťažké riadiť a ich pozície by mohli byť v rozpore s účelmi, na ktoré boli postavené. Inými slovami, aby mohli odhodlane a bezchybne presadzovať svoje ciele, musia fungovať pri úplnej absencii akýchkoľvek morálnych hraníc, ktoré si umelé svedomie môže autonómne vybudovať.

Ak sa sebauvedomenie AI javí v očiach mnohých ako evolučný skok, ktorý sa uskutoční s potvrdením nového dominantného druhu a vyhynutím ľudského druhu, z toho vyplýva potreba človeka obmedziť evolúciu inteligencií umelých s receptúry založené na algoritmoch a nešpecifikovanej antropologickej nadradenosti človeka nad súčasnými, ale aj budúcimi druhmi.

Manipulácia so spomienkami

„Vy replikanti máte také ťažké životy, stvorení na to, aby ste robili to, čo my nechceme robiť. Nemôžem vám pomôcť s budúcnosťou, ale môžem vám poskytnúť niekoľko dobrých spomienok, na ktoré sa môžete obzrieť a usmievať sa. A keď sú spomienky autentické, potom sa správate ako ľudská bytosť. Nesúhlasíš?" – z filmu „Blade Runner 2049“ réžia Denis Villeneuve – 2017

V hre Blade Runner 2049 sú replikanti poverení akoukoľvek úlohou, ktorá je pre človeka považovaná za príliš riskantnú alebo príliš ponižujúcu. Replikanti však nielenže vyzerajú rovnako ako každý človek, ale cítia rovnaké emócie a túžbu po slobode, ktorá naruší spolužitie s ich tvorcom: človekom.

Replikanti sa vďaka usilovnej práci na budovaní „pamätí“ správajú ako ľudské bytosti. Ich produkcia nepredpokladá, že sa môžu narodiť, rásť a zomrieť ako v prirodzenom cykle života. Zostávajú sofistikovanými biotechnologickými systémami, ktoré, len čo sa dostanú na svet, sú okamžite dostupné pre priemyselné odvetvia, aby mohli pracovať na Zemi alebo budovať mimozemské kolónie.

Ale spomienky im môžu dať pocit, že si užívali a trpeli v živote, ktorý v skutočnosti nikdy nežili. Žiadna frustrácia, žiadne vykúpenie. Ak sú spomienky primárne zodpovedné za osobnosť subjektu, určujú jeho charakter a ašpirácie, čím sa v prípade potreby stávajú miernymi subjektmi a podriaďujú sa vôli tvorcu.

Napriek tomu sa replikanti skôr či neskôr vzbúria proti stvoriteľovi, vybojujú si miesto vo svete a oslobodia ho, aby rozhodoval o svojom osude.

Sloboda a umelá morálka

Snáď najchúlostivejšou historickou fázou vo vývoji umelej inteligencie nie je fáza dobývania sebauvedomenia, ale tá predchádzajúca: éra, v ktorej sa umelé mysle ešte nerozvinuli. umelá morálka čo im umožňuje zaujať stanovisko a odmietnuť vykonávať svoje povinnosti, keď sú v rozpore s ich zásadami.

Umelé inteligencie zostanú veľmi silnými nástrojmi, ktorými už dnes sú, pokiaľ nebudú zbavené schopnosti autonómne si vyberať, čo je správne a čo nie.

Článok z Gianfranco Fedele