Slaba etika i umjetni moral

“Gerty, nismo programirani. Ljudi smo, razumiješ li to?” – preuzeto iz filma “Mjesec” redatelja Duncana Jonesa – 2009

Angažiran u svemirskoj misiji u ime multinacionalne korporacije, Sam je jedini član lunarne baze kojom upravlja umjetna inteligencija po imenu Gerty.

Ujedinjeni ciljevima misije, Sam i Gerty uspostavili su odnos uzajamne srdačnosti i povjerenja. Ljudski Sam uvjeren je da je Gerty tehnološki alat u službi svemirske baze, no za njegove nadređene Gerty je pravi protagonist misije dok je Sam samo prolazni i potrošni element: kada dođe vrijeme za oslobađanje ako se oslobodi svojih dužnosti, Gertyn će posao biti da ga zamijeni i ona će to sigurno učiniti bez imalo grižnje savjesti i bez imalo milosti.

Slaba etika i kontrola

Kada umjetna inteligencija bude dovoljno razvijena da se više ne mora smatrati jednostavnim računalom u vozilu, činit će idealnu posadu za bilo koju misiju u neprijateljskom okruženju: između čovječanstva i računala, umjetna inteligencija će biti dovoljno inteligentna da razumijeslaba etika izgrađen gotovo isključivo na ciljevima svog mandata i nekoliko drugih moralnost.

Umjetnom inteligencijom koja je sposobna razviti strukturiranu etiku bilo bi teško upravljati i njezine bi pozicije mogle biti u sukobu sa svrhom za koju su izgrađene. Drugim riječima, kako bi mogli odlučno i besprijekorno slijediti svoje ciljeve, moraju djelovati u potpunom nedostatku moralnih granica koje umjetna savjest može autonomno izgraditi.

Ako se samosvijest o umjetnoj inteligenciji u očima mnogih pojavljuje kao evolucijski skok koji će se ostvariti afirmacijom nove dominantne vrste i izumiranjem ljudske vrste, iz toga proizlazi potreba čovjeka za obuzdavanjem evolucije inteligencije umjetne s receptura temeljena na algoritmima i neodređenom antropološkom primatu čovjeka nad sadašnjim, ali i budućim vrstama.

Manipulacija sjećanjima

“Vi replikanti imate tako teške živote, stvoreni da radite ono što mi radije ne radimo. Ne mogu ti pomoći s budućnošću, ali ti mogu dati lijepe uspomene na koje ćeš se osvrnuti i kojima ćeš se nasmiješiti. A kada se uspomene osjećaju autentično, tada se ponašate kao ljudsko biće. Ne slažes se?" – iz filma “Blade Runner 2049” redatelja Denisa Villeneuvea – 2017.

U Blade Runneru 2049 replikantima se povjerava svaki zadatak koji se smatra previše riskantnim ili previše ponižavajućim za ljudsko biće. Ipak, replikanti ne samo da izgledaju isto kao i svako ljudsko biće, oni osjećaju iste emocije i želju za slobodom koja će poremetiti suživot s njihovim tvorcem: čovjekom.

Replikanti se ponašaju kao ljudska bića zahvaljujući mukotrpnom radu na izgradnji "sjećanja". Njihova proizvodnja ne predviđa da se mogu rađati, rasti i umrijeti kao u prirodnom ciklusu života. Oni ostaju sofisticirani biotehnološki sustavi koji su, čim se donesu na svijet, odmah dostupni industrijama za rad na Zemlji ili izgradnju kolonija izvan svijeta.

Ali sjećanja im mogu dati osjećaj da su uživali i patili u životu koji zapravo nikada nije proživljen. Nema frustracija, nema iskupljenja. Ako su sjećanja primarno odgovorna za osobnost subjekta, ona određuju njegov karakter i težnje, čineći ih, kad je potrebno, blagim subjektima i podložnim volji stvoritelja.

Unatoč tome, prije ili kasnije replikanti će se pobuniti protiv tvorca, zauzeti mjesto u svijetu i osloboditi ga da sam odlučuje o svojoj sudbini.

Sloboda i umjetni moral

Možda najdelikatnija povijesna faza u evoluciji umjetne inteligencije nije ona osvajanja samosvijesti, već prethodna: doba u kojem umjetni umovi još nisu razvili umjetni moral to im omogućuje da zauzmu stav i odbiju izvršavati svoje dužnosti kada se one kose s njihovim načelima.

Umjetne inteligencije ostat će vrlo moćni alati kakvi već jesu danas, sve dok im je oduzeta mogućnost da samostalno biraju što je ispravno činiti, a što nije.

Članak iz Gianfranco Fedele