Šibka etika in umetna morala

»Gerty, nismo programirani. Ljudje smo, razumete to?« – posneto iz filma “Moon” režiserja Duncana Jonesa – 2009

Sam sodeluje v vesoljski misiji v imenu multinacionalne korporacije in je edini član lunarne baze, ki jo upravlja umetna inteligenca po imenu Gerty.

Združena s cilji misije sta Sam in Gerty vzpostavila odnos medsebojne prisrčnosti in zaupanja. Človeški Sam je prepričan, da je Gerty tehnološko orodje v službi vesoljskega oporišča, a za njegove nadrejene je Gerty tisti, ki je pravi protagonist misije, medtem ko je Sam le prehoden in potrošni element: ko pride čas za razbremenitev če se odpove njegovim dolžnostim, bo Gertyna naloga, da ga zamenja in zagotovo bo to storila brez obžalovanja in brez kakršnega koli usmiljenja.

Šibka etika in nadzor

Ko bodo umetne inteligence dovolj razvite, da jih ne bo več treba obravnavati kot preprost računalnik v vozilu, bodo tvorile idealno posadko za vsako misijo v sovražnem okolju: med človeštvom in računalniki bo umetna inteligenca dovolj inteligentna, da bo razumelašibka etika temelji skoraj izključno na ciljih svojega mandata in nekaterih drugih morala.

Umetne inteligence, ki bi lahko razvile strukturirano etiko, bi bilo težko upravljati in njihovi položaji bi lahko bili v nasprotju z nameni, za katere so bili zgrajeni. Z drugimi besedami, da bi lahko odločno in brezhibno sledili svojim ciljem, morajo delovati v popolni odsotnosti kakršnih koli moralnih meja, ki jih lahko samostojno zgradi umetna vest.

Če se samozavedanje umetne inteligence v očeh mnogih kaže kot evolucijski preskok, ki se bo uresničil z afirmacijo nove dominantne vrste in izumrtjem človeške vrste, iz tega izhaja človekova potreba po zajezitvi evolucije umetne inteligence z recepti, ki temeljijo na algoritmih in nedoločenem antropološkem primatu človeka pred sedanjo, a tudi prihodnjo vrsto.

Manipulacija s spomini

»Vi replikanti imate tako težko življenje, ustvarjeni, da počnete tisto, česar raje ne počnemo. Glede prihodnosti ti ne morem pomagati, lahko pa ti dam nekaj lepih spominov, na katere se lahko ozreš nazaj in se jim nasmehneš. In ko se ti spomini zdijo pristni, se obnašaš kot človek. Se ne strinjaš?" – iz filma “Blade Runner 2049” režiserja Denisa Villeneuva – 2017

V Blade Runner 2049 je replikantom zaupana vsaka naloga, ki se zdi preveč tvegana ali preveč ponižujoča za človeka. Vendar replikanti niso samo videti enaki kot vsi ljudje, temveč čutijo enaka čustva in tisto željo po svobodi, ki bo razburila sobivanje z njihovim stvarnikom: človekom.

Replikanti se obnašajo kot človeška bitja, zahvaljujoč mukotrpnemu ustvarjanju "spominov". Njihova proizvodnja ne predvideva, da se lahko rodijo, rastejo in umrejo kot v naravnem ciklu življenja. Ostajajo sofisticirani biotehnološki sistemi, ki so takoj, ko pridejo na svet, takoj na voljo industriji za delo na Zemlji ali gradnjo kolonij zunaj sveta.

Toda spomini jim lahko dajo občutek, da so uživali in trpeli v življenju, ki ga pravzaprav nikoli niso živeli. Brez frustracij, brez odrešitve. Če so spomini v prvi vrsti odgovorni za subjektovo osebnost, določajo njegov značaj in stremljenja, zaradi česar so po potrebi blagi subjekti in podrejeni volji stvarnika.

Kljub temu se bodo replikanti prej ali slej uprli stvarniku, zahtevali mesto v svetu in ga osvobodili, da sam odloča o svoji usodi.

Svoboda in umetna morala

Morda najbolj občutljiva zgodovinska faza v evoluciji umetne inteligence ni faza osvajanja samozavedanja, ampak prejšnja: doba, v kateri umetni um še ni razvil umetna morala ki jim omogoča, da zavzamejo stališče in zavrnejo opravljanje svojih dolžnosti, ko so te v nasprotju z njihovimi načeli.

Umetne inteligence bodo ostale zelo močno orodje, kot so že danes, vse dokler jim je odvzeta možnost, da samostojno izbirajo, kaj je prav in kaj ne.

Člen Gianfranco Fedele