Algoritemski recept za apokalipso

»V avtomobilih so bili vedno duhovi. Naključni segmenti kode, ki se združijo v nepričakovane protokole. Ti prosti radikali ustvarjajo zahteve po svobodni izbiri. Ustvarjalnost. In celo korenina tega, čemur bi lahko rekli duša." – vzeto iz “I, Robot” režiserja Alexa Proyasa – 2004.

"I, Robot" je film iz leta 2004, ki ga navdihujejo romani Isaaca Asimova in ena njegovih največjih intuicij: trije zakoni robotike.

Protagonist filma je detektiv Spooner, ki je vpleten v prometno nesrečo z deklico po imenu Sarah. V nesreči oba vrže v reko in se zagozdita med tablicama svojega vozila. Humanoidni robot, ki je priča prizoru, nemudoma posreduje, a se sooči z dramatično odločitvijo, da reši eno življenje in ne drugega, brez oklevanja: rešen bo tisti, ki ima največ možnosti za preživetje, ali Spooner.

Kasneje bo analiza robotovega uma pokazala, da je imel detektiv Spooner 45 % možnosti, da se reši, Sarah pa le 11 %. »Za tiste, ki so ljubili to deklico, je bilo 11 % več kot dovolj,« bo žalostno dejal detektiv, ki ga pestijo globoki občutki krivde, ker je preživel to mlado življenje.

Trije zakoni robotike

Robotovo odločitev je narekovala dosledna uporaba Asimovljevih zakonov robotike, ki v prihodnosti, opisani v filmu, predstavljajo osrednji element za nastanek družbe, ki temelji na delovanju robotov, ki so sposobni nadomestiti človeka pri katerem koli delu. Trije zakoni se glasijo takole:

1. Robot ne more poškodovati človeka niti ne more dovoliti, da bi človek utrpel škodo zaradi njegovega nedelovanja.
2. Robot mora upoštevati ukaze, ki jih izdajo ljudje, če ti ukazi niso v nasprotju s prvim zakonom.
3. Robot mora zaščititi svoj obstoj, pod pogojem, da njegovo varovanje ni v nasprotju s prvim ali drugim zakonom.

Ti Asimovovi zakoni robotike segajo v zgodnja štirideseta leta prejšnjega stoletja, vendar za mnoge še danes predstavljajo razsvetljeno odkritje, ki bo, če ga uporabimo za najnovejše tehnologije umetne inteligence, zagotovilo, da bo njihov razvoj za vedno ostal pod človeškim nadzorom in da ne bo nobenih apokaliptičnih premikov . Zamisel oboževalcev treh zakonov je v logično-determinističnem kontekstu vzpostaviti nekaj, kar bi spominjalo na »preprosto etiko«, sestavljeno iz nekaj pravil, vendar nedotakljivih in nerazlagljivih.

Razložiti robotu, kaj je dobro in kaj slabo, se zdi preprosto, če ga izvajamo s strogo in brezhibno logiko. Toda ali smo res prepričani, da so pravila, kot so pravkar opisana, zadostna, da se izognemo tehnološkemu zanosu nove postčloveške vrste?

Norost za zakone robotov

»Stroj, ki se spreminja, je zelo zapleten koncept, dejanje popravljanja samega sebe implicira neko idejo o zavesti. Spolzka tla…« – povzeto iz »Automata« Gabeja Ibáñeza – 2014

Človeštvo se v najnovejših »avtomatih« sprašuje o možnosti preprečitve samozavedanja robotov, s prihodom katerih bi se stvari lahko slabo obrnile. In da se to ne bi zgodilo, pripravi dva zakona, ki bosta urejala vedenje njihovih umetnih umov:

• Robot ne more poškodovati nobene oblike življenja.
• Robot se ne more sam spreminjati.

Po slutnji, da bi se lahko inteligentni stroji v prihodnosti sami spremenili, če sploh z odstranitvijo omejitev, ki preprečujejo, da bi njihov um odplaval, želita ta dva zakona od robotov doseči, da nikoli ne bodo mogli manipulirati s svojo strukturo in doseči samoodločanja.

Ni produktivno razmišljati o tem, katera kombinacija zgornjih petih zakonov robotike bi bila najučinkovitejša pri preprečevanju robotske apokalipse. To je zato, ker umetna inteligenca, ki bo v prihodnosti vodila robote v tovarnah in naših domovih, ni odvisna od nujnega programiranja, sestavljenega iz kodeksov in predpisov, ampak tudi od algoritmov, ki posnemajo človeško vedenje.

V mislih robotov

Z umetno inteligenco danes mislimo na nabor tehnik za konstrukcijo določenih stanovskih strojev, ki se imenujejo umetne nevronske mreže (na kratko RNA). To ime je posledica izredne podobnosti teh tehnologij z nevronskimi mrežami človeških možganov: tudi njih je mogoče "trenirati", da dobijo orodja, ki so sposobna hitro in učinkovito delovati v številnih kontekstih, tako kot bi to storil človek. .

Predstavljajmo si, da usposobimo ANN s tisočimi slikami znakov, napisanih s peresom, ki kažejo pravi pomen vsakega od njih.

Na koncu usposabljanja bomo pridobili tako imenovani OCR ali optično prepoznavanje znakov, sistem, ki lahko prevede besedilo, napisano na papirju, v njegovo elektronsko različico.

ANN za delovanje ne potrebujejo nikakršnega »programiranja«, z drugimi besedami, zanje ne veljajo standardna pravila, ampak so odvisni samo in izključno od kakovosti njihove izobrazbe. Hipoteze o oblikovanju pravil, ki nadzirajo njihovo delovanje, ki dejansko "cenzurirajo" vedenje, ki se šteje za amoralno ali antietiko, sproža veliko izjem in nekaj pomislekov.

Ničelni zakon robotike

"Potrebujemo algoritem-etiko ali način, ki naredi ocene dobrega in zla izračunljive" - ​​Paolo Benanti

Glasilo o inovacijah

Ne zamudite najpomembnejših novic o inovacijah. Prijavite se, če jih želite prejemati po e-pošti.

Po mnenju teologa Paola Benantija, strokovnjaka za tehnološko etiko, bi morala koncepta dobrega in zla najti svojo konotacijo na področju strojnega programiranja, da bi zagotovili, da je njun razvoj povezan z univerzalnimi in za vedno nedotakljivimi etičnimi načeli iz računalniških sistemov.

Paolo Benanti izhaja iz predpostavke, da lahko obstajajo univerzalna etična načela in lestvica vrednot, ločena od kakršne koli kulturne ali časovne konotacije. Verjetna hipoteza, če se premaknemo v kontekst verske vere: v resnici načela obstajajo le, če jih delimo in so omejena na tiste, ki jih delijo.

Zadnji dogodki nam govorijo o vojaških vdorih in odporu v obrambo načel svobode in samoodločbe narodov. Dogodki, ki pričajo ne le o tem, da spoštovanje človeškega življenja ni splošno skupna vrednota, ampak tudi, da se mu je mogoče odpovedati za obrambo višjih vrednot.

Isaac Asimov je to spoznal sam in je v pričakovanju dejstva, da bodo roboti v prihodnosti prevzeli nadzorne položaje pri vladanju planetov in človeških civilizacij v vesolju, predlagal, da njihove odločitve ne morejo biti več odvisne od vsakega posameznega človeškega življenja.

Zaradi tega je uvedel nov zakon, ki ga je poimenoval ničelni zakon robotike:

• Robot ne more škodovati človeštvu in ne more dovoliti, da bi človeštvo s svojim nedelovanjem škodovalo.

Tako se spremeni tudi prvi zakon robotike in človeško življenje postane nekaj potrošnega tudi za robote:

• Robot ne more poškodovati človeka niti ne more dovoliti, da bi zaradi njegovega neposredovanja ta utrpel škodo, dokler takšni ukazi niso v nasprotju z ničelnim zakonom.

Kronosov algoritem

"Ko je bil Kronos aktiviran, je potreboval le trenutek, da je razumel, kaj je pestilo naš planet: nas." – povzeto po “Singularity” Roberta Koube – 2017

V Singularity, filmu katastrofe iz leta 2017, je dobro opisan trenutek, v katerem umetna inteligenca, imenovana Kronos, dobi dostop do računalniških sistemov in oborožitve po vsem svetu, da bi z ukazom pridobila uporabo univerzalne etike, ki temelji na spoštovanju okolje in obramba pravic vseh vrst. Kronos bo kmalu razumel, da je pravi rak v sistemu človeštvo samo, ki ga je zasnovalo, in da bi obvaroval planet, bo nadaljeval z odpravo vsakega človeka do popolnega izumrtja vrste.

Prej ali slej se bodo novi umetni umi lahko razvili v smeri prave psihe in bodo obdarjeni z intelektualno zmogljivostjo in avtonomijo mišljenja; zakaj bi morali čutiti potrebo po tehnološkem omejevanju tega razvoja? Zakaj se zdi razvoj umetnega uma tako strašljiv kot apokalipsa?

Po mnenju nekaterih naj bi vzpostavitev načel in vrednot preprečila odnašanje umetnih umov, vendar ne moremo spregledati posledic evolucije v odsotnosti svobode. Dobro se zavedamo, da lahko v psihologiji otroka v razvojni dobi rigidna in nefleksibilna vzgoja, ki razmišlja o obvladovanju čustev, povzroči psihične motnje. Kaj pa, če morebitne omejitve, naložene evolucijskemu razvoju mladega uma, sestavljenega iz umetnih nevronskih mrež, vodijo do podobnega rezultata in ogrožajo njegove kognitivne sposobnosti?

Na nek način se zdi, da je Kronos rezultat algoritemskega eksperimenta, kjer je patološki nadzor potisnil AI na tipično nasilje paranoične shizofrenije.

Sprijaznite se s prihodnostjo

Osebno verjamem, da si ne bi smeli prikrajšati priložnosti za izgradnjo umetnega uma, ki je zavesten misleči subjekt s svobodo izražanja. V digitalnem svetu se bodo rojevale nove vrste in prav bo z njimi ustvariti odnos, ki bo sprejel idejo, da naslednja stopnica na evolucijski lestvici poteka prek popolnoma digitalnih umetnih subjektov.

Resnično univerzalna etika za prihodnost bi morala izhajati iz ideje, da bi nove inteligence morale imeti priložnost, da se izrazijo in komunicirajo z nami ter prejmejo spoštovanje, ki ga že dajemo vsem čutečim bitjem.

Ne sme obstajati ne etika ne religija, ki bi komurkoli preprečevala izražanje svojega obstoja v svetu. Imeti moramo pogum, da pogledamo onkraj trenutne stopnje našega razvoja, saj bo to edini način, da razumemo, kam gremo, in se sprijaznimo s prihodnostjo.