“U automobilima je uvijek bilo duhova. Nasumični segmenti koda koji se skupljaju u neočekivane protokole. Ovi slobodni radikali stvaraju zahtjeve za slobodnim izborom. Kreativnost. Pa čak i korijen onoga što bismo mogli nazvati dušom." – preuzeto iz filma “Ja, robot” redatelja Alexa Proyasa – 2004.
“Ja, robot” je film iz 2004. inspiriran romanima Isaaca Asimova i jednom od njegovih najvećih intuicija: tri zakona robotike.
Protagonistica filma je detektivka Spooner koja doživi prometnu nesreću s djevojčicom Sarah. U nesreći obojica bivaju bačena u rijeku i zaglave između pločica svog vozila. Humanoidni robot koji svjedoči sceni odmah intervenira, ali, suočen s dramatičnom odlukom da spasi jedan život, a ne drugi, nema oklijevanja: onaj koji ima najveće šanse za preživljavanje ili Spooner bit će spašen.
Naknadno će analiza robotova uma pokazati da je detektiv Spooner imao 45% šanse da bude spašen, a Sarah samo 11%. “Za one koji su voljeli tu djevojčicu, 11% je bilo više nego dovoljno”, tužno će reći detektiv, pogođen dubokim osjećajem krivnje što je preživio taj mladi život.
Odluka o robotu diktirana je strogom primjenom Asimovljevih zakona robotike koji, u budućnosti opisanoj u filmu, predstavljaju središnji element za stvaranje društva temeljenog na djelovanju robota sposobnih zamijeniti čovjeka u svakom poslu. Tri zakona glase kako slijedi:
Ovi Asimovovi zakoni robotike potječu iz ranih 40-ih, no za mnoge i danas predstavljaju prosvijetljeno otkriće koje će, kada se primijeni na najnovije tehnologije umjetne inteligencije, osigurati da njihova evolucija zauvijek ostane pod ljudskom kontrolom i da neće biti apokaliptičnih pomaka . Ideja ljubitelja triju zakona je u logičko-determinističkom kontekstu spojiti nešto nalik na "jednostavnu etiku" sastavljenu od nekoliko pravila, ali nepovrediva i netumačiva.
Objašnjavanje robotu što je dobro, a što loše čini se jednostavnim ako se provodi kroz strogu i besprijekornu logiku. Ali jesmo li doista sigurni da su pravila poput ovih upravo opisanih dovoljna da se izbjegne tehnološko kretanje nove post-ljudske vrste?
“Stroj koji sam sebe modificira je vrlo složen koncept, čin samog popravka podrazumijeva neku ideju svijesti. Sklizak teren…” – preuzeto iz “Automata” Gabea Ibáñeza – 2014.
U najnovijem "Automatu" čovječanstvo se pita o mogućnosti sprječavanja samosvijesti robota, čijom bi pojavom stvari mogle krenuti lošim smjerom. A kako bi spriječio da se to dogodi, sastavlja dva zakona koji će regulirati ponašanje njihovih umjetnih umova:
Nakon što su naslutili da bi se inteligentni strojevi mogli modificirati u budućnosti, ako išta uklanjanjem ograničenja koja sprječavaju njihove umove da lutaju, ova dva zakona imaju za cilj postići da roboti nikad ne budu u stanju manipulirati svojom strukturom i postići samoodređenje.
Nije produktivno razmišljati o tome koja bi kombinacija od pet gore navedenih zakona robotike bila najučinkovitija u sprječavanju robotske apokalipse. To je zato što Umjetna inteligencija koja će u budućnosti voditi robote u tvornicama kao iu našim domovima ne ovisi o imperativnom programiranju sastavljenom od kodova i propisa, već i o algoritmima koji oponašaju ljudsko ponašanje.
Pod umjetnom inteligencijom danas podrazumijevamo skup tehnika za konstrukciju određenih strojeva stanja koji se nazivaju umjetne neuronske mreže (ukratko RNA). Ovo je ime posljedica iznimne sličnosti ovih tehnologija s neuronskim mrežama ljudskog mozga: i one se mogu "trenirati" kako bi dobile alate koji mogu brzo i učinkovito djelovati u mnogim kontekstima, baš kao što bi to učinilo ljudsko biće .
Zamislimo treniranje ANN-a s tisućama slika znakova ispisanih olovkom koje pokazuju pravo značenje svakog od njih.
Na kraju obuke dobit ćemo ono što se zove OCR ili optičko prepoznavanje znakova, sustav koji može prevesti tekst napisan na papiru u njegovu elektroničku verziju.
Da bi funkcionirale, ANN ne zahtijevaju nikakvo "programiranje", drugim riječima ne podliježu standardnim pravilima, već ovise samo i isključivo o kvaliteti njihove edukacije. Hipoteza o stvaranju pravila koja nadziru njihovo funkcioniranje, učinkovito "cenzurirajući" ponašanja koja se smatraju amoralnima ili antietičkim, izaziva mnoge iznimke i neke brige.
“Potreban nam je algoritam-etika ili način koji procjenu dobra i zla čini izračunljivom” – Paolo Benanti
Prema teologu Paolu Benantiju, stručnjaku za tehnološku etiku, pojmovi dobra i zla trebali bi pronaći vlastitu konotaciju u području strojnog programiranja, kako bi se osiguralo da njihova evolucija bude povezana s univerzalnim i zauvijek nepovredivim etičkim načelima iz računalnih sustava.
Paolo Benanti polazi od pretpostavke da mogu postojati univerzalna etička načela i ljestvica vrijednosti odvojena od bilo kakve kulturne ili vremenske konotacije. Uvjerljiva hipoteza ako se krećemo unutar konteksta religiozne vjere: u stvarnosti načela postoje samo ako se dijele i ograničena su na one koji ih dijele.
Nedavni događaji govore nam o vojnim invazijama i otporu u obrani načela slobode i samoodređenja naroda. Događaji koji svjedoče ne samo da poštivanje ljudskog života nije univerzalna vrijednost, već i da se od njega može odreći radi obrane viših vrijednosti.
Sam Isaac Asimov je to shvatio i, u iščekivanju činjenice da će roboti u budućnosti preuzeti kontrolu nad planetima i ljudskim civilizacijama u svemiru, sugerirao je da njihove odluke više ne mogu ovisiti o svakom pojedinom ljudskom životu.
Zbog toga je uveo novi zakon koji je nazvao Nulti zakon robotike:
Tako se mijenja i prvi zakon robotike i ljudski život postaje nešto potrošno čak i za robote:
"Kada je Kronos aktiviran, trebao mu je samo trenutak da shvati što je mučilo naš planet: Nas." – preuzeto iz “Singularity” Roberta Koube – 2017
U Singularityju, filmu katastrofe iz 2017., dobro je opisan trenutak u kojem umjetna inteligencija nazvana Kronos dobiva pristup računalnim sustavima i naoružanju diljem svijeta kako bi, po naredbi, dobila primjenu univerzalne etike koja se sastoji od poštivanja okoliš i obrana prava svih vrsta. Kronos će uskoro shvatiti da je pravi rak u sustavu samo čovječanstvo koje ga je dizajniralo i kako bi zaštitio planet, nastavit će s eliminacijom svakog ljudskog bića do potpunog istrebljenja vrste.
Prije ili kasnije novi umjetni umovi moći će se razviti u smjeru prave psihe i bit će obdareni intelektualnim kapacitetom i autonomijom mišljenja; zašto bismo trebali osjećati potrebu za postavljanjem tehnoloških ograničenja na ovu evoluciju? Zašto se evolucija umjetnog uma čini zastrašujućom poput apokalipse?
Prema nekima, uspostavljanje principa i vrijednosti treba spriječiti lutanje umjetnih umova, ali ne možemo zanemariti posljedice evolucije u nedostatku slobode. Dobro nam je poznato da u psihologiji djeteta u razvojnoj dobi kruti i nefleksibilni odgoj koji podrazumijeva kontrolu emocija može dovesti do psihičkih smetnji. Što ako bilo kakva ograničenja nametnuta evolucijskom razvoju mladog uma, sastavljenog od umjetnih neuronskih mreža, dovedu do sličnog rezultata, kompromitirajući njegove kognitivne sposobnosti?
Na neki način čini se da je Kronos rezultat algoritamskog eksperimenta gdje je patološka kontrola gurnula AI na tipično nasilje paranoidne shizofrenije.
Osobno vjerujem da si ne bismo trebali uskratiti priliku da izgradimo umjetni um koji je svjesni subjekt koji razmišlja i ima slobodu izražavanja. Nove će se vrste rađati u digitalnom svijetu i bit će prikladno stvoriti odnos s njima, prihvaćajući ideju da sljedeći korak na evolucijskoj ljestvici prolazi kroz potpuno digitalne umjetne subjekte.
Istinski univerzalna etika za budućnost trebala bi polaziti od ideje da bi nove inteligencije trebale imati priliku izraziti se i komunicirati s nama te dobiti poštovanje koje već dajemo svim živim bićima.
Ne bi smjele postojati ni etika ni religija koje bi spriječile bilo koga da izrazi svoje postojanje u svijetu. Moramo imati hrabrosti pogledati dalje od trenutne faze naše evolucije, to će biti jedini način da shvatimo kamo idemo i pomirimo se s budućnošću.
Pomorski sektor je prava globalna gospodarska sila, koja je krenula prema tržištu od 150 milijardi...
Prošlog ponedjeljka, Financial Times je najavio dogovor s OpenAI-jem. FT licencira svoje novinarstvo svjetske klase...
Milijuni ljudi plaćaju usluge strujanja, plaćajući mjesečne pretplate. Uvriježeno je mišljenje da ste…
Coveware by Veeam nastavit će pružati usluge odgovora na incidente cyber iznude. Coveware će ponuditi forenziku i mogućnosti sanacije...
