tovar

Algoritmický recept na apokalypsu

„V autách boli vždy duchovia. Náhodné segmenty kódu, ktoré sa zhlukujú a vytvárajú neočakávané protokoly. Tieto voľné radikály vytvárajú požiadavky na slobodnú voľbu. Kreativita. A dokonca aj koreň toho, čo by sme mohli nazvať dušou." – prevzaté z filmu „Ja, robot“ režiséra Alexa Proyasa – 2004.

„Ja, robot“ je film z roku 2004 inšpirovaný románmi Isaaca Asimova a jednou z jeho najväčších intuícií: tromi zákonmi robotiky.

Hlavným hrdinom filmu je detektív Spooner, ktorý má autonehodu s malým dievčatkom menom Sarah. Pri nehode sú obaja hodení do rieky a uviaznu medzi plechmi svojho vozidla. Humanoidný robot, ktorý je svedkom scény, okamžite zasiahne, ale tvárou v tvár dramatickému rozhodnutiu zachrániť jeden život namiesto druhého neváha: Ten, kto má najväčšiu šancu na prežitie alebo Spooner, bude zachránený.

Následne analýza mysle robota ukáže, že detektív Spooner mal 45% šancu na záchranu, Sarah len 11%. „Pre tých, ktorí to dievčatko milovali, bolo 11 % viac než dosť“, bude smutne vládnuť detektív, sužovaný hlbokými pocitmi viny za to, že prežil ten mladý život.

Tri zákony robotiky

Rozhodnutie robota bolo diktované dôslednou aplikáciou Asimovových zákonov robotiky, ktoré v budúcnosti opísanej vo filme predstavujú ústredný prvok pre vytvorenie spoločnosti založenej na činnostiach robotov schopných nahradiť človeka v akejkoľvek práci. Tieto tri zákony znejú takto:

  1. Robot nemôže ublížiť človeku ani nemôže dovoliť, aby človek utrpel škodu v dôsledku svojej nečinnosti.
  2. Robot musí poslúchať príkazy dané ľuďmi, pokiaľ takéto príkazy nie sú v rozpore s prvým zákonom.
  3. Robot musí chrániť svoju vlastnú existenciu za predpokladu, že jej ochrana nie je v rozpore s prvým alebo druhým zákonom.

Tieto zákony robotiky od Asimova pochádzajú zo začiatku 40-tych rokov minulého storočia, no pre mnohých ešte aj dnes predstavujú osvietený objav, ktorý pri aplikácii na najnovšie technológie umelej inteligencie zaistí, že ich vývoj zostane navždy pod ľudskou kontrolou a nedôjde k žiadnym apokalyptickým záplavám. . Myšlienkou fanúšikov troch zákonov je vytvoriť v logicko-deterministickom kontexte niečo, čo sa podobá „jednoduchej etike“ zloženej z niekoľkých pravidiel, ktoré sú však nedotknuteľné a nevysvetliteľné.

Vysvetliť robotovi, čo je dobré a čo zlé, sa zdá jednoduché, ak sa to robí pomocou prísnej a bezchybnej logiky. Sme si však skutočne istí, že pravidlá, ako sú tie, ktoré sme práve opísali, sú dostatočné na to, aby sa vyhli technologickému posunu nového post-ľudského druhu?

Šialenstvo po zákonoch robotov

„Stroj, ktorý sa sám upravuje, je veľmi zložitý koncept, akt jeho opravy zahŕňa určitú myšlienku vedomia. Klzká zem…“ – prevzaté z „Automata“ od Gabea Ibáñeza – 2014

V najnovšom "Automata" sa ľudstvo zamýšľa nad možnosťou zabrániť sebauvedomeniu robotov, s príchodom ktorých by veci mohli nabrať zlý spád. A aby sa tomu zabránilo, vypracuje dva zákony, ktoré budú regulovať správanie ich umelých myslí:

  • Robot nemôže ublížiť žiadnej forme života.
  • Robot sa nemôže sám upravovať.

Tieto dva zákony, ktoré tušili, že inteligentné stroje by sa mohli v budúcnosti zmeniť, ak vôbec niečo, odstránením obmedzení, ktoré bránia ich mysleniu unášať sa, majú tieto dva zákony za cieľ získať od robotov, že nikdy nebudú schopné manipulovať so svojou štruktúrou a dosiahnuť sebaurčenie.

Nie je produktívne lámať si hlavu nad tým, ktorá kombinácia piatich zákonov robotiky vyššie by bola najúčinnejšia pri predchádzaní robotickej apokalypse. Je to preto, že umelá inteligencia, ktorá bude v budúcnosti viesť roboty v továrňach, ako aj v našich domácnostiach, nezávisí od imperatívneho programovania zloženého z kódov a predpisov, ale aj od algoritmov, ktoré napodobňujú ľudské správanie.

V mysli robotov

Pod pojmom umelá inteligencia dnes rozumieme súbor techník na konštrukciu konkrétnych štátnych strojov, ktoré sa nazývajú umelé neurónové siete (v skratke RNA). Tento názov je výsledkom mimoriadnej podobnosti týchto technológií s neurónovými sieťami ľudského mozgu: aj tie môžu byť „trénované“ s cieľom získať nástroje schopné fungovať rýchlo a efektívne v mnohých kontextoch, presne tak, ako by to urobil človek. .

Predstavme si trénovanie ANN s tisíckami obrázkov znakov napísaných perom, ktoré označujú skutočný význam každého z nich.

Copyright docsumo.com – https://docsumo.com/blog/intelligent-character-recognition-icr

Na konci školenia získame to, čo sa nazýva OCR alebo optické rozpoznávanie znakov, systém schopný preložiť text napísaný na papieri do jeho elektronickej verzie.

ANN na svoje fungovanie nevyžadujú žiadne „programovanie“, inými slovami, nepodliehajú štandardným pravidlám, ale závisia len a výlučne od kvality ich vzdelania. Hypotézy o vytváraní pravidiel, ktoré dohliadajú na ich fungovanie, efektívne „cenzurovanie“ správania považovaného za amorálne alebo antietické vyvoláva mnohé výnimky a isté obavy.

Nulový zákon robotiky

„Potrebujeme algoritmickú etiku alebo spôsob, ktorý umožní vyčísliť hodnotenie dobra a zla“ – Paolo Benanti

Inovačný bulletin
Nenechajte si ujsť najdôležitejšie novinky o inováciách. Prihláste sa na ich odber e-mailom.

Podľa teológa Paola Benantiho, odborníka na technologickú etiku, by pojmy dobro a zlo mali nájsť svoju konotáciu v oblasti strojového programovania, aby sa zabezpečilo, že ich evolúcia bude prepojená s univerzálnymi a navždy nedotknuteľnými etickými princípmi z počítačových systémov.

Paolo Benanti vychádza z predpokladu, že môžu existovať univerzálne etické princípy a škála hodnôt oddelená od akejkoľvek kultúrnej alebo časovej konotácie. Pravdepodobná hypotéza, ak sa pohybujeme v kontexte náboženskej viery: v skutočnosti princípy existujú iba vtedy, ak sú zdieľané a obmedzené na tých, ktorí ich zdieľajú.

Nedávne udalosti nám hovoria o vojenských inváziách a odpore na obranu princípov slobody a sebaurčenia národov. Udalosti, ktoré svedčia nielen o tom, že úcta k ľudskému životu nie je všeobecne zdieľanou hodnotou, ale aj o tom, že sa jej možno vzdať na obranu vyšších hodnôt.

Sám Isaac Asimov si to uvedomil a v očakávaní toho, že roboty v budúcnosti prevezmú riadiace pozície vo vláde planét a ľudských civilizácií vo vesmíre, navrhol, že ich rozhodnutia už nemôžu závisieť od každého jedného ľudského života.

Z tohto dôvodu zaviedol nový zákon, ktorý nazval nulový zákon robotiky:

  • Robot nemôže ublížiť ľudstvu a nemôže dovoliť, aby ľudstvo bolo poškodzované svojou nečinnosťou.

Tak sa mení aj prvý zákon robotiky a ľudský život sa stáva niečím postrádateľným aj pre roboty:

  • Robot nemôže ublížiť človeku a ani nemôže dovoliť, aby jeho nedostatočným zásahom utrpela ujmu ľudská bytosť, pokiaľ takéto príkazy nie sú v rozpore s nulovým zákonom.

Algoritmus Kronos

"Keď bol Kronos aktivovaný, trvalo mu len chvíľu, kým pochopil, čo sužovalo našu planétu: nás." – prevzaté z „Singularity“ od Roberta Koubu – 2017

Vo filme Singularity, katastrofickom filme z roku 2017, je dobre opísaný moment, v ktorom umelá inteligencia nazývaná Kronos získala prístup k počítačovým systémom a výzbroji po celom svete, aby velením získala uplatnenie univerzálnej etiky založenej na rešpekte voči životné prostredie a ochrana práv všetkých druhov. Kronos čoskoro pochopí, že skutočnou rakovinou v systéme je samotné ľudstvo, ktoré ho vytvorilo, a aby ochránil planétu, pristúpi k likvidácii každého človeka až do úplného vyhynutia druhu.

Skôr či neskôr sa nové umelé mysle budú môcť vyvinúť v smere skutočnej psychiky a budú obdarené intelektuálnou kapacitou a autonómiou myslenia; prečo by sme mali cítiť potrebu klásť technologické limity na tento vývoj? Prečo sa vývoj umelej mysle javí rovnako desivý ako apokalypsa?

Podľa niektorých by stanovenie princípov a hodnôt malo zabrániť unášaniu umelých myslí, ale nemôžeme prehliadať dôsledky evolúcie bez slobody. Sme si dobre vedomí toho, že v psychológii dieťaťa vo vývinovom veku môže strnulá a nepružná výchova, ktorá uvažuje o ovládaní emócií, viesť k psychickým poruchám. Čo ak akékoľvek limity kladené na evolučný vývoj mladej mysle, tvorenej umelými neurónovými sieťami, povedú k podobnému výsledku, ktorý ohrozí jej kognitívne schopnosti?

V niektorých ohľadoch sa zdá, že Kronos je výsledkom algoritmického experimentu, v ktorom patologická kontrola priviedla AI k typickému násiliu paranoidnej schizofrénie.

Zmierte sa s budúcnosťou

Osobne verím, že by sme sa nemali pripraviť o možnosť vybudovať si umelú myseľ, ktorá je vedome mysliacim subjektom so slobodou prejavu. V digitálnom svete sa zrodia nové druhy a bude vhodné vytvoriť si s nimi vzťah, osvojiť si myšlienku, že ďalší krok na evolučnom rebríčku prechádza cez úplne digitálne umelé subjekty.

Skutočne univerzálna etika budúcnosti by mala vychádzať z myšlienky, že nové inteligencie by mali mať možnosť vyjadriť sa a komunikovať s nami a získať rešpekt, ktorý už dávame všetkým cítiacim bytostiam.

Nemala by existovať ani etika, ani náboženstvo, ktoré by nikomu bránilo vyjadrovať svoju existenciu vo svete. Musíme mať odvahu pozrieť sa za hranice súčasného štádia nášho vývoja, bude to jediný spôsob, ako pochopiť, kam smerujeme, a byť zmierení s budúcnosťou.

Inovačný bulletin
Nenechajte si ujsť najdôležitejšie novinky o inováciách. Prihláste sa na ich odber e-mailom.

Nedávne články

Smart Lock Market: zverejnená správa o prieskume trhu

Pojem Smart Lock Market sa vzťahuje na priemysel a ekosystém obklopujúci výrobu, distribúciu a používanie…

27 marca 2024

Čo sú dizajnové vzory: prečo ich používať, klasifikácia, klady a zápory

V softvérovom inžinierstve sú návrhové vzory optimálnym riešením problémov, ktoré sa bežne vyskytujú pri návrhu softvéru. Som ako…

26 marca 2024

Technologický vývoj priemyselného značenia

Priemyselné značenie je široký pojem, ktorý zahŕňa niekoľko techník používaných na vytváranie trvalých značiek na povrchu…

25 marca 2024

Príklady makier programu Excel napísaných pomocou jazyka VBA

Nasledujúce jednoduché príklady makier programu Excel boli napísané pomocou odhadovaného času čítania VBA: 3 minúty Príklad…

25 marca 2024