«У машынах заўсёды былі прывіды. Выпадковыя сегменты кода, якія зліваюцца ў нечаканыя пратаколы. Гэтыя свабодныя радыкалы спараджаюць патрабаванні да свабоднага выбару. Творчасць. І нават корань таго, што мы маглі б назваць душой». – узята з фільма «Я, робат» рэжысёра Алекса Прояса, 2004 г.
«Я, робат» — гэта фільм 2004 года, натхнёны раманамі Айзека Азімава і адной з яго найвялікшых інтуіцый: трыма законамі робататэхнікі.
Галоўны герой фільма - дэтэктыў Спунер, які трапіў у аўтакатастрофу з маленькай дзяўчынкай Сарай. У аварыі абодва кідаюцца ў раку і захрасаюць паміж плітамі свайго аўтамабіля. Гуманоідны робат, які стаў сведкам сцэны, неадкладна ўмешваецца, але, сутыкнуўшыся з драматычным рашэннем выратаваць адно жыццё, а не другое, не вагаючыся: будзе выратаваны той, хто мае найбольшы шанец выжыць, або Спунер.
Пасля аналіз розуму робата пакажа, што дэтэктыў Спунер меў 45% шанцаў на выратаванне, Сара - толькі 11%. «Для тых, хто любіў тую маленькую дзяўчынку, 11 % было больш чым дастаткова», — сумна выказва дэтэктыў, ахоплены глыбокім пачуццём віны за тое, што перажыў тое маладое жыццё.
Рашэнне робата было прадыктавана строгім прымяненнем законаў робататэхнікі Азімава, якія ў будучыні, апісанай у фільме, з'яўляюцца цэнтральным элементам для стварэння грамадства, заснаванага на дзейнасці робатаў, здольных замяніць чалавека ў любой працы. Тры законы гучаць наступным чынам:
Гэтыя Законы робататэхнікі Азімава ўзыходзяць да пачатку 40-х гадоў, але для многіх і сёння яны ўяўляюць сабой прасветленае адкрыццё, якое пры ўжыванні да найноўшых тэхналогій штучнага інтэлекту гарантуе, што іх эвалюцыя назаўсёды будзе знаходзіцца пад кантролем чалавека і не будзе ніякіх апакаліптычных дрэйфаў. . Ідэя, якая ляжыць у аснове прыхільнікаў трох законаў, заключаецца ў тым, каб стварыць у лагічна-дэтэрмінаваным кантэксце нешта падобнае на "простую этыку", складзеную з некалькіх правілаў, але непарушных і не паддаюцца інтэрпрэтацыі.
Тлумачыць робату, што такое добра, а што дрэнна, здаецца простым, калі прытрымлівацца строгай і бездакорнай логікі. Але ці сапраўды мы ўпэўненыя, што такіх правілаў, як толькі што апісаныя, дастаткова, каб пазбегнуць тэхналагічнага дрэйфу новага постчалавечага віду?
«Машына, якая мадыфікуе сябе, - гэта вельмі складаная канцэпцыя, акт яе рамонту мае на ўвазе нейкае ўяўленне пра свядомасць. Слізкая зямля…” – узята з “Automata” Гейба Ібаньеса – 2014 г.
У апошніх «Аўтаматах» чалавецтва задаецца пытаннем аб магчымасці прадухіліць самасвядомасць робатаў, са з'яўленнем якіх усё можа пайсці кепска. І каб гэтага не здарылася, яно складае два Законы, якія будуць рэгуляваць паводзіны іх штучнага розуму:
Зразумеўшы, што інтэлектуальныя машыны ў будучыні могуць мадыфікаваць сябе, калі што-небудзь, выдаляючы абмежаванні, якія перашкаджаюць іх розуму блукаць, гэтыя два Законы імкнуцца дамагчыся ад робатаў таго, што яны ніколі не змогуць маніпуляваць сваёй структурай і дасягнуць самавызначэння.
Непрадуктыўна ламаць галаву над тым, якая камбінацыя з пяці прыведзеных вышэй Законаў робататэхнікі будзе найбольш эфектыўнай для прадухілення апакаліпсісу робатаў. Гэта таму, што штучны інтэлект, які ў будучыні будзе кіраваць робатамі на заводах і ў нашых дамах, не залежыць ад абавязковага праграмавання, складзенага з кодаў і правілаў, але таксама ад алгарытмаў, якія імітуюць паводзіны чалавека.
Сёння пад штучным інтэлектам мы маем на ўвазе набор метадаў пабудовы пэўных аўтаматаў стану, якія атрымалі назву штучных нейронавых сетак (скарочана РНК). Гэтая назва з'яўляецца вынікам незвычайнага падабенства гэтых тэхналогій з нейронавымі сеткамі чалавечага мозгу: іх таксама можна "навучыць", каб атрымаць інструменты, здольныя хутка і эфектыўна працаваць у розных кантэкстах, як і чалавек. .
Давайце ўявім сабе навучанне ANN з тысячамі малюнкаў сімвалаў, напісаных пяром з указаннем рэальнага значэння кожнага з іх.
У канцы навучання мы атрымаем так званую OCR або аптычнае распазнаванне сімвалаў, сістэму, здольную перавесці тэкст, напісаны на паперы, у яго электронную версію.
Для таго, каб працаваць, ANN не патрабуюць ніякага "праграмавання", іншымі словамі, яны не падпарадкоўваюцца стандартным правілам, але залежаць толькі і выключна ад якасці іх адукацыі. Гіпотэза аб стварэнні правілаў, якія кантралююць іх функцыянаванне, фактычна «цэнзуруючы» паводзіны, якія лічацца амаральнымі або антыэтычнымі, выклікае шмат выключэнняў і выклікае пэўныя праблемы.
«Нам патрэбны алгарытм-этыка або спосаб, які робіць ацэнкі дабра і зла вылічальнымі» - Паола Бенанці
На думку тэолага Паола Бэнанці, эксперта ў тэхналагічнай этыцы, паняцці дабра і зла павінны знайсці сваю ўласную канатацыю ў галіне машыннага праграмавання, каб гарантаваць, што іх эвалюцыя будзе звязана з універсальнымі і назаўсёды непарушнымі этычнымі прынцыпамі камп'ютэрных сістэм.
Паола Бенанці зыходзіць з здагадкі, што могуць існаваць універсальныя этычныя прынцыпы і шкала каштоўнасцяў, адарваных ад любога культурнага або часовага адцення. Праўдападобная гіпотэза, калі рухацца ў кантэксце рэлігійнай веры: у рэчаіснасці прынцыпы існуюць толькі ў тым выпадку, калі яны падзяляюцца і абмяжоўваюцца тымі, хто іх падзяляе.
Апошнія падзеі кажуць нам пра ваенныя ўварванні і супраціўленне ў абарону прынцыпаў свабоды і самавызначэння народаў. Падзеі, якія сведчаць не толькі пра тое, што павага да чалавечага жыцця не з'яўляецца агульнапрызнанай каштоўнасцю, але і што ад яе можна адмовіцца дзеля абароны вышэйшых каштоўнасцей.
Сам Айзек Азімаў зразумеў гэта і ў чаканні таго, што ў будучыні робаты зоймуць кантроль над планетамі і чалавечымі цывілізацыямі ў космасе, ён выказаў здагадку, што іх рашэнні больш не могуць залежаць ад кожнага асобнага чалавечага жыцця.
Па гэтай прычыне ён увёў новы закон, які назваў нулявым законам робататэхнікі:
Такім чынам змяняецца і першы закон робататэхнікі, і чалавечае жыццё становіцца нечым расходным нават для робатаў:
«Калі Кронас быў актываваны, яму спатрэбілася ўсяго імгненне, каб зразумець, што закранула нашу планету: нас». – узята з “Singularity” Роберта Коўбы – 2017
У «Сінгулярнасці», фільме-катастрофе 2017 года, добра апісаны момант, у якім штучны інтэлект пад назвай Кронас атрымлівае доступ да камп'ютэрных сістэм і ўзбраення па ўсім свеце, каб па камандзе атрымаць прымяненне універсальнай этыкі, заснаванай на павазе да навакольнае асяроддзе і абарона правоў усіх відаў. Неўзабаве Кронас зразумее, што сапраўдным ракам у сістэме з'яўляецца само чалавецтва, якое спраектавала яе, і каб абараніць планету, ён працягне ліквідацыю кожнага чалавека да поўнага знікнення віду.
Рана ці позна новыя штучныя розумы змогуць развіцца ў накірунку сапраўднай псіхікі і будуць надзелены інтэлектуальнай здольнасцю і аўтаноміяй думкі; чаму мы павінны адчуваць патрэбу ў тэхналагічных абмежаваннях гэтай эвалюцыі? Чаму эвалюцыя штучнага розуму здаецца такой жа страшнай, як апакаліпсіс?
На думку некаторых, усталяванне прынцыпаў і каштоўнасцяў павінна прадухіліць дрэйф штучных розумаў, але мы не можам не заўважыць наступствы эвалюцыі пры адсутнасці свабоды. Мы добра ведаем, што ў псіхалогіі дзіцяці ва ўзросце развіцця жорсткае і нягнуткае выхаванне, якое прадугледжвае кантроль над эмоцыямі, можа прывесці да псіхалагічных парушэнняў. Што, калі любыя абмежаванні, накладзеныя на эвалюцыйнае развіццё маладога розуму, які складаецца са штучных нейронавых сетак, прывядуць да падобнага выніку, пагаршаючы яго кагнітыўныя здольнасці?
У пэўным сэнсе Kronos здаецца вынікам алгарытмічнага эксперыменту, дзе паталагічны кантроль падштурхнуў AI да тыповага гвалту паранаідальнай шызафрэніі.
Я асабіста лічу, што мы не павінны пазбаўляць сябе магчымасці пабудаваць штучны розум, які з'яўляецца свядомым мыслячым суб'ектам са свабодай выказвання. Новыя віды будуць нараджацца ў лічбавым свеце, і будзе мэтазгодна наладзіць з імі адносіны, прымаючы ідэю, што наступны крок на эвалюцыйнай лесвіцы праходзіць праз цалкам лічбавыя штучныя суб'екты.
Сапраўды універсальная этыка для будучыні павінна зыходзіць з ідэі, што новыя інтэлекты павінны мець магчымасць выказваць сябе і мець зносіны з намі і атрымліваць павагу, якую мы ўжо аказваем усім жывым істотам.
Не павінна быць ні этыкі, ні рэлігіі, якія б перашкаджалі каму-небудзь выяўляць сваё існаванне ў свеце. Мы павінны мець мужнасць зазірнуць за межы цяперашняга этапу нашай эвалюцыі, гэта будзе адзіны спосаб зразумець, куды мы ідзём, і прымірыцца з будучыняй.
У мінулы панядзелак Financial Times абвясціла аб здзелцы з OpenAI. FT ліцэнзуе сваю журналістыку сусветнага ўзроўню...
Мільёны людзей плацяць за струменевыя паслугі, плацячы штомесячную абаненцкую плату. Распаўсюджана меркаванне, што вы…
Coveware ад Veeam працягне прадастаўляць паслугі рэагавання на інцыдэнты кібервымагальніцтва. Coveware будзе прапаноўваць судова-медыцынскую экспертызу і магчымасці выпраўлення…
Прагнастычнае тэхнічнае абслугоўванне рэвалюцыянізуе нафтагазавы сектар з інавацыйным і актыўным падыходам да кіравання заводам.…
