«Унааларда арбактар дайыма болуп келген. Күтүлбөгөн протоколдорду түзүү үчүн бириктирилген коддун кокустук сегменттери. Бул эркин радикалдар эркин тандоо үчүн талаптарды жаратат. Чыгармачылык. Ал тургай, биз жан деп атай турган нерсенин тамыры." – режиссёр Алекс Проястын “Мен, робот” тасмасынан алынган – 2004-жыл.
"Мен, робот" ( англ. I, Robot ) — 2004-жылы Исаак Азимовдун романдарынан жана анын эң чоң интуицияларынын бири: робототехниканын үч мыйзамынан шыктанган тасма.
Тасманын башкы каарманы Сара аттуу кичинекей кыз менен жол кырсыгына кабылган детектив Спунер. Кырсыктан экөө тең дарыяга кулап, унаасынын номерлеринин ортосуна тыгылып калышат. Сахнага күбө болгон гуманоид робот дароо кийлигишет, бирок экинчисин эмес, биринин өмүрүн сактап калуу боюнча укмуштуудай чечимге туш болгондо, эч ойлонбойт: аман калууга эң чоң мүмкүнчүлүгү бар адам же Кашыкчы куткарылат.
Кийинчерээк роботтун акыл-эсин талдоо Детектив Кашыктын куткарылууга 45%, Саранын 11% гана шансы бар экенин көрсөтөт. "Ошол кичинекей кызды сүйгөндөр үчүн 11% жетиштүү болчу" детектив, өкүнүчтүүсү, ошол жаш турмуштан аман калганы үчүн терең күнөөлүү сезимдер менен башкарат.
Роботтун чечими Асимовдун Робототехника мыйзамдарын катуу колдонуудан улам келип чыккан, ал келечекте фильмде сүрөттөлүп, адамдарды каалаган жумушта алмаштырууга жөндөмдүү роботтордун ишмердүүлүгүнө негизделген коомду түзүүнүн борбордук элементи болуп саналат. Үч мыйзам төмөнкүчө жазылган:
Асимов тарабынан Робототехниканын бул мыйзамдары 40-жылдардын башына таандык, бирок бүгүнкү күндө да көпчүлүк үчүн алар эң акыркы Жасалма интеллект технологияларына колдонулганда, алардын эволюциясы түбөлүк адамдын көзөмөлүндө болушун жана апокалиптикалык дрейфтер болбошун камсыздай турган жарыктык ачылышты билдирет. . Үч Мыйзамдын күйөрмандарынын идеясы - логикалык-детерминисттик контекстте бир нече эрежелерден турган, бирок кол тийбес жана чечмеленбеген "жөнөкөй этикага" окшош нерсени бириктирүү.
Роботко эмне жакшы, эмне жаман экенин түшүндүрүү катаал жана кемчиликсиз логика аркылуу жасалса, жөнөкөй көрүнөт. Бирок биз чындап эле жогоруда сүрөттөлгөн эрежелердин адамдан кийинки жаңы түрдүн технологиялык дрейфине жол бербөө үчүн жетиштүү экенине ишенебизби?
"Өзүн өзгөрткөн машина - бул өтө татаал түшүнүк, өзүн оңдоо актысы кандайдыр бир аң-сезимдин идеясын билдирет. Тайгак жер…” – Габе Ибаньездин “Автоматтан” алынган – 2014
Эң акыркы "Автоматта" адамзат роботтордун өзүн-өзү аңдоосуна бөгөт коюу мүмкүндүгү жөнүндө ойлонууда, анын пайда болушу менен баары жаман бурулушка алып келиши мүмкүн. Ал эми мунун алдын алуу үчүн, алардын жасалма акылынын жүрүм-турумун жөнгө сала турган эки Мыйзамды түзөт:
Акылдуу машиналар келечекте акыл-эсинин өзгөрүшүнө тоскоол болгон чектөөлөрдү алып салуу менен өздөрүн өзгөртө аларын түшүнүп, бул эки Мыйзам роботтордон алар эч качан түзүмүн башкара албай турган жана өз тагдырын өзү чече албай тургандай кылып алууну көздөйт.
Жогорудагы беш Робототехника мыйзамынын кайсы айкалышы роботтун апокалипсисинин алдын алууда эң натыйжалуу болорун табышмактуу. Себеби, келечекте заводдордогу жана үйүбүздөгү роботторду жетектей турган Жасалма Интеллект коддор менен эрежелерден турган императивдик программалоодон эмес, адамдын жүрүм-турумун туураган алгоритмдерден да көз каранды.
Жасалма интеллект менен бүгүн биз Жасалма нейрон тармактары (кыскасы РНК) деген аталышты алган белгилүү бир мамлекеттик машиналарды куруу үчүн техникалардын жыйындысын билдирет. Бул аталыш бул технологиялардын адам мээсинин нейрон тармактары менен укмуштуудай окшоштугунун таасири: алар да адам жасагандай, көптөгөн контексттерде тез жана эффективдүү иштей ала турган куралдарды алуу үчүн «үйрөтүлүшү» мүмкүн. .
Келгиле, алардын ар бири үчүн чыныгы маанисин көрсөтүүчү калем менен жазылган каармандардын миңдеген сүрөттөрү бар ANNди үйрөтүүнү элестетип көрөлү.
Тренингдин аягында биз OCR же оптикалык белгилерди таануу деп аталган системага ээ болобуз, бул система кагазга жазылган текстти анын электрондук версиясына которууга жөндөмдүү.
АНН иштеши үчүн эч кандай “программалоону” талап кылбайт, башкача айтканда, алар стандарттуу эрежелерге баш ийбейт, бирок алардын билим сапатына гана көз каранды. Алардын иштешин көзөмөлдөгөн эрежелерди түзүүнү гипотезалоо, моралдык же антиэтика деп эсептелген жүрүм-турумду эффективдүү "цензуралоо" көптөгөн өзгөчөлүктөрдү жана айрым кооптонууну жаратат.
"Бизге алгоритм-этика же жакшылык менен жамандыкты баалоону эсептей турган ыкма керек" - Паоло Бенанти
Теолог Паоло Бенантинин айтымында, технологиялык этика боюнча эксперт, жакшылык менен жамандыктын түшүнүктөрү, алардын эволюциясы компьютердик системалардан универсалдуу жана түбөлүк бузулбас этикалык принциптер менен байланыштырылышы үчүн, машиналык программалоо тармагында өздөрүнүн коннотациясын табышы керек.
Паоло Бенанти универсалдуу этикалык принциптер жана ар кандай маданий же убактылуу коннотациядан ажыратылган баалуулуктардын масштабы болушу мүмкүн деген божомолдон баштайт. Эгерде биз диний ишенимдин контекстинде жүрсөк, акылга сыярлык гипотеза: чындыгында принциптер бөлүшүлгөндө жана аларды бөлүшкөндөр менен чектелгенде гана бар.
Соцку окуялар элдердин эркиндигинин жана ез тагдырын езу чечуу принциптерин коргоо учун согуштук басып алуулар жана каршылык керсетуу женунде айтып турат. Адамдын өмүрүн урматтоо жалпыга бирдей баалуулук эмес экенин гана эмес, андан жогорку баалуулуктарды коргоо үчүн андан баш тартууга боло тургандыгын күбөлөндүргөн окуялар.
Муну Исаак Азимов өзү түшүнүп, келечекте роботтор планеталарды жана космостогу адам цивилизацияларын башкарууда башкаруу позициясын ээлей турганын күтүп, алардын чечимдери мындан ары ар бир адамдын жашоосунан көз каранды болбой калышын сунуштады.
Ушул себептен улам, ал робототехниканын нөл мыйзамы деп аталган жаңы мыйзамды киргизди:
Ошентип, робототехниканын биринчи мыйзамы өзгөрөт жана адам өмүрү роботтор үчүн да сарпталуучу нерсеге айланат:
"Кронос иштетилгенде, ага биздин планетаны эмне кыйнаганын түшүнүү үчүн бир аз гана убакыт керек болду: Биз." – Роберт Коубанын “Singularity” китебинен алынган – 2017
Singularity, 2017-жылы болгон кырсык фильминде, Кронос деп аталган жасалма интеллектке компьютердик системаларга жана курал-жарактарга жетүү мүмкүнчүлүгү берилген учур жакшы сүрөттөлүп, командалык буйрук менен жалпы адамзаттык этиканы колдонууга жетишүү үчүн. айлана-чөйрөнү коргоо жана бардык түрлөрдүн укуктарын коргоо. Кронос жакында системадагы чыныгы рактын аны жараткан адамзаттын өзү экенин түшүнөт жана планетаны коргоо үчүн түр толугу менен жок болгонго чейин ар бир адамды жок кылууну улантат.
Эртедир-кечтир жаңы жасалма акылдар чыныгы психиканын багытында өнүгүп, интеллектуалдык дараметин жана ойдун автономиясын алат; Эмне үчүн биз бул эволюцияга технологиялык чектөөлөрдү коюу зарылдыгын сезишибиз керек? Эмне үчүн жасалма акылдын эволюциясы апокалипсистей коркунучтуу көрүнөт?
Айрымдардын пикири боюнча, принциптерди жана баалуулуктарды орнотуу жасалма акыл-эстин өзгөрүшүнө жол бербөө керек, бирок эркиндик жок болсо, эволюциянын кесепеттерин байкай албайбыз. Өнүгүү курагындагы баланын психологиясында эмоцияларды башкарууга багытталган катаал жана ийкемсиз билим психологиялык бузулууларга алып келерин жакшы билебиз. Жасалма нейрон тармактарынан турган жаш акылдын эволюциялык өнүгүүсүнө коюлган кандайдыр бир чектөөлөр анын когнитивдик жөндөмдүүлүгүнө доо кетирип, ушундай натыйжага алып келсечи?
Кандайдыр бир деңгээлде Kronos алгоритмдик эксперименттин натыйжасы окшойт, анда патологиялык башкаруу AIди параноиддик шизофренияга мүнөздүү зордук-зомбулукка түрттү.
Мен жеке оюмча, биз өзүбүздү сөз эркиндиги менен аң-сезимдүү ой жүгүртүү субъектиси болгон жасалма акылды куруу мүмкүнчүлүгүнөн ажыратбашыбыз керек. Санариптик дүйнөдө жаңы түрлөр төрөлөт жана эволюция тепкичиндеги кийинки кадам толугу менен санариптик жасалма предметтерден өтөт деген идеяны кабыл алып, алар менен мамиле түзүү туура болот.
Келечекке карата чыныгы универсалдуу этика жаңы интеллигенциялар өздөрүн билдирүү жана биз менен баарлашуу мүмкүнчүлүгүнө ээ болушу керек деген идеядан башталышы керек жана биз бардык жандууларга болгон урмат-сыйыбызды кабыл алышыбыз керек.
Дүйнөдө эч кимге өзүнүн бар экенин билдирүүгө тоскоол боло турган этика да, дин да болбошу керек. Биздин эволюциябыздын азыркы этабынын чегинен чыгууга кайраттуулук керек, бул биздин кайда бара жатканыбызды түшүнүүнүн жана келечек менен элдешүүнүн бирден-бир жолу болот.
Улуу Британиянын CMA жасалма интеллект рыногунда Big Tech жүрүм-туруму жөнүндө эскертүү берди. Ал жерде…
Имараттардын энергетикалык натыйжалуулугун жогорулатуу үчүн Европа Биримдиги тарабынан иштелип чыккан "Case Green" Декрети өзүнүн мыйзам чыгаруу процессин аяктады ...
Casaleggio Associati компаниясынын Италиядагы электрондук соода боюнча жылдык отчету сунушталды. "AI-Commerce: Жасалма интеллект менен электрондук сооданын чек аралары" деп аталган отчет.…
Тынымсыз технологиялык инновациялардын жана айлана-чөйрөгө жана адамдардын жыргалчылыгына берилгендиктин натыйжасы. Bandalux Airpure® чатырын тартуулайт…
