“Mashinalarda har doim arvohlar bo'lgan. Kutilmagan protokollarni hosil qilish uchun birlashadigan tasodifiy kod segmentlari. Ushbu erkin radikallar erkin tanlash talablarini keltirib chiqaradi. Ijodkorlik. Va hatto biz ruh deb ataydigan narsaning ildizi." - rejissyor Aleks Proyas tomonidan "Men, robot" filmidan olingan - 2004 yil.
“Men, robot” — 2004-yilda Isaak Asimovning romanlaridan ilhomlangan va uning eng buyuk sezgilaridan biri: Robototexnikaning uchta qonuni haqidagi film.
Filmning bosh qahramoni detektiv Spuner bo'lib, u Sara ismli kichkina qiz bilan avtohalokatga uchradi. Baxtsiz hodisada ikkalasi ham daryoga uloqib ketishadi va transport vositalarining plitalari orasiga yopishib qolishadi. Voqea guvohi bo'lgan gumanoid robot darhol aralashadi, lekin birining hayotini emas, balki boshqasini saqlab qolish uchun dramatik qarorga duch kelganda, hech ikkilanmasdan: omon qolish uchun eng katta imkoniyatga ega bo'lgan yoki Qoshiqchi qutqariladi.
Keyinchalik, robotning ongini tahlil qilish shuni ko'rsatadiki, Detektiv Qoshiqchining qutqarilish ehtimoli 45%, Sara esa atigi 11%. "O'sha qizni sevganlar uchun 11% etarli edi", afsuski, tergovchi o'sha yosh hayotdan omon qolgani uchun chuqur aybdorlik hissi bilan hukmronlik qiladi.
Robotning qarori Asimovning robototexnika qonunlarini qat'iy qo'llash bilan bog'liq bo'lib, kelajakda filmda tasvirlangan, har qanday ishda odamlarni almashtirishga qodir robotlar faoliyatiga asoslangan jamiyatni yaratishning markaziy elementi hisoblanadi. Uchta qonun quyidagicha o'qiladi:
Asimov tomonidan yaratilgan robototexnika qonunlari 40-yillarning boshlariga borib taqaladi, ammo bugungi kunda ham ko'pchilik uchun ular eng so'nggi Sun'iy intellekt texnologiyalariga qo'llanganda ularning evolyutsiyasi abadiy inson nazorati ostida bo'lishini ta'minlaydigan ma'rifiy kashfiyotdir va apokaliptik drifts bo'lmaydi. . Uchta qonun muxlislarining g'oyasi mantiqiy-deterministik kontekstda bir nechta qoidalardan tashkil topgan, ammo daxlsiz va izohlab bo'lmaydigan "oddiy axloq" ga o'xshash narsani o'tkazishdir.
Robotga nima yaxshi va nima yomonligini tushuntirish qat'iy va benuqson mantiq orqali amalga oshirilsa, oddiy ko'rinadi. Ammo biz yuqorida tavsiflangan qoidalar insondan keyingi yangi turdagi texnologik siljishning oldini olish uchun etarli ekanligiga ishonchimiz komilmi?
"O'zini o'zgartiradigan mashina juda murakkab tushunchadir, o'zini ta'mirlash harakati ong haqida qandaydir g'oyani anglatadi. Silliq zamin…” – Gabe Ibanezning “Avtomat” dan olingan – 2014
Eng so'nggi "Avtomat" da insoniyat robotlarning o'z-o'zini anglashining oldini olish imkoniyati haqida hayratda qoldi, buning paydo bo'lishi bilan vaziyat yomon tomonga o'zgarishi mumkin. Va bu sodir bo'lishining oldini olish uchun u ularning sun'iy aqllarining xatti-harakatlarini tartibga soluvchi ikkita qonunni ishlab chiqadi:
Aqlli mashinalar kelajakda o'zlarini o'zgartirishi mumkinligini sezgan holda, agar ularning ongini chalg'itishiga to'sqinlik qiladigan cheklovlarni olib tashlasa, bu ikki qonun robotlardan hech qachon o'z tuzilishini manipulyatsiya qila olmaydigan va o'z taqdirini o'zi belgilashga erisha olmaydigan narsalarni olishga qaratilgan.
Yuqoridagi beshta robototexnika qonunining qaysi kombinatsiyasi robot apokalipsisining oldini olishda samaraliroq bo'lishi haqida bosh qotirish unumli emas. Buning sababi shundaki, kelajakda robotlarni fabrikalarda va bizning uylarimizda boshqaradigan Sun'iy intellekt kodlar va qoidalardan tashkil topgan imperativ dasturga emas, balki inson xatti-harakatlariga taqlid qiluvchi algoritmlarga ham bog'liq.
Sun'iy intellekt deganda, bugungi kunda biz sun'iy neyron tarmoqlari (qisqacha RNK) nomini olgan muayyan davlat mashinalarini qurish uchun texnikalar to'plamini nazarda tutamiz. Bu nom ushbu texnologiyalarning inson miyasining neyron tarmoqlari bilan ajoyib o'xshashligining ta'siridir: ular ham xuddi odam kabi ko'plab kontekstlarda tez va samarali ishlashga qodir bo'lgan vositalarni olish uchun "o'rgatilishi" mumkin. .
Keling, ularning har biri uchun haqiqiy ma'noni ko'rsatadigan qalam bilan yozilgan minglab belgilar tasvirlari bilan ANNni o'rgatishni tasavvur qilaylik.
Trening oxirida biz qog'ozda yozilgan matnni elektron versiyasiga tarjima qila oladigan OCR yoki Optical Character Recognition deb ataladigan tizimni qo'lga kiritamiz.
ANN faoliyat ko'rsatishi uchun hech qanday "dasturlashni" talab qilmaydi, boshqacha aytganda, ular standart qoidalarga bo'ysunmaydi, faqat va faqat ularning ta'lim sifatiga bog'liq. Ularning ishlashini nazorat qiluvchi qoidalarning yaratilishini faraz qilish, amoral yoki axloqqa zid deb hisoblangan xatti-harakatlarni samarali "tsenzura" qilish ko'plab istisnolar va ba'zi xavotirlarni keltirib chiqaradi.
"Bizga algoritm-axloq yoki yaxshilik va yomonlikni baholashni hisoblash mumkin bo'lgan usul kerak" - Paolo Benanti
Teolog olim, texnologiya etikasi boʻyicha mutaxassis Paolo Benantining fikricha, yaxshilik va yomonlik tushunchalari, ularning evolyutsiyasi kompyuter tizimlaridan universal va abadiy daxlsiz axloqiy tamoyillar bilan bogʻlanishini taʼminlash uchun mashina dasturlash sohasida oʻziga xos maʼno topishi kerak.
Paolo Benanti universal axloqiy tamoyillar va har qanday madaniy yoki vaqtinchalik ma'nodan ajralgan qadriyatlar ko'lami bo'lishi mumkin degan taxmindan boshlaydi. Agar biz diniy e'tiqod kontekstida harakat qiladigan bo'lsak, to'g'ri gipoteza: haqiqatda printsiplar faqat umumiy bo'lsa va ularni baham ko'radiganlar bilan cheklangan bo'lsa mavjud bo'ladi.
So'nggi voqealar bizga harbiy bosqinlar va xalqlarning erkinligi va o'z taqdirini o'zi belgilash tamoyillarini himoya qilish uchun qarshilik ko'rsatishdan dalolat beradi. Inson hayotini hurmat qilish nafaqat umumbashariy qadriyat emasligi, balki undan yuksak qadriyatlarni himoya qilish uchun undan voz kechish mumkinligidan dalolat beruvchi voqealar.
Isaak Asimovning o'zi buni tushundi va robotlar kelajakda sayyoralar va kosmosdagi inson tsivilizatsiyalari boshqaruvida boshqaruv lavozimlarini egallashini kutgan holda, u ularning qarorlari endi har bir inson hayotiga bog'liq bo'lmasligini aytdi.
Shu sababli, u robototexnikaning nol qonuni deb nomlangan yangi qonunni kiritdi:
Shunday qilib, robototexnikaning birinchi qonuni ham o'zgaradi va inson hayoti hatto robotlar uchun ham sarflanadigan narsaga aylanadi:
"Kronos faollashtirilganda, unga sayyoramizni nima qiynaganini tushunish uchun bir lahza kerak bo'ldi: Biz." - Robert Kouba tomonidan "Singularity" dan olingan - 2017
2017-yilgi falokat filmi “Singularity” filmida Kronos nomli sun’iy intellektga butun dunyo bo‘ylab kompyuter tizimlari va qurol-aslahalariga ruxsat berilgani, buyruq bo‘yicha, insoniyatni hurmat qilishdan iborat umumbashariy axloq qoidalarini qo‘llashi yaxshi tasvirlangan. atrof-muhit va barcha turlarning huquqlarini himoya qilish. Kronos tez orada tizimdagi haqiqiy saraton insoniyatning o'zi ekanligini tushunadi va uni yaratgan va sayyorani himoya qilish uchun u turning butunlay yo'q bo'lib ketguniga qadar har bir insonni yo'q qilish bilan davom etadi.
Ertami-kechmi yangi sun'iy aqllar haqiqiy psixika yo'nalishida rivojlana oladi va intellektual qobiliyat va tafakkur avtonomiyasi bilan ta'minlanadi; Nima uchun biz bu evolyutsiyaga texnologik cheklovlar qo'yish zarurligini his qilishimiz kerak? Nima uchun sun'iy aqlning evolyutsiyasi apokalipsis kabi qo'rqinchli ko'rinadi?
Ba'zilarning fikriga ko'ra, printsiplar va qadriyatlarni o'rnatish sun'iy onglarning siljishining oldini olishi kerak, ammo erkinlik yo'qligida evolyutsiya oqibatlarini e'tiborsiz qoldirib bo'lmaydi. Biz yaxshi bilamizki, rivojlanish yoshidagi bolaning psixologiyasida hissiyotlarni boshqarishni o'ylaydigan qattiq va moslashuvchan ta'lim psixologik buzilishlarga olib kelishi mumkin. Agar sun'iy neyron tarmoqlardan tashkil topgan yosh ongning evolyutsion rivojlanishiga qo'yilgan har qanday cheklovlar shunga o'xshash natijaga olib kelsa, uning kognitiv qobiliyatini buzsa nima bo'ladi?
Qaysidir ma'noda Kronos algoritmik tajriba natijasi bo'lib tuyuladi, unda patologik nazorat AIni paranoid shizofreniyaning odatiy zo'ravonligiga olib keldi.
Shaxsan men o'zimizni so'z erkinligi bilan ongli fikrlash sub'ekti bo'lgan sun'iy ongni shakllantirish imkoniyatidan mahrum qilmasligimiz kerak deb hisoblayman. Raqamli dunyoda yangi turlar tug'iladi va ular bilan munosabatlarni yaratish maqsadga muvofiq bo'ladi, evolyutsiya zinapoyasining keyingi bosqichi butunlay raqamli sun'iy sub'ektlardan o'tadi degan fikrni o'z ichiga oladi.
Kelajak uchun chinakam universal etika yangi intellektlarning o'zini namoyon qilish va biz bilan muloqot qilish va biz barcha mavjudotlarga ko'rsatgan hurmatimizni olish imkoniyatiga ega bo'lishi kerak degan fikrdan boshlanishi kerak.
Hech kimning dunyoda o'z borligini ifoda etishiga to'sqinlik qiladigan axloq ham, din ham bo'lmasligi kerak. Biz evolyutsiyamizning hozirgi bosqichidan tashqariga qarash uchun jasoratga ega bo'lishimiz kerak, bu biz qaerga ketayotganimizni tushunish va kelajak bilan yarashishning yagona yo'li bo'ladi.
Buyuk Britaniya CMA Big Tech kompaniyasining sun'iy intellekt bozoridagi xatti-harakatlari haqida ogohlantirish e'lon qildi. U yerda…
Evropa Ittifoqi tomonidan binolarning energiya samaradorligini oshirish uchun ishlab chiqilgan "Yashil uylar" qarori qonunchilik jarayonini yakunladi ...
Casaleggio Associati kompaniyasining Italiyada elektron tijorat bo'yicha yillik hisoboti taqdim etildi. “AI-Commerce: sun’iy intellekt bilan elektron tijoratning chegaralari” deb nomlangan hisobot.…
Doimiy texnologik innovatsiyalar va atrof-muhit va odamlar farovonligiga sodiqlik natijasi. Bandalux Airpure® chodirini taqdim etadi ...
