Алсыз этика жана жасалма моралдык

«Герти, биз программаланган эмеспиз. Биз элбиз, муну түшүнөсүңбү?» – Дункан Жонс тарткан “Ай” тасмасынан алынган – 2009-ж

Көп улуттуу корпорациянын атынан космостук миссия менен алектенген Сэм Герти аттуу жасалма интеллект башкарган Ай базасынын жалгыз мүчөсү.

Миссиянын максаттары менен бириккен Сэм менен Герти өз ара чын ыкластуулук жана ишеним мамилелерин түзүштү. Адам Сэм Герти космостук базанын кызматындагы технологиялык курал экенине ишенет, бирок анын жетекчилери үчүн Герти миссиянын чыныгы каарманы, ал эми Сэм өткөөл жана сарпталуучу элемент: жеңилдетүү үчүн убакыт келгенде анын милдетин аткарса, аны алмаштыруу Гертинин иши болот жана ал муну албетте, эч кандай өкүнбөй, ырайымсыз аткарат.

Этика жана көзөмөл начар

Интеллектуалдык интеллект жетиштүү түрдө өнүккөндө, мындан ары жөнөкөй борттук компьютер катары каралбай калганда, алар душмандык чөйрөдө ар кандай миссия үчүн идеалдуу экипажды түзүшөт: адамзат жана компьютерлер менен бирге, AI бир нерсени түшүнүү үчүн жетиштүү акылдуу болот.алсыз этика анын мандатынын максаттарына жана бир нече башка максаттарга дээрлик гана курулган адептуулук.

Структураланган этиканы иштеп чыгууга жөндөмдүү жасалма интеллектти башкаруу кыйын жана алардын позициялары курулган максаттарга карама-каршы келиши мүмкүн. Башкача айтканда, максаттарына чечкиндүү жана кемчиликсиз жете алышы үчүн жасалма абийир өз алдынча кура ала турган эч кандай моралдык чек жок жерде иштеши керек.

Эгерде интеллекттин өзүн-өзү аңдоосу көпчүлүктүн көз алдында эволюциялык секирик катары көрүнсө, ал жаңы үстөмдүк кылуучу түрдүн ырастоосу жана адам түрүнүн жок болушу менен ишке ашат, ушундан адамдын интеллекттин эволюциясын жасалма жол менен камтууга болгон муктаждыгы келип чыгат. Алгоритмдерге негизделген рецепттер жана адамдын азыркы, бирок келечектеги түрлөрдүн үстүнөн аныкталбаган антропологиялык артыкчылыктары.

Эскерүүлөрдү манипуляциялоо

«Силердин, репликанттардын жашоосу ушунчалык оор, алар биз жасабай турган нерсени жасоо үчүн жаралган. Мен сага келечекке жардам бере албайм, бирок мен сага артка кылчайып карап, жылмаюу үчүн жакшы эстеликтерди бере алам. Ал эми эскерүүлөр анык сезилгенде, сен адамдай болосуң. макул эмессиңби?" – Денис Вильнев режиссёру болгон “Blade Runner 2049” тасмасынан – 2017

Blade Runner 2049-да репликанттарга өтө кооптуу же адам үчүн өтө кемсинткен ар кандай тапшырмалар тапшырылат. Бирок репликанттар ар бир адамдай эле көрүнбөстөн, алардын жаратуучусу: адам менен бирге жашоону буза турган сезимдерди жана эркиндикке болгон каалоону сезишет.

Репликанттар «эстетүүлөрдү» куруудагы талыкпаган эмгектин аркасында өзүн адамдай алып жүрүшөт. Алардын өндүрүшү жашоонун табигый циклиндегидей төрөлүшү, өсүп-өнүшү жана өлүшү мүмкүн экенин алдын ала албайт. Алар татаал биотехнологиялык системалар бойдон калууда, алар дүйнөгө алып келинээри менен дароо жер бетинде иштөө үчүн же дүйнөлүк колонияларды куруу үчүн өндүрүшкө жеткиликтүү болот.

Бирок эскерүүлөр аларга чындыгында эч качан жашабаган жашоодо ырахаттанып, азап чегип жаткандай сезимди бере алат. Капалануу, кун жок. Эгерде эскерүүлөр субъекттин инсандыгына биринчи кезекте жооптуу болсо, анда алар анын кулк-мүнөзүн, умтулууларын аныктап, аларды зарыл учурда жумшак субьект кылып, жаратуучунун эркине баш ийет.

Ошого карабастан, репликанттар эртеби-кечпи Жаратуучуга каршы чыгып, бул дүйнөдө орун талашып, өз тагдырын өзү чечүүгө бошотуп беришет.

Эркиндик жана жасалма морал

Жасалма интеллекттин эволюциясындагы эң назик тарыхый фаза, балким, өзүн-өзү аңдоону жеңүү эмес, мурункусу: жасалма акыл-эс али өнүгө элек доор. жасалма морал бул алардын принциптерине карама-каршы келген учурда позицияны карманууга жана өз милдеттерин аткаруудан баш тартууга мүмкүндүк берет.

Жасалма интеллект эмнени туура жана эмнени туура эмес деп өз алдынча тандоо мүмкүнчүлүгүнөн ажырап калса, бүгүнкү күндө абдан күчтүү курал бойдон кала берет.

Артиколо ди Gianfranco Fedele