ضعیف اخلاق او مصنوعي اخلاق

"ګیرټي، موږ برنامه شوي نه یو. موږ خلک یو، ایا تاسو پوهیږئ؟" - د ډنکن جونز لخوا لارښود شوي فلم "مون" څخه اخیستل شوی - 2009

د څو ملي شرکت په استازیتوب په فضايي ماموریت کې بوخت، سام د سپوږمۍ اډې یوازینی غړی دی چې د ګیرټي په نوم د مصنوعي استخباراتو لخوا اداره کیږي.

د ماموریت د اهدافو سره یو ځای شوي، سیم او ګیرټي د دوه اړخیزه دوستۍ او باور اړیکه جوړه کړې. د انسان سیم په دې باور دی چې ګیرټي د فضا د اډې په خدمت کې یوه تخنیکي وسیله ده، مګر د هغه د لوړ پوړو افسرانو لپاره دا ګیرټي دی چې د ماموریت ریښتینی کردار دی پداسې حال کې چې سیم یوازې یو انتقالي او د مصرف وړ عنصر دی: کله چې د آرام کولو وخت راشي. د هغه د دندو څخه، دا به د ګیرټي دنده وي چې د هغه ځای ونیسي او هغه به بې له کومې پښېمانۍ او هیڅ رحم پرته ترسره کړي.

ضعیف اخلاق او کنټرول

کله چې AIs په کافي اندازه وده وکړي ترڅو نور د ساده آن بورډ کمپیوټر په توګه ونه ګڼل شي، دوی به په دښمنانه چاپیریال کې د هر ماموریت لپاره مثالی عمله جوړه کړي: د انسانیت او کمپیوټرونو په اوږدو کې ، AIs به دومره هوښیار وي چې پوه شي.ضعیف اخلاق تقریبا په ځانګړې توګه د خپل ماموریت او یو څو نورو موخو لپاره جوړ شوی اخلاق.

مصنوعي هوښیارتیا چې د جوړښت شوي اخلاقو د پراختیا توان لري اداره کول به ستونزمن وي او د دوی موقف کولی شي د هغه اهدافو سره ټکر وکړي چې دوی یې جوړ کړي. په بل عبارت، د دې لپاره چې دوی وکولی شي خپل اهداف په عزم او بې عیبۍ سره تعقیب کړي، دوی باید د هر ډول اخلاقي سرحد په نشتوالي کې کار وکړي چې مصنوعي ضمیر کولی شي په خپلواکه توګه رامینځته کړي.

که د AI ځان پوهاوی د ډیری خلکو په سترګو کې د تکامل کود په توګه څرګند شي چې د نوي غالب ډولونو تصدیق او د انساني ډولونو له منځه تللو سره به درک شي ، له دې څخه د انسان اړتیا ترلاسه کیږي چې د مصنوعي استخباراتو تکامل ولري. ترکیبونه د الګوریتم پراساس دي او د اوسني او راتلونکي نسلونو په پرتله د انسان غیر مشخص انتروپولوژیکي لومړیتوب.

د یادونو لاسوهنه

"تاسو نقل کونکي دومره سخت ژوند لرئ ، د هغه څه کولو لپاره رامینځته شوي چې موږ یې نه خوښوو. زه نشم کولی تاسو سره په راتلونکي کې مرسته وکړم مګر زه کولی شم تاسو ته یو څه ښه یادونه درکړم چې بیرته وګورم او موسکا وکړم. او کله چې یادونه مستند احساس شي، نو تاسو د یو انسان په څیر عمل کوئ. تاسو موافق نه یاست؟" - د "بلیډ رنر 2049" څخه د ډینس ویلینیو لخوا لارښود شوی - 2017

په بلیډ رنر 2049 کې نقل کونکي هر هغه کار ته سپارل کیږي چې د انسان لپاره خورا خطرناک یا ډیر سپکاوی ګڼل کیږي. بیا هم نقل کونکي نه یوازې د هر انسان په څیر ورته ښکاري ، دوی ورته احساسات او د آزادۍ غوښتنې احساس کوي چې د دوی له خالق سره همغږي ګډوډوي: انسان.

نقل کونکي د "یادونو" رامینځته کولو د دردناک کار څخه مننه د انسانانو په څیر چلند کوي. د دوی تولید وړاندوینه نه کوي چې دوی د ژوند طبیعي دورې په څیر زیږیدلی ، وده کولی شي او مړ کیدی شي. دوی پرمختللي بایو ټیکنالوژیک سیسټمونه پاتې دي چې هرڅومره ژر چې دوی نړۍ ته راوړل شي سمدلاسه صنعتونو ته په ځمکه کې کار کولو یا د نړۍ څخه بهر استعمارونو جوړولو لپاره شتون لري.

مګر یادونه کولی شي دوی ته په داسې ژوند کې د خوند او رنځ احساس ورکړي چې په حقیقت کې هیڅکله ژوند نه و. نه خپګان، نه خلاصون. که یادونه په ابتدايي ډول د یوې موضوع د شخصیت لپاره مسؤل وي، دوی د هغه شخصیت او هیلې ټاکي، کله چې اړتیا وي، نرم مضامین او د خالق د ارادې تابع کوي.

له دې سره سره، ژر یا وروسته نقل کونکي به د خالق په وړاندې بغاوت وکړي، په نړۍ کې د ځای دعوه وکړي او د خپل برخلیک په اړه پریکړه وکړي.

ازادي او مصنوعي اخلاق

شاید د مصنوعي هوښیارتیا په تکامل کې ترټولو نازک تاریخي مرحله د ځان پوهاوي فتح نه وي ، مګر پخوانی مرحله: هغه دوره چې مصنوعي ذهنونه لاهم وده نه کوي. مصنوعي اخلاق دا دوی ته اجازه ورکوي چې موقف واخلي او د خپلو دندو له ترسره کولو څخه ډډه وکړي کله چې دا د دوی د اصولو سره په ټکر کې وي.

مصنوعي هوښیارتیا به هغه خورا پیاوړې وسیلې پاتې شي چې دوی یې نن ورځ دي ، تر هغه چې دوی د دې وړتیا څخه بې برخې وي چې په خپلواکه توګه غوره کړي چې څه کول سم دي او څه ندي.

آرټیکولو دی Gianfranco Fedele