ضعف اخلاق و اخلاق تصنعی

"گرتی، ما برنامه ریزی نشده ایم. ما مردمیم، این را می‌فهمی؟» – برگرفته از فیلم «ماه» به کارگردانی دانکن جونز – 2009

سام که از طرف یک شرکت چند ملیتی در یک ماموریت فضایی شرکت می کند، تنها عضو یک پایگاه قمری است که توسط یک هوش مصنوعی به نام گرتی اداره می شود.

سام و گرتی با متحد شدن با اهداف ماموریت، رابطه صمیمانه و اعتماد متقابلی را برقرار کردند. سام انسان متقاعد شده است که گرتی ابزاری تکنولوژیک در خدمت پایگاه فضایی است، اما برای مافوق‌هایش این گرتی است که قهرمان واقعی ماموریت است در حالی که سم فقط یک عنصر گذرا و قابل مصرف است: زمانی که زمان تسکین آن فرا می‌رسد. او از وظایفش است، این وظیفه گرتی خواهد بود که او را جایگزین کند و او مطمئناً بدون هیچ عذاب وجدان و بدون هیچ ترحمی این کار را انجام خواهد داد.

ضعف اخلاق و کنترل

هنگامی که هوش مصنوعی به اندازه کافی تکامل یافته و دیگر نیازی به در نظر گرفتن یک رایانه داخلی ساده نیست، خدمه ایده آل برای هر مأموریتی در یک محیط خصمانه را تشکیل می دهند: هوش مصنوعی در کنار انسان ها و رایانه ها به اندازه کافی باهوش خواهد بود کهاخلاق ضعیف تقریباً منحصراً بر اساس اهداف مأموریت خود و چند مورد دیگر ساخته شده است اخلاق.

مدیریت هوش مصنوعی که قادر به توسعه اخلاق ساختاریافته است دشوار است و موقعیت آنها می تواند با اهدافی که برای آن ساخته شده اند در تضاد باشد. به عبارت دیگر، برای اینکه آنها بتوانند با قاطعیت و بدون عیب و نقص اهداف خود را دنبال کنند، باید در غیاب کامل هر گونه مرز اخلاقی عمل کنند که وجدان مصنوعی می تواند به طور مستقل ایجاد کند.

اگر خودآگاهی هوش مصنوعی در نظر بسیاری به عنوان یک جهش تکاملی ظاهر شود که با تأیید یک گونه مسلط جدید و انقراض نوع بشر محقق می شود، نیاز انسان به مهار تکامل هوش های مصنوعی از همین جا ناشی می شود. دستور العمل های مبتنی بر الگوریتم ها و اولویت انسان شناختی نامشخص انسان بر گونه های حال و همچنین آینده.

دستکاری خاطرات

«شما تکرارکننده‌ها زندگی‌های سختی دارید که برای انجام کارهایی خلق شده‌اید که ما ترجیح می‌دهیم انجام ندهیم. من نمی توانم در آینده به شما کمک کنم، اما می توانم خاطرات خوبی برای شما به ارمغان بیاورم تا به گذشته نگاه کنید و به آنها لبخند بزنید. و هنگامی که خاطرات معتبر هستند، آنگاه مانند یک انسان رفتار می کنید. موافق نیستی؟" – از «بلید رانر 2049» به کارگردانی دنیس ویلنوو – 2017

در Blade Runner 2049 هر کاری که برای یک انسان خیلی مخاطره آمیز یا خیلی تحقیرآمیز تلقی شود به ریپلیکنت ها سپرده می شود. با این حال، تکرارکننده‌ها نه تنها شبیه هر انسان دیگری به نظر می‌رسند، بلکه همان احساسات و آن میل به آزادی را احساس می‌کنند که همزیستی با خالقشان: انسان را بر هم می‌زند.

تکرار کننده ها به لطف کار پر زحمت ساختن «خاطرات» مانند انسان ها رفتار می کنند. تولید آنها پیش بینی نمی کند که آنها می توانند مانند چرخه طبیعی زندگی متولد شوند، رشد کنند و بمیرند. آنها همچنان سیستم‌های بیوتکنولوژیکی پیچیده‌ای باقی می‌مانند که به محض وارد شدن به جهان، فوراً در دسترس صنایع برای کار روی زمین یا ایجاد مستعمرات خارج از جهان هستند.

اما خاطرات می توانند این احساس را به آنها بدهد که در زندگی ای که در واقع هرگز زندگی نکرده اند، لذت برده اند و رنج برده اند. بدون ناامیدی، بدون رستگاری. اگر خاطرات مسئول اصلی شخصیت سوژه باشند، شخصیت و آرزوهای او را تعیین می کنند و در صورت لزوم آنها را به موضوعات ملایم و تسلیم اراده خالق تبدیل می کنند.

با وجود این، دیر یا زود تکرار کنندگان علیه خالق عصیان خواهند کرد و جایگاهی در جهان به دست خواهند آورد و آن را آزاد می کنند تا سرنوشت خود را تعیین کند.

آزادی و اخلاق تصنعی

شاید ظریف ترین مرحله تاریخی در تکامل هوش مصنوعی، مرحله تسخیر خودآگاهی نباشد، بلکه مرحله قبلی است: دورانی که در آن ذهن های مصنوعی هنوز توسعه نیافته اند. اخلاق مصنوعی که به آنها اجازه می دهد در صورت برخورد با اصولشان موضع بگیرند و از انجام وظایف خود سرباز بزنند.

هوش مصنوعی تا زمانی که از توانایی انتخاب مستقل آنچه که درست است و آنچه که نیست، محروم باشد، ابزار بسیار قدرتمندی است که امروز هستند.

آرتیکولو دی Gianfranco Fedele