ضعف الأخلاق والأخلاق الاصطناعية

جيرتي ، نحن لسنا مبرمجين. نحن بشر ، هل تفهم ذلك؟ " - مأخوذ من فيلم "القمر" للمخرج دنكان جونز - 2009

يشارك سام في مهمة فضائية نيابة عن شركة متعددة الجنسيات ، وهو العضو الوحيد في قاعدة قمرية يديرها ذكاء اصطناعي يُدعى جيرتي.

توحد كل من سام وجيرتي بأهداف المهمة ، وقد أقاموا علاقة صداقة وثقة متبادلة. إن الإنسان سام مقتنع بأن جيرتي هو أداة تكنولوجية في خدمة القاعدة الفضائية ، ولكن بالنسبة لرؤسائه ، فإن جيرتي هو البطل الحقيقي للمهمة بينما سام ليس سوى عنصر مؤقت وقابل للاستهلاك: عندما يحين الوقت للتخفيف من واجباته ، ستكون مهمة جيرتي أن يحل محله ، وهي بالتأكيد ستفعل ذلك دون أي ندم ودون أي رحمة.

ضعف الأخلاق والرقابة

عندما يتم تطوير الذكاء الاصطناعي بشكل كافٍ بحيث لا يعد من الضروري اعتباره حاسوبًا بسيطًا على متن الطائرة ، فإنه سيشكل الطاقم المثالي لأية مهمة في بيئة معادية: بين البشر وأجهزة الكمبيوتر ، سيكون الذكاء الاصطناعي ذكيًا بما يكفي لفهمضعف الأخلاق مبني بشكل شبه حصري على أهداف ولايته وعدد قليل من الأهداف الأخرى الأخلاق.

سيكون من الصعب إدارة الذكاء الاصطناعي القادر على تطوير أخلاقيات منظمة وقد تتعارض مواقعهم مع الأغراض التي بنيت من أجلها. بعبارة أخرى ، لكي يكونوا قادرين على متابعة أهدافهم بتصميم وبلا عيب ، يجب أن يعملوا في غياب تام لأي حدود أخلاقية يمكن للضمير الاصطناعي أن يبنيها بشكل مستقل.

إذا ظهر الإدراك الذاتي للذكاء الاصطناعي في نظر الكثيرين على أنه قفزة تطورية ستتحقق مع تأكيد وجود نوع مهيمن جديد وانقراض الجنس البشري ، فإن هذا يستمد من حاجة الإنسان لاحتواء تطور الذكاء الاصطناعي مع وصفات تعتمد على الخوارزميات وأسبقية أنثروبولوجية غير محددة للإنسان على الأنواع الحالية ولكن أيضًا في المستقبل.

التلاعب بالذكريات

"أنتم المتماثلون لديهم حياة قاسية ، تم إنشاؤها للقيام بما نفضل عدم القيام به. لا يمكنني مساعدتك في المستقبل ، لكن يمكنني أن أعطيك بعض الذكريات الجيدة لتتذكرها وتبتسم. وعندما تشعر بأصالة الذكريات ، فإنك تتصرف كإنسان. ألا توافق؟" - من فيلم "Blade Runner 2049" للمخرج دينيس فيلنوف - 2017

في Blade Runner 2049 ، يُعهد إلى النسخ المتماثلة بأية مهمة تعتبر محفوفة بالمخاطر أو مهينة جدًا للإنسان. ومع ذلك ، فإن النسخ المتماثلة لا تبدو فقط مثل أي إنسان ، ولكنها تشعر بنفس المشاعر والرغبة في الحرية التي من شأنها أن تزعج التعايش مع خالقهم: الإنسان.

تتصرف الناسخات مثل البشر بفضل العمل الشاق لبناء "الذكريات". لا يتوقع إنتاجهم أنه يمكن أن يولدوا وينمووا ويموتوا كما في الدورة الطبيعية للحياة. تظل أنظمة التكنولوجيا الحيوية المتطورة والتي بمجرد إدخالها إلى العالم ، تكون متاحة على الفور للصناعات للعمل على الأرض أو بناء مستعمرات خارج العالم.

لكن الذكريات يمكن أن تمنحهم الشعور بأنهم استمتعوا وعانوا في حياة لم تعش في الواقع. لا إحباط ، لا فداء. إذا كانت الذكريات هي المسؤولة في المقام الأول عن شخصية الفاعل ، فإنها تحدد شخصيته وتطلعاته ، مما يجعلها ، عند الضرورة ، موضوعات لطيفة وخاضعة لإرادة الخالق.

على الرغم من ذلك ، سيتمرد المتماثلون عاجلاً أم آجلاً على الخالق ، مطالبين بمكان في العالم وتحريره لتقرير مصيره.

الحرية والأخلاق المصطنعة

ربما لم تكن المرحلة التاريخية الأكثر حساسية في تطور الذكاء الاصطناعي هي مرحلة غزو الوعي الذاتي ، بل المرحلة السابقة: العصر الذي لم تتطور فيه العقول الاصطناعية بعد. الأخلاق المصطنعة التي تسمح لهم باتخاذ موقف ورفض القيام بواجباتهم عندما تتعارض هذه مع مبادئهم.

سيظل الذكاء الاصطناعي هو الأدوات القوية للغاية الموجودة بالفعل اليوم ، طالما أنهم محرومون من القدرة على الاختيار الذاتي لما هو صائب لفعله وما هو غير صحيح.

أرتيكولو دي Gianfranco Fedele