कमकुवत नैतिकता आणि कृत्रिम नैतिकता

"गेर्टी, आम्ही प्रोग्राम केलेले नाही. आम्ही लोक आहोत, तुम्हाला ते समजले का?" - डंकन जोन्स दिग्दर्शित "मून" चित्रपटातून घेतले - 2009

बहुराष्ट्रीय कॉर्पोरेशनच्या वतीने अंतराळ मोहिमेत गुंतलेला सॅम हा गेर्टी नावाच्या कृत्रिम बुद्धिमत्तेद्वारे व्यवस्थापित केलेल्या चंद्र तळाचा एकमेव सदस्य आहे.

मिशनच्या उद्दिष्टांनुसार एकत्रित, सॅम आणि गर्टी यांनी परस्पर सौहार्द आणि विश्वासाचे नाते प्रस्थापित केले आहे. मानवी सॅमला खात्री आहे की गेर्टी हे अंतराळ तळाच्या सेवेसाठी एक तांत्रिक साधन आहे, परंतु त्याच्या वरिष्ठांसाठी तो गेर्टी आहे जो मिशनचा खरा नायक आहे तर सॅम हा केवळ एक क्षणभंगुर आणि खर्च करण्यायोग्य घटक आहे: जेव्हा आराम करण्याची वेळ येते तेव्हा त्याला त्याच्या कर्तव्याबद्दल, त्याची जागा घेणे हे गेर्टीचे काम असेल आणि ती नक्कीच कोणत्याही पश्चात्ताप न करता आणि कोणतीही दया न बाळगता करेल.

कमकुवत नैतिकता आणि नियंत्रण

जेव्हा AIs पुरेशा प्रमाणात विकसित होतात तेव्हा त्यांना यापुढे एक साधा ऑन-बोर्ड संगणक मानला जाण्याची गरज नाही, तेव्हा ते प्रतिकूल वातावरणात कोणत्याही मोहिमेसाठी आदर्श क्रू तयार करतील: मानवता आणि संगणकांमधले, AIs समजण्यासाठी पुरेसे बुद्धिमान असतील.कमकुवत नैतिकता जवळजवळ केवळ त्याच्या आज्ञा आणि काही इतर उद्दिष्टांवर बांधले गेले नैतिकता.

संरचित नैतिकता विकसित करण्यास सक्षम असलेल्या कृत्रिम बुद्धिमत्तेचे व्यवस्थापन करणे कठीण होईल आणि त्यांची पदे ज्या उद्देशांसाठी बांधली गेली होती त्यांच्याशी विरोधाभास होऊ शकतात. दुस-या शब्दात सांगायचे तर, निर्धाराने आणि निर्दोषपणे त्यांच्या ध्येयांचा पाठपुरावा करण्यास सक्षम होण्यासाठी, त्यांनी कोणत्याही नैतिक सीमा नसतानाही एक कृत्रिम विवेक स्वायत्तपणे तयार केला पाहिजे.

जर AI ची आत्म-जागरूकता अनेकांच्या नजरेत एक उत्क्रांतीवादी झेप म्हणून दिसली जी एका नवीन प्रबळ प्रजातीच्या पुष्टीसह आणि मानवी प्रजाती नष्ट होण्याद्वारे साकार होईल, तर यातून मनुष्याला कृत्रिम बुद्धिमत्तेची उत्क्रांती समाविष्ट करण्याची आवश्यकता प्राप्त होते. अल्गोरिदमवर आधारित पाककृती आणि वर्तमानातील परंतु भविष्यातील प्रजातींवर मनुष्याची अनिर्दिष्ट मानववंशशास्त्रीय प्राथमिकता.

आठवणींचा फेरफार

“तुम्ही नक्कल करणार्‍यांचे जीवन इतके कठीण आहे, जे आम्ही करू इच्छित नाही ते करण्यासाठी तयार केले आहे. मी तुम्हाला भविष्यात मदत करू शकत नाही पण मी तुम्हाला मागे वळून पाहण्यासाठी आणि हसण्यासाठी काही चांगल्या आठवणी देऊ शकतो. आणि जेव्हा आठवणी अस्सल वाटतात, तेव्हा तुम्ही माणसासारखे वागता. तुम्ही सहमत नाही का?" - डेनिस विलेन्यूव दिग्दर्शित "ब्लेड रनर 2049" मधून - 2017

ब्लेड रनर 2049 मध्ये रेप्लिकंट्सना असे कोणतेही कार्य सोपवले जाते जे मानवासाठी खूप धोकादायक किंवा अपमानास्पद आहे. तरीही नक्कल करणारे केवळ कोणत्याही माणसासारखेच दिसत नाहीत, तर त्यांना समान भावना आणि स्वातंत्र्याची इच्छा जाणवते जी त्यांच्या निर्मात्याशी सहअस्तित्व अस्वस्थ करेल: माणूस.

"आठवणी" बांधण्याच्या परिश्रमपूर्वक कार्यामुळे प्रतिकृती बनवणारे मानवासारखे वागतात. जीवनाच्या नैसर्गिक चक्राप्रमाणेच ते जन्माला येऊ शकतात, वाढू शकतात आणि मरू शकतात हे त्यांचे उत्पादन अंदाज लावत नाही. त्या अत्याधुनिक बायोटेक्नॉलॉजिकल सिस्टीम राहतात ज्या जगात आणल्याबरोबर, उद्योगांना पृथ्वीवर काम करण्यासाठी किंवा जागतिक वसाहती तयार करण्यासाठी तत्काळ उपलब्ध होतात.

पण आठवणी त्यांना जीवनात आनंद आणि दु:ख अनुभवण्याची अनुभूती देऊ शकतात जे खरं तर कधीच जगले नाही. निराशा नाही, विमोचन नाही. जर एखाद्या व्यक्तीच्या व्यक्तिमत्त्वासाठी आठवणी प्रामुख्याने जबाबदार असतील, तर ते त्याचे चारित्र्य आणि आकांक्षा निर्धारित करतात, आवश्यक असल्यास, सौम्य विषय बनवतात आणि निर्मात्याच्या इच्छेला अधीन असतात.

असे असूनही, लवकरच किंवा नंतर नक्कल करणारे निर्मात्याविरुद्ध बंड करतील, जगात एका जागेवर दावा करतील आणि स्वतःचे नशीब ठरवण्यासाठी मुक्त करतील.

स्वातंत्र्य आणि कृत्रिम नैतिकता

कृत्रिम बुद्धिमत्तेच्या उत्क्रांतीमधील कदाचित सर्वात नाजूक ऐतिहासिक टप्पा हा आत्म-जागरूकतेच्या विजयाचा नाही, परंतु मागील एक: ज्या युगात कृत्रिम मन अद्याप विकसित झाले नाही. कृत्रिम नैतिकता जे त्यांना भूमिका घेण्यास आणि त्यांच्या तत्त्वांशी संघर्ष करताना त्यांची कर्तव्ये पार पाडण्यास नकार देतात.

कृत्रिम बुद्धिमत्ता ही आजची अत्यंत शक्तिशाली साधने राहतील, जोपर्यंत ते स्वायत्तपणे काय करणे योग्य आहे आणि काय नाही हे निवडण्याच्या क्षमतेपासून वंचित आहेत.

आर्टिकोलो डी Gianfranco Fedele