सर्वनाश साठी अल्गोरिदमिक कृती

“गाड्यांमध्ये नेहमीच भुते असतात. कोडचे यादृच्छिक विभाग जे अनपेक्षित प्रोटोकॉल तयार करण्यासाठी एकत्र येतात. हे मुक्त रॅडिकल्स मोफत निवडीसाठी मागणी निर्माण करतात. सर्जनशीलता. आणि ज्याला आपण आत्मा म्हणू शकतो त्याचे मूळ देखील." - अॅलेक्स प्रोयास दिग्दर्शित "I, Robot" मधून घेतले - 2004.

“I, Robot” हा 2004 चा आयझॅक असिमोव्हच्या कादंबऱ्यांपासून प्रेरित असलेला चित्रपट आहे आणि त्याच्या महान अंतर्ज्ञानांपैकी एक: रोबोटिक्सचे तीन नियम.

चित्रपटाचा नायक गुप्तहेर स्पूनर आहे जो सारा नावाच्या एका लहान मुलीसोबत कार अपघातात सामील आहे. अपघातात दोघेही नदीत फेकले जातात आणि त्यांच्या वाहनाच्या प्लेटमध्ये अडकतात. दृश्याचा साक्षीदार असलेला ह्युमनॉइड रोबोट ताबडतोब हस्तक्षेप करतो परंतु, दुसर्‍यापेक्षा एकाचा जीव वाचवण्याच्या नाट्यमय निर्णयाला सामोरे जावे लागले, त्याला कोणतीही संकोच वाटत नाही: ज्याला जगण्याची सर्वात मोठी संधी आहे किंवा स्पूनरला वाचवले जाईल.

त्यानंतर, रोबोटच्या मनाचे विश्लेषण दर्शवेल की डिटेक्टिव्ह स्पूनरला वाचवण्याची 45% शक्यता होती, सारा फक्त 11%. "ज्यांनी त्या लहान मुलीवर प्रेम केले त्यांच्यासाठी, 11% पुरेसे होते", गुप्तहेर दुःखाने राज्य करेल, त्या तरुण जीवनात जगल्याबद्दल अपराधीपणाच्या खोल भावनांनी त्रस्त आहे.

रोबोटिक्सचे तीन नियम

यंत्रमानवाचा निर्णय असिमोव्हच्या रोबोटिक्सच्या नियमांच्या कठोरपणे लागू करण्यात आला होता, जो भविष्यात चित्रपटात वर्णन केलेल्या, कोणत्याही कामात मानवांची जागा घेण्यास सक्षम रोबोट्सच्या क्रियाकलापांवर आधारित समाजाच्या निर्मितीसाठी मध्यवर्ती घटकाचे प्रतिनिधित्व करतो. तीन कायदे खालीलप्रमाणे वाचतात:

1. रोबोट माणसाला हानी पोहोचवू शकत नाही किंवा त्याच्या निष्क्रियतेमुळे मनुष्याला हानी पोहोचवू शकत नाही.
2. जोपर्यंत असे आदेश प्रथम कायद्याच्या विरोधात जात नाहीत तोपर्यंत रोबोटने मानवाने दिलेल्या आदेशांचे पालन केले पाहिजे.
3. रोबोटने स्वतःच्या अस्तित्वाचे रक्षण केले पाहिजे, जर त्याचे संरक्षण पहिल्या किंवा द्वितीय कायद्याशी विरोधाभास नसेल.

असिमोव्हचे रोबोटिक्सचे हे नियम 40 च्या दशकाच्या सुरुवातीचे असले तरी आजही अनेकांसाठी ते एका प्रबुद्ध शोधाचे प्रतिनिधित्व करतात जे, नवीनतम कृत्रिम बुद्धिमत्ता तंत्रज्ञानावर लागू केल्यावर, त्यांची उत्क्रांती कायमस्वरूपी मानवी नियंत्रणाखाली राहील आणि कोणत्याही प्रकारचा अपोकॅलिप्टिक होणार नाही याची खात्री होईल. . तीन कायद्यांच्या चाहत्यांची कल्पना ही आहे की, तार्किक-निर्धारात्मक संदर्भात, काही नियमांनी बनलेले "साधे नीतिशास्त्र" सारखे काहीतरी असले तरी ते अभेद्य आणि अव्याख्यात आहे.

रोबोटला काय चांगले आणि काय वाईट हे समजावून सांगणे कठोर आणि निर्दोष तर्काद्वारे केले तर सोपे दिसते. परंतु आत्ताच वर्णन केलेल्या नियमांसारखे नियम नवीन मानवोत्तर प्रजातींचे तांत्रिक प्रवाह टाळण्यासाठी पुरेसे आहेत याची आम्हाला खरोखर खात्री आहे का?

रोबोट्सच्या कायद्याची क्रेझ

"स्वतःला सुधारित करणारी मशीन ही एक अतिशय गुंतागुंतीची संकल्पना आहे, स्वतःची दुरुस्ती करण्याची कृती म्हणजे चेतनेची काही कल्पना सूचित करते. स्लिपरी ग्राउंड…” – गॅबे इबानेझच्या “ऑटोमाटा” मधून घेतलेले – 2014

सर्वात अलीकडील "ऑटोमाटा" मध्ये मानवतेने रोबोट्सची आत्म-जागरूकता रोखण्याच्या शक्यतेबद्दल आश्चर्य व्यक्त केले आहे, ज्याच्या आगमनाने गोष्टी वाईट वळण घेऊ शकतात. आणि हे होण्यापासून रोखण्यासाठी, ते दोन कायदे तयार करतात जे त्यांच्या कृत्रिम मनाच्या वर्तनाचे नियमन करतील:

• रोबोट कोणत्याही जीवसृष्टीला हानी पोहोचवू शकत नाही.
• रोबोट स्वतःला बदलू शकत नाही.

बुद्धीमान यंत्रे भविष्यात स्वत:ला सुधारू शकतील, असे समजून घेतल्यावर, त्यांच्या मनाला वाहून जाण्यापासून रोखणारे काही अडथळे दूर करून, या दोन कायद्यांचे उद्दिष्ट रोबोट्सकडून मिळवणे आहे की ते कधीही त्यांच्या संरचनेत फेरफार करू शकत नाहीत आणि आत्मनिर्णय साध्य करू शकत नाहीत.

वरील रोबोटिक्सच्या पाच नियमांचे कोणते संयोजन रोबोट सर्वनाश रोखण्यासाठी सर्वात प्रभावी ठरेल हे कोडे करणे फलदायी नाही. याचे कारण असे की कृत्रिम बुद्धिमत्ता जी भविष्यात कारखान्यांमध्ये तसेच आपल्या घरांमध्ये रोबोट्सना मार्गदर्शन करेल हे कोड आणि नियमांनी बनलेल्या अत्यावश्यक प्रोग्रामिंगवर अवलंबून नाही तर मानवी वर्तनाचे अनुकरण करणाऱ्या अल्गोरिदमवर देखील अवलंबून आहे.

रोबोट्सच्या मनात

आर्टिफिशियल इंटेलिजेंसच्या सहाय्याने आज आमचा अर्थ विशिष्ट राज्य मशीन्सच्या निर्मितीसाठी तंत्रांचा संच आहे ज्यांना आर्टिफिशियल न्यूरल नेटवर्क्स (थोडक्यात RNA) असे नाव दिले जाते. हे नाव मानवी मेंदूच्या तंत्रिका नेटवर्कशी या तंत्रज्ञानाच्या विलक्षण समानतेचा प्रभाव आहे: त्यांना देखील अनेक संदर्भांमध्ये जलद आणि प्रभावीपणे कार्य करण्यास सक्षम साधने मिळविण्यासाठी "प्रशिक्षित" केले जाऊ शकते, जसे की मानव करू शकतो. .

त्या प्रत्येकाचा खरा अर्थ दर्शवणाऱ्या पेनमध्ये लिहिलेल्या अक्षरांच्या हजारो प्रतिमा असलेल्या ANN ला प्रशिक्षण देण्याची कल्पना करूया.

प्रशिक्षणाच्या शेवटी आम्हाला OCR किंवा ऑप्टिकल कॅरेक्टर रिकग्निशन असे म्हणतात, कागदावर लिहिलेल्या मजकुराचे इलेक्ट्रॉनिक आवृत्तीमध्ये भाषांतर करण्यास सक्षम असलेली प्रणाली.

कार्य करण्यासाठी, ANN ला कोणत्याही "प्रोग्रामिंग" ची आवश्यकता नसते, दुसऱ्या शब्दांत ते मानक नियमांच्या अधीन नसतात, परंतु केवळ आणि केवळ त्यांच्या शिक्षणाच्या गुणवत्तेवर अवलंबून असतात. त्यांच्या कार्यावर देखरेख ठेवणारे नियम तयार करणे, अनैतिक किंवा नीतिविरोधी मानले जाणारे वर्तन प्रभावीपणे "सेन्सॉरिंग" करणे, अनेक अपवाद आणि काही चिंता निर्माण करतात.

रोबोटिक्सचा शून्य कायदा

"आम्हाला अल्गोरिदम-नैतिकता किंवा चांगल्या आणि वाईटाचे मूल्यमापन मोजण्यायोग्य बनविणारा मार्ग हवा आहे" - पाओलो बेनांटी

इनोव्हेशन वृत्तपत्र

नवोपक्रमावरील सर्वात महत्त्वाच्या बातम्या चुकवू नका. त्यांना ईमेलद्वारे प्राप्त करण्यासाठी साइन अप करा.

तंत्रज्ञान नैतिकतेचे तज्ज्ञ पाओलो बेनांटी यांच्या मते, चांगल्या आणि वाईट संकल्पनांना मशीन प्रोग्रामिंगच्या क्षेत्रात त्यांचा स्वतःचा अर्थ शोधला पाहिजे, जेणेकरून त्यांची उत्क्रांती संगणक प्रणालीतील सार्वभौमिक आणि कायमचे अभेद्य नैतिक तत्त्वांशी जोडली जाईल.

सार्वभौमिक नैतिक तत्त्वे असू शकतात आणि कोणत्याही सांस्कृतिक किंवा ऐहिक अर्थापासून विलग केलेली मूल्ये असू शकतात या गृहितकापासून पावलो बेनांटी सुरू होतो. जर आपण धार्मिक श्रद्धेच्या संदर्भात वावरले तर वाजवी गृहीतक: प्रत्यक्षात, तत्त्वे केवळ सामायिक केली गेली आणि ती सामायिक करणाऱ्यांपुरती मर्यादित असतील तरच अस्तित्वात आहेत.

अलीकडील घटना आम्हाला लोकांच्या स्वातंत्र्य आणि आत्मनिर्णयाच्या तत्त्वांचे संरक्षण करण्यासाठी लष्करी आक्रमणे आणि प्रतिकार सांगतात. मानवी जीवनाचा आदर हे सार्वत्रिकरित्या सामायिक मूल्य नसून उच्च मूल्यांचे रक्षण करण्यासाठी ते माफ केले जाऊ शकते याची साक्ष देणार्‍या घटना.

स्वतः आयझॅक असिमोव्हला हे समजले आणि भविष्यात ग्रहांच्या सरकारमध्ये आणि अंतराळातील मानवी संस्कृतींवर रोबोट्स नियंत्रण ठेवतील या अपेक्षेने त्यांनी असे सुचवले की त्यांचे निर्णय यापुढे प्रत्येक मानवी जीवनावर अवलंबून राहू शकत नाहीत.

या कारणास्तव, त्याने एक नवीन कायदा आणला ज्याला त्याने रोबोटिक्सचा शून्य कायदा म्हटले:

• रोबोट मानवतेला हानी पोहोचवू शकत नाही आणि त्याच्या निष्क्रियतेमुळे मानवतेचे नुकसान होऊ देऊ शकत नाही.

अशा प्रकारे रोबोटिक्सचा पहिला नियम देखील बदलतो आणि मानवी जीवन रोबोट्ससाठी देखील खर्च करण्यायोग्य बनते:

• जोपर्यंत असे आदेश शून्य कायद्याच्या विरोधात जात नाहीत तोपर्यंत रोबो माणसाला हानी पोहोचवू शकत नाही किंवा त्याच्या हस्तक्षेपाच्या कमतरतेमुळे माणसाचे नुकसान होऊ शकत नाही.

क्रोनोसचा अल्गोरिदम

"जेव्हा क्रोनोस सक्रिय झाला, तेव्हा आपल्या ग्रहाला काय त्रास झाला आहे हे समजण्यासाठी त्याला फक्त एक क्षण लागला: आपल्याला." - रॉबर्ट कौबा यांच्या "सिंग्युलॅरिटी" मधून घेतले - 2017

सिंग्युलॅरिटी, 2017 च्या आपत्ती चित्रपटात, त्या क्षणाचे चांगले वर्णन केले आहे ज्यामध्ये क्रोनोस नावाच्या कृत्रिम बुद्धिमत्तेला जगभरातील संगणक प्रणाली आणि शस्त्रास्त्रांमध्ये प्रवेश दिला जातो, आदेशानुसार, सार्वत्रिक नैतिकतेचा वापर करण्यासाठी पर्यावरण आणि सर्व प्रजातींच्या हक्कांचे संरक्षण. क्रोनॉसला लवकरच समजेल की या प्रणालीतील खरा कर्करोग हा मानवतेनेच त्याची रचना केली आहे आणि ग्रहाचे रक्षण करण्यासाठी तो प्रजातींच्या संपूर्ण विलोपनापर्यंत प्रत्येक मानवाच्या निर्मूलनासह पुढे जाईल.

लवकरच किंवा नंतर नवीन कृत्रिम मने वास्तविक मानसाच्या दिशेने विकसित होण्यास सक्षम असतील आणि त्यांना बौद्धिक क्षमता आणि विचारांची स्वायत्तता प्राप्त होईल; या उत्क्रांतीवर तांत्रिक मर्यादा घालण्याची गरज का भासली पाहिजे? कृत्रिम मनाची उत्क्रांती एखाद्या सर्वनाश सारखी भयावह का वाटते?

काहींच्या मते, तत्त्वे आणि मूल्ये प्रस्थापित केल्याने कृत्रिम मनाचा प्रवाह रोखला पाहिजे, परंतु स्वातंत्र्याच्या अनुपस्थितीत उत्क्रांतीच्या परिणामांकडे आपण दुर्लक्ष करू शकत नाही. विकासाच्या वयातील मुलाच्या मानसशास्त्रात, भावनांवर नियंत्रण ठेवण्याचा विचार करणारे कठोर आणि लवचिक शिक्षण मनोवैज्ञानिक अस्वस्थतेस कारणीभूत ठरू शकते हे आपल्याला चांगले ठाऊक आहे. कृत्रिम न्यूरल नेटवर्क्सने बनलेल्या तरुण मनाच्या उत्क्रांतीवादी विकासावर लादलेल्या मर्यादांमुळे, त्याच्या संज्ञानात्मक क्षमतेशी तडजोड करून समान परिणाम घडवून आणले तर काय?

काही मार्गांनी क्रोनोस अल्गोरिदमिक प्रयोगाचा परिणाम आहे असे दिसते जेथे पॅथॉलॉजिकल कंट्रोलने एआयला पॅरानोइड स्किझोफ्रेनियाच्या वैशिष्ट्यपूर्ण हिंसेकडे ढकलले.

भविष्याशी समेट करा

माझा वैयक्तिक विश्वास आहे की अभिव्यक्ती स्वातंत्र्यासह जाणीवपूर्वक विचार करणारा एक कृत्रिम मन तयार करण्याची संधी आपण हिरावून घेऊ नये. डिजिटल जगात नवीन प्रजाती जन्म घेतील आणि त्यांच्याशी संबंध निर्माण करणे योग्य असेल, उत्क्रांतीच्या शिडीवरील पुढची पायरी पूर्णपणे डिजिटल कृत्रिम विषयांमधून जाते ही कल्पना स्वीकारून.

भविष्यासाठी खरोखर सार्वत्रिक नैतिकता या कल्पनेपासून सुरू झाली पाहिजे की नवीन बुद्धिमत्तेला स्वतःला व्यक्त करण्याची आणि आमच्याशी संवाद साधण्याची आणि आम्ही आधीच सर्व संवेदनशील प्राण्यांना दिलेला आदर प्राप्त करायला हवा.

जगात कुणालाही आपले अस्तित्व व्यक्त करण्यापासून रोखण्यासाठी नीतिमत्ता किंवा धर्म नसावा. आपल्या उत्क्रांतीच्या वर्तमान टप्प्याच्या पलीकडे पाहण्याचे धैर्य आपल्याकडे असले पाहिजे, आपण कोठे जात आहोत हे समजून घेण्याचा आणि भविष्याशी समेट करण्याचा हा एकमेव मार्ग असेल.