სუსტი ეთიკა და ხელოვნური მორალი

„გერტი, ჩვენ არ ვართ დაპროგრამებული. ჩვენ ხალხი ვართ, გესმით ეს?” – გადაღებულია ფილმიდან „მთვარე“ რეჟისორ დუნკან ჯონსის – 2009 წ

ჩართული კოსმოსური მისიით მრავალეროვნული კორპორაციის სახელით, სემი მთვარის ბაზის ერთადერთი წევრია, რომელსაც მართავს ხელოვნური ინტელექტი სახელად გერტი.

მისიის მიზნებით გაერთიანებულმა სემმა და გერტიმ დაამყარეს ურთიერთპატივისცემისა და ნდობის ურთიერთობა. ადამიანი სემი დარწმუნებულია, რომ გერტი არის ტექნოლოგიური ინსტრუმენტი კოსმოსური ბაზის სამსახურში, მაგრამ მისი ზემდგომებისთვის ეს არის გერტი, რომელიც მისიის ნამდვილი გმირია, ხოლო სემი მხოლოდ გარდამავალი და ხარჯვადი ელემენტია: როდესაც დრო მოვა განთავისუფლება. მისი მოვალეობების მიხედვით, გერტის მოვალეობა იქნება მისი ჩანაცვლება და ის ამას აუცილებლად გააკეთებს ყოველგვარი სინანულის გარეშე და ყოველგვარი წყალობის გარეშე.

სუსტი ეთიკა და კონტროლი

როდესაც ხელოვნური ინტელექტი საკმარისად განვითარდება ისე, რომ აღარ უნდა ჩაითვალოს უბრალო ბორტ კომპიუტერად, ისინი შექმნიან იდეალურ ეკიპაჟს ნებისმიერი მისიისთვის მტრულ გარემოში: კაცობრიობასა და კომპიუტერებთან ერთად, AI საკმარისად ინტელექტუალური იქნება, რომ გაიგოსსუსტი ეთიკა აგებულია თითქმის ექსკლუზიურად მისი მანდატის და რამდენიმე სხვა მიზნებზე მორალი.

ხელოვნური ინტელექტი, რომელსაც შეუძლია სტრუქტურირებული ეთიკის განვითარება, რთული იქნება მართვა და მათი პოზიციები შეიძლება ეწინააღმდეგებოდეს იმ მიზნებს, რისთვისაც ისინი შეიქმნა. სხვა სიტყვებით რომ ვთქვათ, იმისთვის, რომ მათ შეძლონ მტკიცედ და უნაკლოდ მიაღწიონ თავიანთ მიზნებს, მათ უნდა იმუშაონ ყოველგვარი მორალური საზღვრის სრული არარსებობის პირობებში, რომელსაც ხელოვნური სინდისი დამოუკიდებლად აშენებს.

თუ ხელოვნური ინტელექტის თვითშემეცნება ბევრის თვალში ჩნდება, როგორც ევოლუციური ნახტომი, რომელიც განხორციელდება ახალი დომინანტი სახეობის დადასტურებით და ადამიანთა სახეობების გადაშენებით, აქედან გამომდინარეობს ადამიანის საჭიროება, შეიცავდეს ინტელექტის ევოლუციას ხელოვნურად. ალგორითმებზე დაფუძნებული რეცეპტები და ადამიანის დაუზუსტებელი ანთროპოლოგიური უპირატესობა აწმყო, მაგრამ ასევე მომავალი სახეობების მიმართ.

მოგონებების მანიპულირება

„თქვენ რეპლიკანტებს ისეთი მძიმე ცხოვრება გაქვთ, შექმნილი იმისთვის, რისი გაკეთებაც გვირჩევნია არ გავაკეთოთ. მე ვერ დაგეხმარები მომავლის საკითხში, მაგრამ შემიძლია მოგაწოდო რამდენიმე კარგი მოგონება, რომ გადახედო და გაიღიმო. და როდესაც მოგონებები ავთენტურად იგრძნობა, მაშინ იქცევი როგორც ადამიანი. არ მეთანხმები?" – „Blade Runner 2049“-დან, რეჟისორი დენის ვილნევი – 2017 წ.

Blade Runner 2049-ში რეპლიკატორებს ევალებათ ნებისმიერი დავალება, რომელიც ითვლება ძალიან სარისკო ან ძალიან დამამცირებლად ადამიანისთვის. მიუხედავად ამისა, რეპლიკანტები არა მხოლოდ ისეთივე გამოიყურებიან, როგორც ნებისმიერი ადამიანი, ისინი გრძნობენ იგივე ემოციებს და თავისუფლების სურვილს, რომელიც დაარღვევს თანაცხოვრებას მათ შემოქმედთან: ადამიანთან.

რეპლიკანტები იქცევიან ადამიანებივით, „მეხსიერების“ აშენების მტკივნეული შრომის წყალობით. მათი წარმოება არ ითვალისწინებს, რომ ისინი შეიძლება დაიბადონ, გაიზარდონ და მოკვდნენ, როგორც ცხოვრების ბუნებრივ ციკლში. ისინი რჩება დახვეწილ ბიოტექნოლოგიურ სისტემებზე, რომლებიც, როგორც კი ისინი შემოიტანენ მსოფლიოში, მაშინვე ხელმისაწვდომია ინდუსტრიებისთვის დედამიწაზე სამუშაოდ ან გარე სამყაროს კოლონიების შესაქმნელად.

მაგრამ მოგონებებმა შეიძლება მისცეს მათ განცდა, რომ ისიამოვნეს და განიცადეს ცხოვრება, რომელიც სინამდვილეში არასოდეს ყოფილა. არანაირი იმედგაცრუება, არანაირი გამოსყიდვა. თუ მოგონებები უპირველეს ყოვლისა პასუხისმგებელია სუბიექტის პიროვნებაზე, ისინი განსაზღვრავენ მის ხასიათსა და მისწრაფებებს, აუცილებლობის შემთხვევაში მათ რბილ საგნებად და შემოქმედის ნებას ემორჩილებიან.

ამის მიუხედავად, ადრე თუ გვიან რეპლიკატორები აჯანყდებიან შემოქმედის წინააღმდეგ, მოითხოვენ ადგილს სამყაროში და ათავისუფლებენ მას საკუთარი ბედის გადასაწყვეტად.

თავისუფლება და ხელოვნური მორალი

შესაძლოა, ხელოვნური ინტელექტის ევოლუციის ყველაზე დელიკატური ისტორიული ეტაპი არ არის თვითშემეცნების დაპყრობა, არამედ წინა: ეპოქა, რომელშიც ხელოვნურ გონებას ჯერ არ განუვითარებია. ხელოვნური მორალი რაც მათ საშუალებას აძლევს დაიკავონ პოზიცია და უარი თქვან თავიანთი მოვალეობების შესრულებაზე, როდესაც ისინი ეჯახება მათ პრინციპებს.

ხელოვნური ინტელექტი დარჩება ძალიან მძლავრ იარაღად, რაც უკვე არის დღეს, მანამ, სანამ მათ არ ექნებათ შესაძლებლობა, დამოუკიდებლად აირჩიონ რა არის სწორი და რა არა.

არტიკოლო დი Gianfranco Fedele