ხელოვნური ინტელექტი მიცვალებულთა გარიჟრაჟზე

თავის ყოველწლიურ კონფერენციაზე რე: მარსი 2022 წელი Amazon-მა გამოაცხადა, რომ Alexa მალე შეძლებს ჩვენთან საუბარს რეალური ადამიანების ხმის მიბაძვით, ხელოვნური ინტელექტის წყალობით.

ეს იყო როჰიტ პრასადი, Alexa პროექტის სამეცნიერო ხელმძღვანელი ხელოვნური ინტელექტი, მისი კონფერენციის დროს განაცხადა, რომ ახალი ფუნქციის წყალობით, Amazon ჭკვიანი სპიკერი მომხმარებლებს საშუალებას მისცემს გადააქციონ პირადი ურთიერთობები რაღაც „მუდმივ“ („გრძელვადიანი პირადი ურთიერთობები“).

თუ ვინმეს გაუგებარია, რას გულისხმობდა პრასადი, პატარა ბიჭის გამოსახულება, რომელიც ალექსას მიუბრუნდა, ჰკითხა მას დიდ ეკრანზე და ჰკითხა: "ბებიას შეუძლია დაასრულოს "ოზის ჯადოქრის" კითხვა?". Alexa მყისიერად პასუხობს "Ok!" და იმ მომენტიდან ხანშიშესული ქალის ხმა ისმის, რომელიც ბავშვს ფრენკ ბაუმის ზღაპრის კითხვას იწყებს.

"ამ სცენარში მყოფი ბებია ჩვენთან აღარ არის", - ალგიდს განაჩენს CBS News-ის ჟურნალისტი ტონი დოკუპილი. კომენტირებისას პრასადის პრეზენტაცია.

ყოველთვის არის პირველი შემთხვევა

უკვე 2017 წლის ივლისში WIRED-ის მიერ გამოქვეყნებულმა სერვისმა გამოიწვია სენსაცია, რომელიც დღესაც ხელმისაწვდომია YouTube, სადაც ვიდეო ინტერვიუ მოგვითხრობს კომპიუტერის ტექნიკოსის ისტორიას, რომელმაც "მომაკვდავი მამა AI-ად გადააქცია".

როდესაც ჯეიმს ვლაჰოსმა გააცნობიერა, რომ მამამისი განუკურნებელი დაავადებით კვდებოდა, გადაწყვიტა მამის მოგონებები შეენახა აუდიო და ტექსტური ფაილების გრძელ სიაში, შემდეგ კი თავის სმარტფონში განეთავსებინა.

მაგრამ ეს მხოლოდ დასაწყისი იყო: ხელოვნური ინტელექტის ალგორითმის მეშვეობით ჯეიმსმა მისცა ტელეფონს კითხვებზე პასუხის გაცემის საშუალება მამის ყველაზე აქტუალური აუდიო და ტექსტების დაბრუნებით, რაც, სავარაუდოდ, ორს შორის საუბრის წარმოქმნით. ჯეიმსის განზრახვებში, ალგორითმი მამასთან დიალოგს კვლავ შესაძლებელი გახადა მისი სიკვდილის შემდეგაც და ასეც იყო.

მაგრამ ინტერვიუ ბოლოს უცნაურ ვითარებას იღებს. როდესაც ჯეიმსი ეკითხება თავის გარდაცვლილ მამას: "გიყვარვარ?" პასუხი ცოტა მორიდებით ჩანს: „ვაი! ძალიან მომენატრე! რაზე გვინდა ვისაუბროთ?".

და სწორედ მაშინ იწყებს ჯეიმსი ღრმა ფიქრს იმაზე, რაც მოხდა: "მე იმედგაცრუებული ვიყავი მამაჩემის უხალისობით, რომ მეთქვა, რომ ვუყვარვარ." - ამბობს ჯეიმსი ტკივილით. „მამამ უნდა იცოდეს მსგავს კითხვებზე პასუხი, მაგრამ არ იცის. ვგულისხმობ, მინდოდა მომესმინა მისი ნათქვამი."

და აქ სიტუაცია რთულდება.

მარყუჟში შევიდა

ჯეიმსის გამოცდილება იქცა ბიზნესად, არაკომერციულ ორგანიზაციად, რომელიც ადამიანებს ჰპირდება დაკავშირებას გარდაცვლილებთან ხელოვნური ინტელექტის საშუალებით. ფასიანი სერვისი, რომლითაც ნებისმიერ მსურველს შეუძლია საყვარელი ადამიანის სიცოცხლე დააბრუნოს მისი მოგონებების აპლიკაციაში გადატანით.

მაგრამ თუ გავითვალისწინებთ გარდაცვლილ საყვარელ ადამიანთან კონტაქტის ღრმა ფსიქოლოგიურ შედეგებს, ვერ გამოვრიცხავთ, რომ ამ სერვისმა შეიძლება გამოიწვიოს ახალი და არაპროგნოზირებადი სოციალური აჯანყება. მაგალითად, მზად ვართ ვიცხოვროთ ადამიანების საზოგადოებაში, რომლებიც გლოვის ნაცვლად ეყრდნობიან ფასიან მომსახურებას, რათა დარჩეს ბედნიერი ცხოვრებისეული გამოცდილების მარყუჟში? თუ დღეს ჩვენი მეხსიერება ამუშავებს მტკივნეულ მოგონებებს თვითდაცვის პერსპექტივით, როგორი იქნება ხვალ, როცა მათი მანიპულირებით შევძლებთ მათ გარდაქმნას ისეთად, რაც არასდროს მტკივნეულია და ყოველთვის ხელოვნურად ბედნიერად?

Amazon არ უწყობს ხელს მეცნიერულ პროგრესს, ის ასევე ეძებს ახალ სივრცეებს, რომლებშიც განათავსებს პროდუქტებს და ეძებს მათ იქ, სადაც მანამდე ვერავინ ბედავდა.

ტექნოლოგიები, რომლებითაც Alexa რეპროდუცირებს რეალური ადამიანების ხმებსა და ტონებს, არის ალგორითმები, რომლებიც დიდი ხანია ცნობილია. შეგვიძლია ვთქვათ: არაფერი ახალი მზის ქვეშ. სწორედ მათი გამოყენება გვპირდება იყოს დესტრუქციული, პროვოკაცია, რომელიც აღწევს თანამედროვე ეთიკის საზღვრებს.

Alexa-სთან ერთად, Amazon-ს, როგორც ჩანს, სურს თითოეული მომხმარებლის გარშემო შექმნას მოგონებების რეალური მეტავერსია, რომელიც დასახლებულია საყვარელი და დაკარგული ადამიანებით. განმუხტვის ადგილი, სადაც ჩვენ ყველას შეგვეძლო ავირჩიოთ არ დავემშვიდობოთ წარსულს, შეგვეძლო ავირჩიოთ მისი უსაზღვროდ გაცოცხლება პროგრამული უზრუნველყოფის წყალობით.

სიტუაცია რთულდება

რა მოხდებოდა, თუ ჯეიმს ვლაჰოსმა, იმედგაცრუებულმა (გარდაცვლილი) მამის უუნარობით გამოავლინოს მისთვის სიყვარული, გადაწყვეტს ერთ დღეს „გამოასწოროს“ კოდის რამდენიმე სტრიქონის შეცვლით მისი პერსონაჟის ეს ასპექტი და უფრო მეტად დაემსგავსოს მას, რაც მას სურდა?

ასევე, ვინ შეაჩერებს Alexa-ს მომხმარებლებს, დაევალებინათ ჭკვიანი სპიკერი, შეასრულოს ჩვენთვის სრულყოფილად ცოცხალი ადამიანის როლი, აღზარდოს ციფრული ფეტიშიზმის ახალი ფორმა, რომლის აუცილებლობა ჯერ კიდევ არ გვიგრძვნია?

შევეცადოთ წარმოვიდგინოთ იმედგაცრუებული შეყვარებული, რომელიც ალექსას აქცევს თავისი სიყვარულის ობიექტად, არ ავიწყდება მისი პერსონაჟის გამოსწორება, რათა ის საკუთარ ემოციურ და იუმორულ საჭიროებებს მოერგოს. იქნება ეს გზა ადამიანური ურთიერთობების გაუფასურებისა და ყველაზე მყიფე სუბიექტების ცხოვრების ახალი სიყვარულის ფორმებში ჩაძირვის, რეალობისგან მოწყვეტილი და მრავალეროვნული მომსახურების კომპანიების მიერ მართულ ტექნოლოგიურ ინსტრუმენტებზე მიმაგრებული?

Მაგრამ რატომ?

Amazon-ის მიზანია შექმნას ინსტრუმენტები, რომლებიც მიიპყრობენ ადამიანების ყურადღებას და უფრო მეტად ჩაერთვებიან ონლაინ აქტივობებში. მომხმარებლების ჩართვა უკვე ეხება პირადი ცხოვრების ბევრ სფეროს და Amazon-ის განზრახვაა წავიდეს და დაიკავოს ახლები, საჭიროების შემთხვევაში სენტიმენტალურ სფეროს ჩაერთოს, როგორც საოკუპაციო ომში, სადაც დაპყრობის ადგილი თითოეული ჩვენგანის კონფიდენციალურობაშია.

მაგრამ თუ გრძნობებისა და ტკივილის ექსპლუატაცია ახალი საზღვარია, ამ ქცევის ეთიკური შედეგები სერიოზულად უნდა იქნას განხილული: ველი არ უნდა დარჩეს თავისუფალი მათთვის, ვინც აპირებს გამოიყენოს ახალი ტექნოლოგიები ჩართულობის ახალი ფორმების შესაქმნელად, რომლებიც მანიპულირების ფორმებად იქცევა.

გვსურს თუ არა ახალი თაობების გადაქცევა საგნების ბრბოდ, რომლებიც სენტიმენტალურად საზრდოობენ ტექნოლოგიებით და არ შეუძლიათ ბუნებრივად განვითარება საკუთარ ცხოვრებისეულ გამოცდილებაში?

არტიკოლო დი Gianfranco Fedele