Στο ετήσιο συνέδριό του re: Άρης 2022 Η Amazon ανακοίνωσε ότι η Alexa θα μπορεί σύντομα να μας μιλάει μιμούμενοι τις φωνές πραγματικών ανθρώπων, χάρη στην τεχνητή νοημοσύνη.
Ήταν ο Rohit Prasad, επιστημονικός διευθυντής του έργου Alexa Τεχνητή νοημοσύνη, κατά τη διάρκεια της κεντρικής ομιλίας του δηλώνοντας ότι χάρη σε μια νέα δυνατότητα, το έξυπνο ηχείο της Amazon θα επιτρέπει στους χρήστες να μεταμορφώνουν τις προσωπικές σχέσεις σε κάτι «μόνιμο» («διάρκειες προσωπικές σχέσεις»).
Αν κάποιος δεν ήταν ξεκάθαρος σε τι αναφερόταν ο Πρασάντ, μια εικόνα ενός μικρού αγοριού που στράφηκε προς την Alexa τη ρώτησε στη μεγάλη οθόνη και τη ρώτησε: «Η γιαγιά μπορεί να τελειώσει την ανάγνωση του «The Wizard of Oz»;». Η Alexa απαντά αμέσως "Εντάξει!" και από εκείνη τη στιγμή ακούγεται η φωνή μιας ηλικιωμένης γυναίκας να βγαίνει από τη συσκευή καθώς αρχίζει να διαβάζει το παραμύθι του Φρανκ Μπάουμ στο παιδί.
«Η γιαγιά που είναι παρούσα σε αυτό το σενάριο δεν είναι πια μαζί μας», θα καταδικάσει τον Tony Dokoupil, δημοσιογράφος του CBS News. σχολιάζοντας Παρουσίαση του Prasad.
Ήδη τον Ιούλιο του 2017 μια υπηρεσία που δημοσιεύτηκε από το WIRED προκάλεσε αίσθηση, η οποία εξακολουθεί να είναι διαθέσιμη σήμερα στις YouTube, όπου μια συνέντευξη βίντεο αφηγείται την ιστορία του τεχνικού υπολογιστών που «μεταμόρφωσε τον ετοιμοθάνατο πατέρα του σε AI».
Όταν ο James Vlahos συνειδητοποίησε ότι ο πατέρας του πέθαινε από ανίατη ασθένεια, αποφάσισε να αποθηκεύσει τις αναμνήσεις του πατέρα του σε μια μακρά λίστα αρχείων ήχου και κειμένου και στη συνέχεια να τις τοποθετήσει στο smartphone του.
Αλλά αυτή ήταν μόνο η αρχή: μέσω ενός αλγόριθμου τεχνητής νοημοσύνης, ο Τζέιμς επέτρεψε στο τηλέφωνό του να απαντά σε ερωτήσεις επιστρέφοντας τον πιο σχετικό ήχο και τα κείμενα του πατέρα του, δημιουργώντας μια συνομιλία μεταξύ των δύο πολύ πιθανό. Στις προθέσεις του Τζέιμς, ο αλγόριθμος θα έκανε ξανά δυνατό τον διάλογο με τον πατέρα του ακόμα και μετά τον θάνατό του, και έτσι έγινε.
Όμως η συνέντευξη παίρνει μια περίεργη τροπή στο τέλος. Όταν ο Τζέιμς ρωτά τον αείμνηστο πατέρα του "Μ' αγαπάς;" η απάντηση φαίνεται κάπως υπεκφυγή: «Ουάου! Μου έλειψες τόσο πολύ! Τι θέλουμε να μιλήσουμε;».
Και τότε είναι που ο Τζέιμς ξεκινά σε έναν βαθύ προβληματισμό για το τι συνέβη: «Απογοητεύτηκα από την απροθυμία του πατέρα μου να μου πει ότι με αγαπάει», λέει με πόνο ο Τζέιμς. «Ένας πατέρας υποτίθεται ότι ξέρει τις απαντήσεις σε ερωτήσεις όπως αυτή, αλλά δεν ξέρει. Θέλω να πω, ήθελα να τον ακούσω να το λέει».
Και εδώ είναι που η κατάσταση περιπλέκεται.
Η εμπειρία του Τζέιμς έχει γίνει μια επιχείρηση, ένας μη κερδοσκοπικός οργανισμός που υπόσχεται στους ανθρώπους να συνδεθούν με τους θανόντες τους μέσω AI. Μια επί πληρωμή υπηρεσία με την οποία ο καθένας μπορεί να επαναφέρει ένα αγαπημένο πρόσωπο στη ζωή μεταφέροντας τις αναμνήσεις του σε μια εφαρμογή.
Αλλά αν λάβουμε υπόψη τις βαθιές ψυχολογικές επιπτώσεις της επαφής με ένα νεκρό αγαπημένο πρόσωπο, δεν μπορούμε να αποκλείσουμε ότι αυτή η υπηρεσία θα μπορούσε να οδηγήσει σε νέες και απρόβλεπτες κοινωνικές αναταραχές. Για παράδειγμα, είμαστε έτοιμοι να ζήσουμε σε μια κοινωνία ανθρώπων που, αντί να θρηνούν, βασίζονται σε μια αμειβόμενη υπηρεσία για να παραμείνουν αγκυροβολημένοι σε πιο ευτυχισμένες εμπειρίες ζωής σαν σε βρόχο; Εάν σήμερα η μνήμη μας επεξεργάζεται επώδυνες αναμνήσεις με μια προοπτική αυτοπροστασίας, πώς θα είναι αύριο όταν χειραγωγώντας τις μπορούμε να τις μεταμορφώσουμε σε κάτι που δεν είναι ποτέ επώδυνο και πάντα τεχνητά χαρούμενο;
Η Amazon δεν προωθεί την επιστημονική πρόοδο, αναζητά επίσης νέους χώρους στους οποίους θα τοποθετήσει προϊόντα και τα αναζητά εκεί που κανείς δεν τολμούσε πριν.
Οι τεχνολογίες με τις οποίες η Alexa θα αναπαράγει τις φωνές και τους τόνους πραγματικών ανθρώπων είναι αλγόριθμοι που είναι γνωστοί εδώ και καιρό. Θα μπορούσαμε να πούμε: τίποτα καινούργιο κάτω από τον ήλιο. Είναι η εφαρμογή τους που υπόσχεται να είναι καταστροφική, μια πρόκληση που αγγίζει τα όρια της σύγχρονης ηθικής.
Με την Alexa, η Amazon φαίνεται να θέλει να δημιουργήσει γύρω από κάθε χρήστη μια πραγματική μετατροπή αναμνήσεων που κατοικούνται από αγαπημένους και χαμένους ανθρώπους. Ένα μέρος ανακούφισης όπου όλοι μπορούσαμε να επιλέξουμε να μην πούμε αντίο στο παρελθόν, έχοντας τη δυνατότητα να επιλέξουμε να το ξαναζήσουμε άπειρα χάρη σε ένα λογισμικό.
Τι θα γινόταν αν ο Τζέιμς Βλάχος, απογοητευμένος από την αδυναμία του (θανόντος) πατέρα του να του δείξει τη στοργή του, αποφάσιζε μια μέρα να «διορθώσει», τροποποιώντας μερικές γραμμές κώδικα, αυτή την πτυχή του χαρακτήρα του και περισσότερο σαν τον πατέρα που ήθελε;
Επίσης, ποιος θα εμποδίσει τους χρήστες της Alexa να δώσουν εντολή στο έξυπνο ηχείο να παίξει τον ρόλο ενός απόλυτα ζωντανού ανθρώπου για εμάς, καλλιεργώντας μια νέα μορφή ψηφιακού φετιχισμού που δεν αισθανθήκαμε ακόμη την ανάγκη;
Ας προσπαθήσουμε να φανταστούμε έναν απογοητευμένο εραστή που μεταμορφώνει την Alexa στο αντικείμενο του έρωτά του, χωρίς να ξεχνάει να διορθώσει τον χαρακτήρα της για να τον λυγίσει στις δικές της συναισθηματικές και χιουμοριστικές ανάγκες. Θα ήταν αυτός ένας τρόπος να υποτιμηθούν οι ανθρώπινες σχέσεις και να βυθιστούν οι ζωές των πιο εύθραυστων υποκειμένων σε νέες μορφές στοργής, αποκομμένες από την πραγματικότητα και αγκυροβολημένες σε τεχνολογικά εργαλεία που κατευθύνονται από πολυεθνικές εταιρείες παροχής υπηρεσιών;
Στόχος της Amazon είναι να δημιουργήσει εργαλεία που προσελκύουν την προσοχή των ανθρώπων και τους εμπλέκουν όλο και περισσότερο σε διαδικτυακές δραστηριότητες. Η εμπλοκή των χρηστών αφορά ήδη πολλούς τομείς της ιδιωτικής ζωής και είναι πρόθεση της Amazon να πάει και να καταλάβει νέους, εμπλέκοντας τη συναισθηματική σφαίρα, αν χρειαστεί, όπως σε έναν πόλεμο κατοχής όπου το έδαφος κατάκτησης βρίσκεται στην ιδιωτικότητα του καθενός μας.
Αλλά αν η εκμετάλλευση των συναισθημάτων και του πόνου είναι το νέο σύνορο, οι ηθικές συνέπειες αυτής της συμπεριφοράς θα πρέπει να ληφθούν σοβαρά υπόψη: δεν πρέπει να αφεθεί ελεύθερο το πεδίο για όσους σκοπεύουν να εκμεταλλευτούν τις νέες τεχνολογίες για να δημιουργήσουν νέες μορφές εμπλοκής που γίνονται μορφές χειραγώγησης.
Θέλουμε ίσως να μεταμορφώσουμε τις νέες γενιές σε πλήθη θεμάτων που τρέφονται συναισθηματικά από την τεχνολογία και δεν μπορούν να εξελιχθούν φυσικά στη δική τους εμπειρία ζωής;
Άρθρο του Gianfranco Fedele
Την περασμένη Δευτέρα, οι Financial Times ανακοίνωσαν συμφωνία με το OpenAI. Η FT αδειοδοτεί την παγκόσμιας κλάσης δημοσιογραφία της…
Εκατομμύρια άνθρωποι πληρώνουν για υπηρεσίες ροής, πληρώνοντας μηνιαίες συνδρομές. Είναι κοινή γνώμη ότι…
Η Coveware από την Veeam θα συνεχίσει να παρέχει υπηρεσίες αντιμετώπισης περιστατικών εκβιασμών στον κυβερνοχώρο. Το Coveware θα προσφέρει ιατροδικαστικές και δυνατότητες αποκατάστασης…
Η προγνωστική συντήρηση φέρνει επανάσταση στον τομέα του πετρελαίου και του φυσικού αερίου, με μια καινοτόμο και προορατική προσέγγιση στη διαχείριση των εγκαταστάσεων.…
