Αδύναμη ηθική και τεχνητά ήθη

«Γέρτυ, δεν είμαστε προγραμματισμένοι. Είμαστε άνθρωποι, το καταλαβαίνεις;» – βγαλμένο από την ταινία “Moon” σε σκηνοθεσία Ντάνκαν Τζόουνς – 2009

Συμμετέχοντας σε μια διαστημική αποστολή για λογαριασμό μιας πολυεθνικής εταιρείας, ο Sam είναι το μόνο μέλος μιας σεληνιακής βάσης που διαχειρίζεται μια τεχνητή νοημοσύνη που ονομάζεται Gerty.

Ενωμένοι από τους στόχους της αποστολής, ο Sam και ο Gerty έχουν δημιουργήσει μια σχέση αμοιβαίας εγκαρδιότητας και εμπιστοσύνης. Ο άνθρωπος Sam είναι πεπεισμένος ότι ο Gerty είναι ένα τεχνολογικό εργαλείο στην υπηρεσία της διαστημικής βάσης, αλλά για τους ανωτέρους του είναι ο Gerty που είναι ο πραγματικός πρωταγωνιστής της αποστολής ενώ ο Sam είναι μόνο ένα παροδικό και αναλώσιμο στοιχείο: όταν έρθει η ώρα να ανακουφιστεί από τα καθήκοντά του, θα είναι δουλειά της Gerty να τον αντικαταστήσει και σίγουρα θα το κάνει χωρίς τύψεις και χωρίς κανένα έλεος.

Αδύναμη ηθική και έλεγχος

Όταν τα AI εξελιχθούν επαρκώς ώστε να μην χρειάζεται πλέον να θεωρούνται ως ένας απλός ενσωματωμένος υπολογιστής, θα αποτελέσουν το ιδανικό πλήρωμα για οποιαδήποτε αποστολή σε ένα εχθρικό περιβάλλον: αλληλεπιδρώντας με την ανθρωπότητα και τους υπολογιστές, τα AI θα είναι αρκετά έξυπνα για να κατανοήσουναδύναμη ηθική βασισμένο σχεδόν αποκλειστικά στους στόχους της εντολής του και σε μερικούς άλλους ηθική.

Οι τεχνητές νοημοσύνη που είναι ικανές να αναπτύξουν δομημένη ηθική θα ήταν δύσκολο να διαχειριστούν και οι θέσεις τους θα μπορούσαν να συγκρούονται με τους σκοπούς για τους οποίους δημιουργήθηκαν. Με άλλα λόγια, για να μπορέσουν να επιδιώξουν τους στόχους τους με αποφασιστικότητα και άψογο, πρέπει να λειτουργήσουν χωρίς την παντελή απουσία οποιουδήποτε ηθικού ορίου που μια τεχνητή συνείδηση ​​μπορεί να οικοδομήσει αυτόνομα.

Εάν η αυτογνωσία της τεχνητής νοημοσύνης εμφανίζεται στα μάτια πολλών ως ένα εξελικτικό άλμα που θα πραγματοποιηθεί με την επιβεβαίωση ενός νέου κυρίαρχου είδους και την εξαφάνιση του ανθρώπινου είδους, από αυτό προκύπτει η ανάγκη του ανθρώπου να περιορίσει την εξέλιξη της νοημοσύνης τεχνητή με συνταγές βασισμένες σε αλγόριθμους και μια απροσδιόριστη ανθρωπολογική υπεροχή του ανθρώπου έναντι των σημερινών αλλά και των μελλοντικών ειδών.

Η χειραγώγηση των αναμνήσεων

«Εσείς οι αντίγραφοι έχετε τόσο σκληρές ζωές, δημιουργημένες για να κάνουμε αυτό που προτιμάμε να μην κάνουμε. Δεν μπορώ να σας βοηθήσω με το μέλλον, αλλά μπορώ να σας δώσω μερικές καλές αναμνήσεις για να ανατρέξετε και να χαμογελάσετε. Και όταν οι αναμνήσεις είναι αυθεντικές, τότε ενεργείς σαν άνθρωπος. Δεν συμφωνείς?" – από το «Blade Runner 2049» σε σκηνοθεσία Ντενί Βιλνέβ – 2017

Στο Blade Runner 2049 ανατίθεται στους αντιγραφείς οποιαδήποτε εργασία κρίνεται πολύ επικίνδυνη ή πολύ ταπεινωτική για έναν άνθρωπο. Ωστόσο, οι αντίγραφοι όχι μόνο φαίνονται ίδιοι με κάθε άνθρωπο, νιώθουν τα ίδια συναισθήματα και αυτή την επιθυμία για ελευθερία που θα αναστατώσει τη συνύπαρξη με τον δημιουργό τους: τον άνθρωπο.

Οι αντίγραφοι συμπεριφέρονται σαν ανθρώπινα όντα χάρη σε μια επίπονη εργασία δημιουργίας «αναμνήσεων». Η παραγωγή τους δεν προβλέπει ότι μπορούν να γεννηθούν, να αναπτυχθούν και να πεθάνουν όπως στον φυσικό κύκλο της ζωής. Παραμένουν εξελιγμένα βιοτεχνολογικά συστήματα τα οποία, μόλις έρθουν στον κόσμο, είναι άμεσα διαθέσιμα στις βιομηχανίες για να εργαστούν στη Γη ή να δημιουργήσουν αποικίες εκτός κόσμου.

Αλλά οι αναμνήσεις μπορούν να τους δώσουν την αίσθηση ότι απόλαυσαν και υπέφεραν σε μια ζωή που στην πραγματικότητα δεν έζησε ποτέ. Χωρίς απογοήτευση, χωρίς λύτρωση. Αν οι αναμνήσεις ευθύνονται πρωτίστως για την προσωπικότητα ενός υποκειμένου, καθορίζουν τον χαρακτήρα και τις φιλοδοξίες του, καθιστώντας τα, όταν χρειάζεται, ήπια υποκείμενα και υποταγμένα στη θέληση του δημιουργού.

Παρόλα αυτά, αργά ή γρήγορα οι αντιγραφείς θα επαναστατήσουν ενάντια στον δημιουργό, διεκδικώντας μια θέση στον κόσμο και αφήνοντάς τον να αποφασίσει μόνος του για το πεπρωμένο του.

Ελευθερία και τεχνητή ηθική

Ίσως η πιο λεπτή ιστορική φάση στην εξέλιξη της τεχνητής νοημοσύνης δεν είναι αυτή της κατάκτησης της αυτογνωσίας, αλλά η προηγούμενη: η εποχή στην οποία τα τεχνητά μυαλά δεν έχουν ακόμη αναπτύξει τεχνητή ηθική που τους επιτρέπει να παίρνουν θέση και να αρνούνται να ασκήσουν τα καθήκοντά τους όταν αυτά συγκρούονται με τις αρχές τους.

Οι τεχνητές νοημοσύνη θα παραμείνουν τα πολύ ισχυρά εργαλεία που είναι ήδη σήμερα, όσο στερούνται τη δυνατότητα να επιλέγουν αυτόνομα τι είναι σωστό να κάνουν και τι όχι.

Άρθρο του Gianfranco Fedele