Εκτιμώμενος χρόνος ανάγνωσης: 9 λεπτά
Στις αρχές του 2023, το δημοφιλές και αμφιλεγόμενο chatbot ChatGPT του OpenAI αντιμετώπισε ένα σημαντικό νομικό πρόβλημα: μια αποτελεσματική απαγόρευση στην Ιταλία. Η Ιταλική Αρχή Προστασίας Δεδομένων (GPDP) κατηγόρησε το OpenAI για παραβίαση των κανόνων προστασίας δεδομένων της ΕΕ και η εταιρεία συμφώνησε να περιορίσει την πρόσβαση στην υπηρεσία στην Ιταλία καθώς προσπαθεί να επιλύσει το πρόβλημα. Στις 28 Απριλίου, το ChatGPT επέστρεψε στη χώρα, με το OpenAI να αντιμετωπίζει ελαφρά τις ανησυχίες του GPDP χωρίς να κάνει σημαντικές αλλαγές στην υπηρεσία του – μια προφανής νίκη.
Το GPDP επιβεβαίωσε για να «καλωσορίσουμε» τις αλλαγές που έγιναν από το ChatGPT. Ωστόσο, τα νομικά ζητήματα της εταιρείας — και εκείνα των εταιρειών που κατασκευάζουν παρόμοια chatbots — μάλλον μόλις ξεκινούν. Οι ρυθμιστικές αρχές σε πολλές χώρες διερευνούν πώς αυτά τα εργαλεία τεχνητής νοημοσύνης συλλέγουν και παράγουν πληροφορίες, αναφέροντας μια σειρά από ανησυχίες από εταιρείες που συλλέγουν δεδομένα εκπαίδευσης χωρίς άδεια έως την τάση των chatbot να διαδίδουν παραπληροφόρηση.
Στην ΕΕ επιβάλλουν τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR), ένα από τα πιο ισχυρά νομικά πλαίσια προστασίας της ιδιωτικής ζωής στον κόσμο, τα αποτελέσματα του οποίου είναι πιθανό να γίνουν αισθητά και εκτός Ευρώπης. Εν τω μεταξύ, οι Ευρωπαίοι νομοθέτες επεξεργάζονται έναν νόμο που θα αντιμετωπίζει ειδικά την τεχνητή νοημοσύνη, εγκαινιάζοντας πιθανότατα μια νέα εποχή ρύθμισης για συστήματα όπως το ChatGPT.
Το ChatGPT είναι ένα από τα πιο δημοφιλή παραδείγματα γενετικής τεχνητής νοημοσύνης, ένας γενικός όρος που καλύπτει εργαλεία που παράγουν κείμενο, εικόνες, βίντεο και ήχο με βάση τα αιτήματα των χρηστών. Η υπηρεσία φέρεται να έχει γίνει μία από τις ταχύτερα αναπτυσσόμενες εφαρμογές καταναλωτών στην ιστορία αφού έφτασε τους 100 εκατομμύρια μηνιαίους ενεργούς χρήστες σε μόλις δύο μήνες μετά την κυκλοφορία τον Νοέμβριο του 2022 (το OpenAI δεν επιβεβαίωσε ποτέ αυτά τα στοιχεία).
Οι άνθρωποι το χρησιμοποιούν για να μεταφράσουν κείμενο σε διαφορετικές γλώσσες, να γράφουν πανεπιστημιακά δοκίμια και να δημιουργήσετε κώδικα. Ωστόσο, οι επικριτές, συμπεριλαμβανομένων των ρυθμιστικών αρχών, έχουν επισημάνει την αναξιόπιστη απόδοση του ChatGPT, τα προβλήματα πνευματικής ιδιοκτησίας που προκαλούν σύγχυση και τις σκιώδεις πρακτικές προστασίας δεδομένων.
Η Ιταλία ήταν η πρώτη χώρα που μετακόμισε. Στις 31 Μαρτίου, τόνισε τέσσερις τρόπους με τους οποίους πίστευε ότι το OpenAI παραβίαζε τον GDPR:
Καμία άλλη χώρα δεν έχει προβεί σε τέτοιες ενέργειες. Αλλά από τον Μάρτιο, τουλάχιστον τρία κράτη της ΕΕ – Γερμανία , Γαλλία e Ισπανία – έχουν ξεκινήσει τη δική τους έρευνα για το ChatGPT.
Εν τω μεταξύ, στην άλλη πλευρά του Ατλαντικού, Καναδάς αξιολογεί τις ανησυχίες για το απόρρητο βάσει του νόμου περί προστασίας προσωπικών πληροφοριών και ηλεκτρονικών εγγράφων ή PIPEDA. Το Ευρωπαϊκό Συμβούλιο Προστασίας Δεδομένων (EDPB) έχει μάλιστα δημιουργήσει ένα ειδική ομάδα εργασίας για να βοηθήσει στο συντονισμό της έρευνας. Και εάν αυτές οι εταιρείες ζητήσουν αλλαγές στο OpenAI, θα μπορούσαν να επηρεάσουν τον τρόπο λειτουργίας της υπηρεσίας για χρήστες σε όλο τον κόσμο.
Οι ανησυχίες των ρυθμιστών μπορούν γενικά να χωριστούν σε δύο κατηγορίες:
Το ChatGPT χρησιμοποιεί τα μοντέλα μεγάλων γλωσσών GPT-3.5 και GPT-4 του OpenAI (LLM), τα οποία εκπαιδεύονται σε μεγάλες ποσότητες κειμένου που παράγεται από τον άνθρωπο. Το OpenAI είναι προσεκτικό σχετικά με το ακριβώς κείμενο εκπαίδευσης που χρησιμοποιεί, αλλά λέει ότι βασίζεται σε "μια ποικιλία από δημόσια διαθέσιμες, δημιουργημένες και αδειοδοτημένες πηγές δεδομένων, οι οποίες μπορεί να περιλαμβάνουν δημόσια διαθέσιμες προσωπικές πληροφορίες".
Αυτό δυνητικά δημιουργεί τεράστια προβλήματα βάσει του GDPR. Ο νόμος θεσπίστηκε το 2018 και καλύπτει όλες τις υπηρεσίες που συλλέγουν ή επεξεργάζονται δεδομένα πολιτών της ΕΕ, ανεξάρτητα από το πού εδρεύει ο υπεύθυνος οργανισμός. Οι κανόνες GDPR απαιτούν από τις εταιρείες να έχουν ρητή συγκατάθεση πριν από τη συλλογή προσωπικών δεδομένων, να έχουν νομική αιτιολόγηση για τους λόγους συλλογής τους και να είναι διαφανείς σχετικά με τον τρόπο χρήσης και αποθήκευσης.
Οι ευρωπαϊκές ρυθμιστικές αρχές λένε ότι το απόρρητο των δεδομένων εκπαίδευσης του OpenAI σημαίνει ότι δεν υπάρχει τρόπος να επιβεβαιωθεί εάν οι προσωπικές πληροφορίες που εισήχθησαν αρχικά παρασχέθηκαν με τη συγκατάθεση του χρήστη και το GPDP υποστήριξε συγκεκριμένα ότι το OpenAI δεν είχε «καμία νομική βάση» για τη συλλογή τους. Μέχρι στιγμής το OpenAI και άλλοι έχουν ξεφύγει με ελάχιστο έλεγχο, αλλά αυτή η δήλωση προσθέτει ένα μεγάλο ερωτηματικό στις μελλοντικές προσπάθειες απόξεσης δεδομένων.
Μετά υπάρχει το " δικαίωμα στη λήθη » του GDPR, που επιτρέπει στους χρήστες να ζητούν από τις εταιρείες να διορθώσουν τα προσωπικά τους στοιχεία ή να τα αφαιρέσουν εντελώς. Ανοίξτε το AI έχει ενημερώσει προηγουμένως την πολιτική απορρήτου της για τη διευκόλυνση τέτοιων αιτημάτων, αλλά ναι είναι συζητώ εάν είναι τεχνικά δυνατή η διαχείρισή τους, δεδομένου του πόσο περίπλοκος μπορεί να είναι ο διαχωρισμός συγκεκριμένα δεδομένα αφού έχουν τεθεί σε αυτά τα μεγάλα γλωσσικά μοντέλα.
Το OpenAI συλλέγει επίσης πληροφορίες απευθείας από τους χρήστες. Όπως κάθε διαδικτυακή πλατφόρμα, συλλέγει α τυπικό σύνολο δεδομένων χρήστη (π.χ. όνομα, στοιχεία επικοινωνίας, στοιχεία κάρτας κ.λπ.). Αλλά το πιο σημαντικό, καταγράφει τις αλληλεπιδράσεις που έχουν οι χρήστες με το ChatGPT. Οπως και αναφέρεται σε Συχνές Ερωτήσεις , αυτά τα δεδομένα μπορούν να αναθεωρηθούν από υπαλλήλους του OpenAI και χρησιμοποιούνται για την εκπαίδευση μελλοντικών εκδόσεων του μοντέλου του. Δεδομένων των προσωπικών ερωτήσεων που κάνουν οι άνθρωποι στο ChatGPT, χρησιμοποιώντας το bot ως θεραπευτή ή γιατρό, αυτό σημαίνει ότι η εταιρεία συλλέγει κάθε είδους ευαίσθητα δεδομένα.
Τουλάχιστον ορισμένα από αυτά τα δεδομένα μπορεί να έχουν συλλεχθεί από παιδιά, καθώς ενώ η πολιτική του OpenAI αναφέρει ότι «δεν συλλέγει εν γνώσει του προσωπικές πληροφορίες από παιδιά κάτω των 13 ετών», δεν υπάρχει αυστηρός έλεγχος ηλικίας. Αυτό δεν ταιριάζει με τους κανόνες της ΕΕ, οι οποίοι απαγορεύουν τη συλλογή δεδομένων από άτομα ηλικίας κάτω των 13 ετών και (σε ορισμένες χώρες) απαιτείται γονική συναίνεση για παιδιά κάτω των 16 ετών. Από την πλευρά της παραγωγής, το GPDP είπε ότι η έλλειψη φίλτρων ηλικίας του ChatGPT εκθέτει τους ανηλίκους a «απολύτως ανεπαρκείς απαντήσεις σε σύγκριση με τον βαθμό ανάπτυξης και αυτογνωσίας τους».
Επίσης η τάση του ChatGPT να παρέχουν ψευδείς πληροφορίες μπορεί να είναι πρόβλημα. Οι κανονισμοί GDPR ορίζουν ότι όλα τα προσωπικά δεδομένα πρέπει να είναι ακριβή, κάτι που τόνισε το GPDP στην ανακοίνωσή του. Ανάλογα πώς έρχεται definite, θα μπορούσε να γράψει προβλήματα για τις περισσότερες παραγωγές κειμένου AI, οι οποίες είναι επιρρεπείς σε " αλλουσινασιών “: Ένας ωραίος βιομηχανικός όρος για πραγματικά λανθασμένες ή άσχετες απαντήσεις σε ένα ερώτημα. Αυτό έχει ήδη δει κάποιες επιπτώσεις στον πραγματικό κόσμο αλλού, όπως ένας Αυστραλός περιφερειακός δήμαρχος απείλησε να μηνύσει το OpenAI για συκοφαντική δυσφήμιση αφού ο ChatGPT ισχυρίστηκε ψευδώς ότι είχε εκτίσει ποινή φυλάκισης για διαφθορά.
Η δημοτικότητα του ChatGPT και η τρέχουσα κυριαρχία στην αγορά τεχνητής νοημοσύνης το καθιστούν ιδιαίτερα ελκυστικό στόχο, αλλά δεν υπάρχει κανένας λόγος για τον οποίο οι ανταγωνιστές και οι συνεργάτες του, όπως η Google με το Bard ή η Microsoft με το Azure AI που βασίζεται στο OpenAI, δεν αντιμετωπίζουν έλεγχο. Πριν από το ChatGPT, η Ιταλία απαγόρευσε την πλατφόρμα chatbot Replica για τη συλλογή πληροφοριών για ανηλίκους και μέχρι στιγμής παραμένει απαγορευμένη.
Ενώ ο GDPR είναι ένα ισχυρό σύνολο νόμων, δεν δημιουργήθηκε για να αντιμετωπίσει συγκεκριμένα ζητήματα τεχνητής νοημοσύνης. Κανόνες που , ωστόσο, μπορεί να είναι στον ορίζοντα.
Το 2021, η ΕΕ παρουσίασε το πρώτο προσχέδιο τηςΝόμος περί τεχνητής νοημοσύνης (AIA) , νομοθεσία που θα συνεργάζεται με τον GDPR. Ο νόμος ρυθμίζει τα εργαλεία τεχνητής νοημοσύνης με βάση τον αντιληπτό κίνδυνο, από «ελάχιστο» (πράγματα όπως φίλτρα ανεπιθύμητης αλληλογραφίας) έως «υψηλά» (εργαλεία τεχνητής νοημοσύνης για την επιβολή του νόμου ή εκπαίδευση) ή «απαράδεκτα» και επομένως απαγορευμένα (όπως ένα σύστημα κοινωνικής πίστωσης). Μετά την έκρηξη μεγάλων γλωσσικών μοντέλων όπως το ChatGPT πέρυσι, οι νομοθέτες αγωνίζονται τώρα να προσθέσουν κανόνες για «βασικά μοντέλα» και «συστήματα τεχνητής νοημοσύνης γενικού σκοπού (GPAI)» – δύο όροι για συστήματα νοημοσύνης τεχνητή κλίμακα, συμπεριλαμβανομένου του LLM – και ενδεχομένως ταξινομήσετε ως υπηρεσίες υψηλού κινδύνου.
βουλευτές της ΕΕ έχουν καταλήξει σε δοκιμαστική συμφωνία για τον νόμο AI στις 27 Απριλίου. Η επιτροπή θα ψηφίσει το προσχέδιο στις 11 Μαΐου και η τελική πρόταση αναμένεται στα μέσα Ιουνίου. Ως εκ τούτου, το Ευρωπαϊκό Συμβούλιο, το Κοινοβούλιο και η Επιτροπή θα πρέπει να το κάνουν επίλυση τυχόν υπολειπόμενων διαφορών πριν την εφαρμογή του νόμου. Εάν όλα πάνε ομαλά, θα μπορούσε να υιοθετηθεί έως το δεύτερο εξάμηνο του 2024, λίγο πιο πίσω από τον στόχο Επίσημη των Ευρωεκλογών του Μαΐου 2024.
Το OpenAI έχει ακόμη στόχους να επιτύχει. Υπάρχει μέχρι τις 30 Σεπτεμβρίου για να δημιουργηθεί ένα αυστηρότερο όριο ηλικίας για την αποφυγή των ατόμων κάτω των 13 ετών και την απαίτηση γονικής συναίνεσης για τους μεγαλύτερους ανήλικους εφήβους. Εάν αποτύχει, μπορεί να μπλοκαριστεί ξανά. Ωστόσο, παρείχε ένα παράδειγμα του τι θεωρεί η Ευρώπη αποδεκτή συμπεριφορά για μια εταιρεία τεχνητής νοημοσύνης, τουλάχιστον έως ότου ψηφιστεί νέος νόμος.
Ercole Palmeri
Η ανάπτυξη λεπτών κινητικών δεξιοτήτων μέσω του χρωματισμού προετοιμάζει τα παιδιά για πιο σύνθετες δεξιότητες όπως η γραφή. Να χρωματίσω…
Ο ναυτικός τομέας είναι μια πραγματική παγκόσμια οικονομική δύναμη, η οποία έχει προσανατολιστεί προς μια αγορά 150 δισεκατομμυρίων...
Την περασμένη Δευτέρα, οι Financial Times ανακοίνωσαν συμφωνία με το OpenAI. Η FT αδειοδοτεί την παγκόσμιας κλάσης δημοσιογραφία της…
Εκατομμύρια άνθρωποι πληρώνουν για υπηρεσίες ροής, πληρώνοντας μηνιαίες συνδρομές. Είναι κοινή γνώμη ότι…
