Νέα καθοδήγηση για την ασφάλεια της τεχνητής νοημοσύνης που δημοσιεύεται από το NCSC, την CISA και άλλους διεθνείς οργανισμούς

Οι Οδηγίες για την ανάπτυξη ασφαλών συστημάτων τεχνητής νοημοσύνης γράφτηκαν για να βοηθήσουν τους προγραμματιστές να διασφαλίσουν ότι η ασφάλεια είναι ενσωματωμένη στην καρδιά των νέων μοντέλων τεχνητής νοημοσύνης.

Το Εθνικό Κέντρο Κυβερνοασφάλειας του Ηνωμένου Βασιλείου, η Υπηρεσία Κυβερνοασφάλειας και Ασφάλειας Υποδομών των ΗΠΑ και διεθνείς υπηρεσίες από 16 άλλες χώρες δημοσίευσαν νέες οδηγίες για την ασφάλεια των συστημάτων τεχνητής νοημοσύνης.

Le κατευθυντήριες γραμμές για την ασφαλή ανάπτυξη συστημάτων τεχνητής νοημοσύνης Έχουν σχεδιαστεί για να καθοδηγούν τους προγραμματιστές ειδικά στον σχεδιασμό, την ανάπτυξη, την υλοποίηση και τη λειτουργία συστημάτων AI και να διασφαλίζουν ότι η ασφάλεια παραμένει ένα κρίσιμο στοιχείο καθ' όλη τη διάρκεια του κύκλου ζωής τους. Ωστόσο, και άλλοι ενδιαφερόμενοι σε έργα τεχνητής νοημοσύνης θα πρέπει επίσης να βρουν αυτές τις πληροφορίες χρήσιμες.

Αυτές οι οδηγίες κυκλοφόρησαν αμέσως μετά τη δέσμευση των παγκόσμιων ηγετών για την ασφαλή και υπεύθυνη ανάπτυξη της τεχνητής νοημοσύνης στη Σύνοδο Κορυφής για την Ασφάλεια της AI στις αρχές Νοεμβρίου.

Συνοπτικά: κατευθυντήριες γραμμές για την ανάπτυξη ασφαλών συστημάτων AI

Οι Οδηγίες για την ανάπτυξη ασφαλών συστημάτων τεχνητής νοημοσύνης ορίζουν συστάσεις για να διασφαλιστεί ότι τα μοντέλα τεχνητής νοημοσύνης – είτε έχουν κατασκευαστεί από την αρχή είτε βασίζονται σε υπάρχοντα μοντέλα ή API άλλων εταιρειών – «λειτουργούν όπως προβλέπεται, είναι διαθέσιμα όταν χρειάζεται και λειτουργούν χωρίς να αποκαλύπτουν ευαίσθητα δεδομένα σε μη εξουσιοδοτημένα μέρη . "

Κλειδί για αυτό είναι η «ασφαλής από προεπιλογή» προσέγγιση που υποστηρίζεται από το NCSC, την CISA, το Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας και διάφορους άλλους διεθνείς οργανισμούς κυβερνοασφάλειας στα υπάρχοντα πλαίσια. Οι αρχές αυτών των πλαισίων περιλαμβάνουν:

• Αποκτήστε την ευθύνη των αποτελεσμάτων ασφάλειας για τους πελάτες.
• Αγκαλιάζοντας τη ριζική διαφάνεια και τη λογοδοσία.
• Δημιουργήστε οργανωτική δομή και ηγεσία, έτσι ώστε η «ασφάλεια από το σχεδιασμό» να αποτελεί κορυφαία επιχειρηματική προτεραιότητα.

Σύμφωνα με το NCSC, συνολικά 21 φορείς και υπουργεία από συνολικά 18 χώρες επιβεβαίωσαν ότι θα εγκρίνουν και θα συνσφραγίσουν τις νέες κατευθυντήριες γραμμές. Αυτό περιλαμβάνει την Υπηρεσία Εθνικής Ασφάλειας και το Ομοσπονδιακό Γραφείο Ερευνών στις Ηνωμένες Πολιτείες, καθώς και το Καναδικό Κέντρο για την Κυβερνοασφάλεια, τη Γαλλική Υπηρεσία Κυβερνοασφάλειας, την Ομοσπονδιακή Υπηρεσία Κυβερνοασφάλειας της Γερμανίας, τη Σιγκαπούρη Υπηρεσία Κυβερνοασφάλειας και Εθνικό Κέντρο Συμβάντων της Ιαπωνίας. Προετοιμασία και στρατηγική για την κυβερνοασφάλεια.

Ο Λίντι Κάμερον, διευθύνων σύμβουλος του NCSC, δήλωσε ένα δελτίο τύπου : «Γνωρίζουμε ότι η τεχνητή νοημοσύνη αναπτύσσεται με εκπληκτικό ρυθμό και χρειάζεται συντονισμένη διεθνής δράση, μεταξύ των κυβερνήσεων και της βιομηχανίας, για να συμβαδίσει. ".

Εξασφαλίστε τις τέσσερις βασικές φάσεις του κύκλου ζωής της ανάπτυξης AI

Οι οδηγίες για την ασφαλή ανάπτυξη συστημάτων τεχνητής νοημοσύνης διαρθρώνονται σε τέσσερις ενότητες, καθεμία από τις οποίες αντιστοιχεί σε διαφορετικές φάσεις του κύκλου ζωής ανάπτυξης ενός συστήματος AI: ασφαλής σχεδιασμός, ασφαλής ανάπτυξη, ασφαλής υλοποίηση και ασφαλής λειτουργία και συντήρηση.

• Ασφαλής σχεδιασμός προσφέρει συγκεκριμένες οδηγίες για τη φάση σχεδιασμού του κύκλου ζωής ανάπτυξης του συστήματος AI. Τονίζει τη σημασία της αναγνώρισης κινδύνων και της διεξαγωγής μοντελοποίησης απειλών, καθώς και της εξέτασης διαφόρων θεμάτων και αντισταθμίσεων κατά το σχεδιασμό συστημάτων και μοντέλων.
• Ασφαλής ανάπτυξη καλύπτει τη φάση ανάπτυξης του κύκλου ζωής του συστήματος AI. Οι συστάσεις περιλαμβάνουν τη διασφάλιση της ασφάλειας της εφοδιαστικής αλυσίδας, τη διατήρηση ενδελεχούς τεκμηρίωσης και την αποτελεσματική διαχείριση των πόρων και του τεχνικού χρέους.
• Ασφαλής υλοποίηση πραγματεύεται τη φάση υλοποίησης συστημάτων τεχνητής νοημοσύνης. Οι κατευθυντήριες γραμμές σε αυτή την περίπτωση αφορούν την προστασία της υποδομής και των μοντέλων από συμβιβασμούς, απειλές ή απώλειες, defiτη θέσπιση διαδικασιών για τη διαχείριση συμβάντων και την υιοθέτηση αρχών υπεύθυνης απελευθέρωσης.
• Ασφαλής λειτουργία και συντήρηση περιέχει ενδείξεις για τη φάση λειτουργίας και συντήρησης μετά την ανάπτυξη των μοντέλων τεχνητής νοημοσύνης. Καλύπτει πτυχές όπως η αποτελεσματική καταγραφή και παρακολούθηση, η διαχείριση ενημερώσεων και η υπεύθυνη κοινή χρήση πληροφοριών.

Οδηγίες για όλα τα συστήματα AI

Οι κατευθυντήριες γραμμές ισχύουν για όλους τους τύπους συστημάτων τεχνητής νοημοσύνης και όχι μόνο για μοντέλα «συνοριακών» τα οποία συζητήθηκαν εκτενώς στη Σύνοδο Κορυφής για την Ασφάλεια της AI που φιλοξενήθηκε στο Ηνωμένο Βασίλειο την 1η και 2α Νοεμβρίου 2023. Οι κατευθυντήριες γραμμές ισχύουν επίσης για όλους τους επαγγελματίες που εργάζονται σε και γύρω από την τεχνητή νοημοσύνη, συμπεριλαμβανομένων των προγραμματιστών, των επιστημόνων δεδομένων, των μάνατζερ, των υπευθύνων λήψης αποφάσεων και άλλων «ιδιοκτητών κινδύνου» AI.

«Στοχεύσαμε τις κατευθυντήριες γραμμές κυρίως σε προμηθευτές συστημάτων τεχνητής νοημοσύνης που χρησιμοποιούν μοντέλα που φιλοξενούνται από έναν οργανισμό (ή χρησιμοποιούν εξωτερικά API), αλλά ενθαρρύνουμε όλα τα ενδιαφερόμενα μέρη… να διαβάσουν αυτές τις οδηγίες για να τους βοηθήσουμε να λαμβάνουν τεκμηριωμένες αποφάσεις σχεδιασμού, ανάπτυξη, υλοποίηση και λειτουργία των συστήματα τεχνητής νοημοσύνης», είπε το NCSC.

Αποτελέσματα της συνόδου κορυφής για την ασφάλεια της AI

Κατά τη διάρκεια της Συνόδου Κορυφής για την Ασφάλεια AI, που πραγματοποιήθηκε στην ιστορική τοποθεσία Bletchley Park στο Buckinghamshire της Αγγλίας, εκπρόσωποι από 28 χώρες υπέγραψαν την Δήλωση Bletchley για την ασφάλεια της τεχνητής νοημοσύνης , το οποίο υπογραμμίζει τη σημασία του σχεδιασμού και της εφαρμογής συστημάτων τεχνητή νοημοσύνη με ασφάλεια και υπευθυνότητα, με έμφαση στη συνεργασία. και διαφάνεια.

Η δήλωση αναγνωρίζει την ανάγκη αντιμετώπισης των κινδύνων που σχετίζονται με τα μοντέλα τεχνητής νοημοσύνης αιχμής, ιδίως σε τομείς όπως ασφάλεια του υπολογιστή και της βιοτεχνολογίας, και υποστηρίζει μεγαλύτερη διεθνή συνεργασία για τη διασφάλιση της ασφαλούς, ηθικής και επωφελούς χρήσης τουIA.

Η Michelle Donelan, υπουργός Επιστήμης και Τεχνολογίας της Βρετανίας, δήλωσε ότι οι πρόσφατα δημοσιευμένες κατευθυντήριες γραμμές «θα θέσουν την ασφάλεια στον κυβερνοχώρο στο επίκεντρο της ανάπτυξηςτεχνητή νοημοσύνη» από την έναρξη έως την ανάπτυξη.

Αντιδράσεις σε αυτές τις οδηγίες τεχνητής νοημοσύνης από τον κλάδο της κυβερνοασφάλειας

Η δημοσίευση των οδηγιών γιατεχνητή νοημοσύνη έχει χαιρετιστεί από ειδικούς και αναλυτές κυβερνασφάλεια.

Ο Toby Lewis, παγκόσμιος επικεφαλής ανάλυσης απειλών στο Darktrace, έχει defiολοκλήρωσε τον οδηγό "ένα ευπρόσδεκτο έργο" για συστήματα τεχνητή νοημοσύνη ασφαλές και αξιόπιστο.

Σχολιάζοντας μέσω email, ο Lewis είπε: «Είμαι στην ευχάριστη θέση να βλέπω ότι οι οδηγίες υπογραμμίζουν την ανάγκη για τεχνητή νοημοσύνη προστατεύουν τα δεδομένα και τα μοντέλα τους από εισβολείς και ότι οι χρήστες τεχνητής νοημοσύνης εφαρμόζουν τα σωστά νοημοσύνη τεχνητός για το σωστό έργο. Όσοι αναπτύσσουν τεχνητή νοημοσύνη θα πρέπει να προχωρήσουν περισσότερο και να οικοδομήσουν εμπιστοσύνη, καθοδηγώντας τους χρήστες στο ταξίδι του τρόπου με τον οποίο η τεχνητή νοημοσύνη τους φτάνει στις απαντήσεις. Με σιγουριά και εμπιστοσύνη, θα συνειδητοποιήσουμε τα οφέλη της τεχνητής νοημοσύνης γρηγορότερα και για περισσότερους ανθρώπους».

Ο Georges Anidjar, αντιπρόεδρος για τη Νότια Ευρώπη στην Informatica, είπε ότι η δημοσίευση των κατευθυντήριων γραμμών σηματοδοτεί «ένα σημαντικό βήμα προς την αντιμετώπιση των προκλήσεων της κυβερνοασφάλειας που είναι εγγενείς σε αυτόν τον ταχέως εξελισσόμενο τομέα».

BlogInnovazione.it