Nove smjernice o sigurnosti umjetne inteligencije objavile su NCSC, CISA i druge međunarodne agencije

Smjernice za razvoj sigurnih AI sustava napisane su kako bi pomogle programerima da osiguraju da je sigurnost ugrađena u srce novih AI modela.

Nacionalni centar za kibernetičku sigurnost Ujedinjenog Kraljevstva, Agencija za kibernetičku sigurnost i sigurnost američke infrastrukture i međunarodne agencije iz 16 drugih zemalja objavili su nove smjernice o sigurnosti sustava umjetne inteligencije.

Le smjernice za siguran razvoj sustava umjetne inteligencije osmišljeni su kako bi posebno vodili programere kroz dizajn, razvoj, implementaciju i rad sustava umjetne inteligencije i osigurali da sigurnost ostane kritična komponenta tijekom njihovog životnog ciklusa. Međutim, i drugim dionicima u projektima umjetne inteligencije te bi informacije trebale biti korisne.

Ove su smjernice objavljene ubrzo nakon što su se svjetski čelnici obvezali na siguran i odgovoran razvoj umjetne inteligencije na AI Safety Summitu početkom studenog.

Ukratko: smjernice za razvoj sigurnih sustava umjetne inteligencije

Smjernice za razvoj sigurnih sustava umjetne inteligencije daju preporuke kako bi se osiguralo da modeli umjetne inteligencije – bilo da su izgrađeni od nule ili temeljeni na postojećim modelima ili API-jima drugih tvrtki – „rade kako je predviđeno, dostupni su kada je potrebno i rade bez otkrivanja osjetljivih podataka neovlaštenim stranama . “

Ključ za to je pristup "sigurno prema zadanim postavkama" koji zagovaraju NCSC, CISA, Nacionalni institut za standarde i tehnologiju i razne druge međunarodne agencije za kibernetičku sigurnost u postojećim okvirima. Načela ovih okvira uključuju:

• Preuzmite vlasništvo nad sigurnosnim rezultatima za klijente.
• Prihvaćanje radikalne transparentnosti i odgovornosti.
• Izgradite organizacijsku strukturu i vodstvo tako da "sigurnost po dizajnu" bude glavni poslovni prioritet.

Prema NCSC-u, ukupno 21 agencija i ministarstvo iz ukupno 18 zemalja potvrdilo je da će odobriti i suzapečatiti nove smjernice. To uključuje Agenciju za nacionalnu sigurnost i Federalni istražni ured u Sjedinjenim Državama, kao i Kanadski centar za kibernetičku sigurnost, Francusku agenciju za kibernetičku sigurnost, Savezni ured za kibernetičku sigurnost Njemačke, Singapur Agencija za kibernetičku sigurnost i Japanski nacionalni centar za incidente. Priprema i strategija kibernetičke sigurnosti.

Lindy Cameron, izvršna direktorica NCSC-a, rekla je u priopćenje za javnost : “Znamo da se umjetna inteligencija razvija fenomenalnom brzinom i potrebno je usklađeno međunarodno djelovanje, između vlada i industrije, kako bi se održao korak. ”.

Osigurajte četiri ključne faze životnog ciklusa razvoja umjetne inteligencije

Smjernice za siguran razvoj sustava umjetne inteligencije strukturirane su u četiri odjeljka, od kojih svaki odgovara različitim fazama životnog ciklusa razvoja sustava umjetne inteligencije: siguran dizajn, siguran razvoj, sigurna implementacija i siguran rad i održavanje.

• Siguran dizajn nudi specifične smjernice za fazu dizajna životnog ciklusa razvoja AI sustava. Naglašava važnost prepoznavanja rizika i provođenja modeliranja prijetnji, kao i razmatranja različitih tema i kompromisa pri dizajniranju sustava i modela.
• Siguran razvoj pokriva razvojnu fazu životnog ciklusa AI sustava. Preporuke uključuju osiguranje sigurnosti opskrbnog lanca, održavanje detaljne dokumentacije i učinkovito upravljanje resursima i tehničkim dugom.
• Sigurna implementacija bavi se fazom implementacije sustava umjetne inteligencije. Smjernice u ovom slučaju odnose se na zaštitu infrastrukture i modela od kompromisa, prijetnji ili gubitaka, defistvaranje procesa za upravljanje incidentima i usvajanje načela odgovornog otpuštanja.
• Siguran rad i održavanje sadrže naznake o fazi rada i održavanja nakon postavljanja modela umjetne inteligencije. Pokriva aspekte kao što su učinkovito bilježenje i praćenje, upravljanje ažuriranjima i odgovorno dijeljenje informacija.

Smjernice za sve AI sustave

Smjernice su primjenjive na sve vrste AI sustava, a ne samo na "granične" modele o kojima se opširno raspravljalo na AI Safety Summitu održanom u Ujedinjenom Kraljevstvu 1. i 2. studenog 2023. Smjernice Također su primjenjive na sve stručnjake koji rade u i oko umjetne inteligencije, uključujući programere, znanstvenike podataka, menadžere, donositelje odluka i druge AI "vlasnike rizika".

"Smjernice smo prvenstveno usmjerili prema dobavljačima sustava umjetne inteligencije koji koriste modele koje hostira organizacija (ili koriste vanjske API-je), ali potičemo sve zainteresirane strane... da pročitaju ove smjernice kako bi im pomogli u donošenju informiranih odluka o dizajnu, razvoju, implementaciji i radu svojih sustavi umjetne inteligencije”, izjavio je NCSC.

Rezultati AI Safety Summita

Tijekom AI ​​Safety Summita, održanog na povijesnom mjestu Bletchley Park u Buckinghamshireu u Engleskoj, predstavnici 28 zemalja potpisali su Bletchleyeva izjava o sigurnosti umjetne inteligencije , koji ističe važnost projektiranja i implementacije sustava umjetna inteligencija sigurno i odgovorno, s naglaskom na suradnju. i transparentnost.

U izjavi se prepoznaje potreba za rješavanjem rizika povezanih s najsuvremenijim modelima umjetne inteligencije, posebno u područjima kao što su IT sigurnost i biotehnologiju te podupire veću međunarodnu suradnju kako bi se osigurala sigurna, etička i korisna uporabaIA.

Michelle Donelan, britanska tajnica za znanost i tehnologiju, rekla je da će novoobjavljene smjernice “staviti kibernetičku sigurnost u središte razvojaumjetna inteligencija” od početka do implementacije.

Reakcije industrije kibernetičke sigurnosti na ove smjernice za umjetnu inteligenciju

Objava smjernica oumjetna inteligencija pozdravili su stručnjaci i analitičari Cybersecurity.

Toby Lewis, globalni voditelj analize prijetnji u Darktraceu, je defizavršio vodič "projekt dobrodošlice" za sustave umjetna inteligencija siguran i pouzdan.

Komentirajući putem e-pošte, Lewis je rekao: "Drago mi je vidjeti da smjernice naglašavaju potrebu za umjetna inteligencija zaštite svoje podatke i modele od napadača i da korisnici AI-ja primjenjuju one prave inteligencija Umjetna za pravi zadatak. Oni koji razvijaju umjetnu inteligenciju trebali bi ići dalje i izgraditi povjerenje provodeći korisnike kroz putovanje kako njihova umjetna inteligencija dolazi do odgovora. Uz samopouzdanje i povjerenje, shvatit ćemo prednosti umjetne inteligencije brže i za više ljudi.”

Georges Anidjar, potpredsjednik za južnu Europu u Informatici, rekao je da objavljivanje smjernica označava "značajan korak prema rješavanju izazova kibernetičke sigurnosti svojstvenih ovom području koje se brzo razvija."

BlogInnovazione.it