Nove smjernice o sigurnosti umjetne inteligencije koje su objavile NCSC, CISA i druge međunarodne agencije

Smjernice za razvoj sigurnih AI sistema su napisane da pomognu programerima da osiguraju da je sigurnost ugrađena u srce novih AI modela.

Nacionalni centar za kibernetičku sigurnost Ujedinjenog Kraljevstva, Američka agencija za kibernetičku sigurnost i infrastrukturnu sigurnost i međunarodne agencije iz 16 drugih zemalja objavile su nove smjernice o sigurnosti sistema umjetne inteligencije.

Le smjernice za siguran razvoj sistema umjetne inteligencije oni su dizajnirani da vode programere posebno kroz dizajn, razvoj, implementaciju i rad AI sistema i obezbede da bezbednost ostane kritična komponenta tokom njihovog životnog ciklusa. Međutim, i drugi dionici u projektima umjetne inteligencije također bi trebali smatrati da su ove informacije korisne.

Ove smjernice su objavljene ubrzo nakon što su se svjetski lideri posvetili sigurnom i odgovornom razvoju umjetne inteligencije na Samitu o AI sigurnosti početkom novembra.

Ukratko: smjernice za razvoj sigurnih AI sistema

Smjernice za razvoj sigurnih AI sistema daju preporuke kako bi se osiguralo da AI modeli – bilo da su napravljeni od nule ili na osnovu postojećih modela ili API-ja drugih kompanija – “rade kako je predviđeno, dostupni su kada je potrebno i rade bez otkrivanja osjetljivih podataka neovlaštenim stranama . “

Ključ za ovo je „sigurno podrazumevano“ pristup koji zagovaraju NCSC, CISA, Nacionalni institut za standarde i tehnologiju i razne druge međunarodne agencije za sajber bezbednost u postojećim okvirima. Principi ovih okvira uključuju:

• Preuzmite vlasništvo nad rezultatima sigurnosti za kupce.
• Prihvatanje radikalne transparentnosti i odgovornosti.
• Izgradite organizacionu strukturu i liderstvo tako da „sigurnost po dizajnu“ bude glavni poslovni prioritet.

Prema NCSC-u, ukupno 21 agencija i ministarstvo iz ukupno 18 zemalja potvrdilo je da će odobriti i zajedno potpisati nove smjernice. Ovo uključuje Agenciju za nacionalnu sigurnost i Federalni istražni biro u Sjedinjenim Državama, kao i Kanadski centar za kibernetičku sigurnost, Francusku agenciju za sajber sigurnost, Savezni ured za kibernetičku sigurnost Njemačke, Singapur Agencija za sajber sigurnost i Japanski nacionalni centar za incidente. Priprema i strategija kibernetičke sigurnosti.

rekla je Lindy Cameron, izvršna direktorica NCSC-a saopštenje za javnost : „Znamo da se vještačka inteligencija razvija fenomenalnom brzinom i da je potrebna usklađena međunarodna akcija, između vlada i industrije, kako bi se održao korak. ”.

Osigurajte četiri ključne faze životnog ciklusa razvoja AI

Smjernice za siguran razvoj AI sistema su strukturirane u četiri odjeljka, od kojih svaki odgovara različitim fazama životnog ciklusa razvoja AI sistema: siguran dizajn, siguran razvoj, sigurna implementacija i siguran rad i održavanje.

• Siguran dizajn nudi posebne smjernice za fazu dizajna životnog ciklusa razvoja AI sistema. Naglašava važnost prepoznavanja rizika i provođenja modeliranja prijetnji, kao i razmatranja različitih tema i kompromisa prilikom dizajniranja sistema i modela.
• Siguran razvoj pokriva fazu razvoja životnog ciklusa AI sistema. Preporuke uključuju osiguranje sigurnosti lanca snabdijevanja, održavanje temeljne dokumentacije i efikasno upravljanje resursima i tehničkim dugom.
• Sigurna implementacija bavi se fazom implementacije AI sistema. Smjernice u ovom slučaju tiču ​​se zaštite infrastrukture i modela od kompromisa, prijetnji ili gubitaka, definicija procesa za upravljanje incidentima i usvajanje principa odgovornog oslobađanja.
• Bezbedan rad i održavanje sadrže indikacije o fazi rada i održavanja nakon implementacije modela umjetne inteligencije. Pokriva aspekte kao što su efikasno evidentiranje i praćenje, upravljanje ažuriranjima i odgovorno dijeljenje informacija.

Smjernice za sve AI sisteme

Smjernice su primjenjive na sve vrste AI sistema, a ne samo na „granične“ modele o kojima se opširno raspravljalo na Samitu o AI sigurnosti održanom u Ujedinjenom Kraljevstvu 1. i 2. novembra 2023. Smjernice Primjenjive su i na sve profesionalce koji rade u i oko AI, uključujući programere, naučnike za podatke, menadžere, donosioce odluka i druge AI „vlasnike rizika“.

„Smjernice smo prvenstveno usmjerili na dobavljače AI sistema koji koriste modele koje hostuje organizacija (ili koriste eksterne API-je), ali ohrabrujemo sve zainteresirane strane... da pročitaju ove smjernice kako bi im pomogli da donose informirane odluke o dizajnu, razvoju, implementaciji i radu svojih sistemi veštačke inteligencije”, rekao je NCSC.

Rezultati AI Safety Summita

Tokom AI Safety Summit-a, održanog na istorijskom mestu Bletchley Park u Buckinghamshireu, Engleska, predstavnici 28 zemalja potpisali su Bletchleyeva izjava o sigurnosti umjetne inteligencije , koji naglašava važnost projektovanja i implementacije sistema vještačka inteligencija sigurno i odgovorno, s naglaskom na saradnju. i transparentnost.

Izjava prepoznaje potrebu za rješavanjem rizika povezanih s najsavremenijim AI modelima, posebno u oblastima kao što su IT sigurnost i biotehnologije, te podržava veću međunarodnu suradnju kako bi se osigurala sigurna, etička i korisna upotrebaIA.

Michelle Donelan, britanska sekretarka za nauku i tehnologiju, rekla je da će novoobjavljene smjernice “staviti sajber sigurnost u srce razvojavještačka inteligencija” od početka do implementacije.

Reakcije na ove AI smjernice iz industrije kibernetičke sigurnosti

Objavljivanje smjernica ovještačka inteligencija je pozdravljen od strane stručnjaka i analitičara sajberbezbednosti.

Toby Lewis, globalni šef analize prijetnji u Darktraceu, jeste defizavršio vodič "projekat dobrodošlice" za sisteme vještačka inteligencija sigurno i pouzdano.

Komentarišući putem e-pošte, Lewis je rekao: „Drago mi je što vidim da smjernice ističu potrebu za vještačka inteligencija zaštite svoje podatke i modele od napadača i da korisnici AI primjenjuju prave inteligencija vještački za pravi zadatak. Oni koji razvijaju AI trebali bi ići dalje i izgraditi povjerenje tako što će provesti korisnike kroz put kako njihova AI dolazi do odgovora. Uz samopouzdanje i povjerenje, shvatit ćemo prednosti AI brže i za više ljudi.”

Georges Anidjar, potpredsjednik za južnu Evropu u Informatici, rekao je da objavljivanje smjernica označava "značajan korak ka rješavanju izazova kibernetičke sigurnosti svojstvenih ovom polju koje se brzo razvija".

BlogInnovazione.it