NCSC, CISA ir kitų tarptautinių agentūrų paskelbtos naujos DI saugumo gairės

Saugių AI sistemų kūrimo gairės buvo parašytos siekiant padėti kūrėjams užtikrinti, kad saugumas būtų įtrauktas į naujų AI modelių esmę.

JK Nacionalinis kibernetinio saugumo centras, JAV kibernetinio saugumo ir infrastruktūros saugumo agentūra bei tarptautinės agentūros iš 16 kitų šalių paskelbė naujas dirbtinio intelekto sistemų saugumo gaires.

Le saugaus dirbtinio intelekto sistemų kūrimo gairės Jie skirti padėti kūrėjams kurti, kurti, diegti ir eksploatuoti dirbtinio intelekto sistemas ir užtikrinti, kad saugumas išliktų esminis komponentas per visą jų gyvavimo ciklą. Tačiau ši informacija turėtų būti naudinga ir kitoms AI projektų suinteresuotosioms šalims.

Šios gairės buvo paskelbtos netrukus po to, kai pasaulio lyderiai lapkričio pradžioje vykusiame AI saugos aukščiausiojo lygio susitikime įsipareigojo saugiai ir atsakingai plėtoti dirbtinį intelektą.

Apibendrinant: saugių AI sistemų kūrimo gairės

Saugių dirbtinio intelekto sistemų kūrimo gairėse pateikiamos rekomendacijos, kuriomis siekiama užtikrinti, kad dirbtinio intelekto modeliai – sukurti nuo nulio, ar pagrįsti esamais modeliais ar kitų įmonių API – „veiktų taip, kaip numatyta, būtų pasiekiami, kai reikia, ir neatskleis neskelbtinų duomenų neteisėtoms šalims. . “

Svarbiausias dalykas yra „saugus pagal numatytuosius nustatymus“, kurį propaguoja NCSC, CISA, Nacionalinis standartų ir technologijų institutas ir įvairios kitos tarptautinės kibernetinio saugumo agentūros esamose sistemose. Šių rėmų principai apima:

• Prisiimkite atsakomybę už klientų saugos rezultatus.
• Priimti radikalų skaidrumą ir atskaitomybę.
• Sukurkite organizacinę struktūrą ir vadovavimą, kad „projektavimo sauga“ būtų pagrindinis verslo prioritetas.

NCSC duomenimis, iš viso 21 agentūra ir ministerija iš 18 šalių patvirtino, kad patvirtins ir kartu patvirtins naujas gaires. Tai apima Nacionalinę saugumo agentūrą ir JAV Federalinį tyrimų biurą, taip pat Kanados kibernetinio saugumo centrą, Prancūzijos kibernetinio saugumo agentūrą, Vokietijos federalinį kibernetinio saugumo biurą, Singapūro Kibernetinio saugumo agentūra ir Japonijos nacionalinis incidentų centras. Kibernetinio saugumo pasirengimas ir strategija.

Lindy Cameron, NCSC generalinė direktorė, sakė pranešimas spaudai : „Mes žinome, kad dirbtinis intelektas vystosi fenomenaliu greičiu, todėl reikia suderintų tarptautinių vyriausybių ir pramonės veiksmų, kad neatsiliktų. “.

Apsaugokite keturis pagrindinius AI kūrimo ciklo etapus

Saugaus AI sistemų kūrimo gairės suskirstytos į keturias dalis, kurių kiekviena atitinka skirtingus AI sistemos kūrimo ciklo etapus: saugus projektavimas, saugus kūrimas, saugus diegimas ir saugus veikimas bei priežiūra.

• Saugus dizainas siūlo konkrečias AI sistemos kūrimo ciklo projektavimo etapo gaires. Jame pabrėžiama, kaip svarbu atpažinti riziką ir atlikti grėsmių modeliavimą, taip pat atsižvelgti į įvairias temas ir kompromisus kuriant sistemas ir modelius.
• Saugus vystymasis apima AI sistemos gyvavimo ciklo kūrimo etapą. Rekomendacijos apima tiekimo grandinės saugumo užtikrinimą, išsamių dokumentų tvarkymą ir efektyvų išteklių bei techninių skolų valdymą.
• Saugus įgyvendinimas skirtas dirbtinio intelekto sistemų diegimo fazei. Gairės šiuo atveju susijusios su infrastruktūros ir modelių apsauga nuo kompromisų, grėsmių ar nuostolių, defiincidentų valdymo procesų sukūrimas ir atsakingų išleidimo principų priėmimas.
• Saugus eksploatavimas ir priežiūra yra nuorodų apie veikimo ir priežiūros etapą po dirbtinio intelekto modelių įdiegimo. Tai apima tokius aspektus kaip veiksmingas registravimas ir stebėjimas, atnaujinimų valdymas ir atsakingas dalijimasis informacija.

Rekomendacijos visoms AI sistemoms

Gairės taikomos visų tipų dirbtinio intelekto sistemoms, o ne tik „ribiniams“ modeliams, kurie buvo plačiai aptarti 1 m. lapkričio 2 ir 2023 d. JK surengtame DI saugos aukščiausiojo lygio susitikime. Gairės Jos taip pat taikomos visiems profesionalams, dirbantiems ir aplink AI, įskaitant kūrėjus, duomenų mokslininkus, vadovus, sprendimų priėmėjus ir kitus AI „rizikos savininkus“.

„Mes orientavomės į gaires visų pirma AI sistemų tiekėjams, kurie naudoja organizacijos priglobtus modelius (arba išorines API), bet raginame visas suinteresuotas šalis perskaityti šias gaires, kad būtų lengviau priimti pagrįstus dizaino sprendimus, kurti, įgyvendinti ir eksploatuoti savo dirbtinio intelekto sistemos“, jis pareiškė NCSC.

AI Safety Summit rezultatai

Per AI Safety Summit susitikimą, vykusį istorinėje Bletchley parko vietoje Bekingemšyre, Anglijoje, 28 šalių atstovai pasirašė Bletchley pareiškimas apie AI saugą , kuris pabrėžia sistemų kūrimo ir diegimo svarbą dirbtinis intelektas saugiai ir atsakingai, akcentuojant bendradarbiavimą. ir skaidrumas.

Pareiškime pripažįstamas poreikis spręsti su pažangiausiais dirbtinio intelekto modeliais susijusią riziką, ypač tokiose srityse kaip IT saugumas ir biotechnologijas, ir remia glaudesnį tarptautinį bendradarbiavimą, kad būtų užtikrintas saugus, etiškas ir naudingas naudojimasIA.

Michelle Donelan, Didžiosios Britanijos mokslo ir technologijų sekretorė, sakė, kad naujai paskelbtose gairėse „kibernetiniam saugumui bus skiriamas pagrindinis dėmesys kuriantdirbtinis intelektas“ nuo įkūrimo iki diegimo.

Kibernetinio saugumo pramonės atstovai į šias AI gaires

Gairių paskelbimasdirbtinis intelektas ekspertai ir analitikai palankiai įvertino Kibernetinė sauga.

Toby Lewis, pasaulinis grėsmių analizės vadovas Darktrace defibaigė sistemoms skirtą vadovą „sveiki projektas“. dirbtinis intelektas saugus ir patikimas.

Komentuodamas elektroniniu paštu, Lewisas sakė: „Džiaugiuosi matydamas, kad gairėse pabrėžiamas poreikis dirbtinis intelektas apsaugoti savo duomenis ir modelius nuo užpuolikų ir kad dirbtinio intelekto naudotojai taikytų tinkamus intelektas dirbtinis už tinkamą užduotį. Kuriantieji dirbtinį intelektą turėtų žengti toliau ir stiprinti pasitikėjimą vesdami naudotojus į kelionę, kaip jų AI pasiekia atsakymus. Su pasitikėjimu ir pasitikėjimu AI naudą suvoksime greičiau ir daugiau žmonių.

Georgesas Anidjaras, „Informatica“ viceprezidentas Pietų Europai, sakė, kad gairių paskelbimas yra „reikšmingas žingsnis sprendžiant kibernetinio saugumo iššūkius, būdingus šiai sparčiai besivystančiai sričiai“.

BlogInnovazione.it