makala

Mwongozo mpya kuhusu usalama wa AI uliochapishwa na NCSC, CISA na mashirika mengine ya kimataifa

Miongozo ya Kutengeneza Mifumo Salama ya AI iliandikwa ili kuwasaidia wasanidi programu kuhakikisha kwamba usalama umejengwa ndani ya moyo wa miundo mipya ya AI.

Kituo cha Kitaifa cha Usalama wa Mtandao cha Uingereza, Wakala wa Usalama wa Mtandao na Miundombinu wa Merika na mashirika ya kimataifa kutoka nchi zingine 16 wamechapisha mwongozo mpya juu ya usalama wa mifumo ya kijasusi bandia.

Le miongozo ya maendeleo salama ya mifumo ya akili ya bandia zimeundwa ili kuwaongoza watengenezaji haswa kupitia muundo, ukuzaji, utekelezaji na uendeshaji wa mifumo ya AI na kuhakikisha kuwa usalama unasalia kuwa sehemu muhimu katika mzunguko wao wa maisha. Hata hivyo, wadau wengine katika miradi ya AI wanapaswa pia kupata taarifa hii kuwa muhimu.

Miongozo hii ilitolewa mara baada ya viongozi wa dunia kujitolea kuendeleza usalama na uwajibikaji wa akili bandia katika Mkutano wa Usalama wa AI mapema Novemba.

Kwa muhtasari: miongozo ya kuunda mifumo salama ya AI

Mwongozo wa Kutengeneza Mifumo Salama ya AI ulitoa mapendekezo ili kuhakikisha kwamba miundo ya AI - iwe imeundwa kuanzia mwanzo au kulingana na miundo iliyopo au API kutoka kwa makampuni mengine - "inafanya kazi inavyokusudiwa, inapatikana inapohitajika, na kufanya kazi bila kufichua data nyeti kwa wahusika ambao hawajaidhinishwa. . "

Muhimu kwa hili ni mbinu ya "salama kwa chaguomsingi" inayotetewa na NCSC, CISA, Taasisi ya Kitaifa ya Viwango na Teknolojia na mashirika mengine mbalimbali ya kimataifa ya usalama wa mtandao katika mifumo iliyopo. Kanuni za mifumo hii ni pamoja na:

Chukua umiliki wa matokeo ya usalama kwa wateja.
Kukumbatia uwazi na uwajibikaji mkali.
Jenga muundo wa shirika na uongozi ili "usalama kwa muundo" uwe kipaumbele cha juu cha biashara.

Kulingana na NCSC, jumla ya mashirika na wizara 21 kutoka jumla ya nchi 18 zimethibitisha kwamba zitaidhinisha na kusaini miongozo hiyo mipya. Hii ni pamoja na Wakala wa Usalama wa Kitaifa na Ofisi ya Shirikisho ya Uchunguzi nchini Merika, na vile vile Kituo cha Kanada cha Usalama wa Mtandao, Wakala wa Usalama wa Mtandao wa Ufaransa, Ofisi ya Shirikisho ya Usalama wa Mtandao wa Ujerumani, Singapore. Wakala wa Usalama wa Mtandao na Kituo cha Matukio cha Kitaifa cha Japani. Maandalizi na mkakati wa usalama wa mtandao.

Lindy Cameron, mtendaji mkuu wa NCSC, alisema katika taarifa kwa vyombo vya habari : "Tunajua kwamba akili bandia inaendelezwa kwa kasi ya ajabu na kunahitaji kuchukuliwa hatua za kimataifa, kati ya serikali na viwanda, ili kuendana na kasi. ”.

Linda awamu nne muhimu za mzunguko wa maisha ya maendeleo ya AI

Miongozo ya ukuzaji salama wa mifumo ya AI imeundwa katika sehemu nne, kila moja ikilingana na awamu tofauti za mzunguko wa maisha ya mfumo wa AI: muundo salama, maendeleo salama, utekelezaji salama, na uendeshaji salama na matengenezo.

Muundo salama inatoa mwongozo maalum kwa awamu ya muundo wa mzunguko wa maisha wa ukuzaji wa mfumo wa AI. Inasisitiza umuhimu wa kutambua hatari na kufanya uigaji wa vitisho, na pia kuzingatia mada na mizozo mbalimbali wakati wa kubuni mifumo na miundo.
Maendeleo salama inashughulikia awamu ya maendeleo ya mzunguko wa maisha ya mfumo wa AI. Mapendekezo yanajumuisha kuhakikisha usalama wa mnyororo wa ugavi, kudumisha hati kamili, na kusimamia ipasavyo rasilimali na deni la kiufundi.
Utekelezaji salama inashughulikia awamu ya utekelezaji wa mifumo ya AI. Miongozo katika kesi hii inahusu kulinda miundombinu na mifano kutokana na maelewano, vitisho au hasara, defiuundaji wa michakato ya usimamizi wa matukio na upitishaji wa kanuni zinazowajibika za kutolewa.
Uendeshaji salama na matengenezo vyenye viashiria kwenye awamu ya uendeshaji na matengenezo kufuatia kupelekwa kwa miundo ya kijasusi ya bandia. Inashughulikia vipengele kama vile ukataji miti na ufuatiliaji unaofaa, udhibiti wa masasisho na ushiriki wa habari unaowajibika.

Miongozo ya mifumo yote ya AI

Miongozo hii inatumika kwa aina zote za mifumo ya AI na si miundo ya "mpaka" pekee ambayo ilijadiliwa kwa kina katika Mkutano wa Usalama wa AI ulioandaliwa nchini Uingereza tarehe 1 na 2 Novemba 2023. Miongozo hiyo inatumika pia kwa wataalamu wote wanaofanya kazi nchini. na karibu na AI, ikiwa ni pamoja na watengenezaji, wanasayansi wa data, wasimamizi, watoa maamuzi, na "wamiliki hatari" wa AI.

"Tulilenga miongozo hasa kwa wachuuzi wa mfumo wa AI wanaotumia miundo inayopangishwa na shirika (au kutumia API za nje), lakini tunahimiza wahusika wote wanaovutiwa ... kusoma miongozo hii ili kuwasaidia kufanya maamuzi sahihi ya muundo, ukuzaji, utekelezaji na utendakazi wao. mifumo ya akili bandia”, alisema NCSC.

Matokeo ya Mkutano wa Usalama wa AI

Wakati wa Mkutano wa Usalama wa AI, uliofanyika kwenye tovuti ya kihistoria ya Bletchley Park huko Buckinghamshire, Uingereza, wawakilishi kutoka nchi 28 walitia saini Taarifa ya Bletchley kuhusu Usalama wa AI , ambayo inaangazia umuhimu wa kubuni na kutekeleza mifumo akili ya bandia kwa usalama na uwajibikaji, kwa kusisitiza ushirikiano. na uwazi.

Taarifa hiyo inatambua hitaji la kushughulikia hatari zinazohusiana na miundo ya kisasa ya AI, haswa katika maeneo kama vile Usalama wa IT na teknolojia ya kibayoteknolojia, na inasaidia ushirikiano mkubwa wa kimataifa ili kuhakikisha matumizi salama, ya kimaadili na yenye manufaaIA.

Michelle Donelan, katibu wa sayansi na teknolojia wa Uingereza, alisema miongozo iliyochapishwa hivi karibuni "itaweka usalama wa mtandao katika moyo wa maendeleo yaakili ya bandia” tangu kuanzishwa hadi kupelekwa.

Maoni kwa miongozo hii ya AI kutoka kwa tasnia ya usalama wa mtandao

Kuchapishwa kwa miongozo yaakili ya bandia imekaribishwa na wataalam na wachambuzi cybersecurity.

Toby Lewis, mkuu wa kimataifa wa uchambuzi wa tishio huko Darktrace, ana defikumaliza mwongozo "mradi wa kukaribisha" kwa mifumo akili ya bandia salama na ya kuaminika.

Akitoa maoni yake kupitia barua pepe, Lewis alisema: “Nimefurahi kuona kwamba miongozo inaangazia hitaji la kufanya hivyo akili ya bandia linda data na miundo yao dhidi ya wavamizi na kwamba watumiaji wa AI watumie zinazofaa akili bandia kwa kazi sahihi. Wale wanaoendeleza AI wanapaswa kwenda mbali zaidi na kujenga uaminifu kwa kuwatembeza watumiaji katika safari ya jinsi AI yao inavyofikia majibu. Kwa ujasiri na uaminifu, tutatambua faida za AI haraka na kwa watu wengi zaidi.

Georges Anidjar, makamu wa rais wa Kusini mwa Ulaya huko Informatica, alisema kuchapishwa kwa miongozo hiyo kunaashiria "hatua muhimu ya kushughulikia changamoto za usalama wa mtandao zilizomo katika uwanja huu unaokua haraka."

BlogInnovazione.it