NCSC-ի, CISA-ի և այլ միջազգային գործակալությունների կողմից հրապարակված արհեստական ​​ինտելեկտի անվտանգության վերաբերյալ նոր ուղեցույց

Անվտանգ AI համակարգերի մշակման ուղեցույցները գրվել են՝ օգնելու ծրագրավորողներին համոզվելու, որ անվտանգությունը ներկառուցված է AI նոր մոդելների սրտում:

Մեծ Բրիտանիայի Կիբերանվտանգության ազգային կենտրոնը, ԱՄՆ Կիբերանվտանգության և ենթակառուցվածքների անվտանգության գործակալությունը և 16 այլ երկրների միջազգային գործակալությունները հրապարակել են նոր ուղեցույց արհեստական ​​ինտելեկտի համակարգերի անվտանգության վերաբերյալ:

Le ուղեցույցներ արհեստական ​​ինտելեկտի համակարգերի անվտանգ զարգացման համար դրանք նախագծված են ծրագրավորողներին ուղղորդելու հատուկ AI համակարգերի նախագծման, մշակման, ներդրման և շահագործման միջոցով և ապահովելու, որ անվտանգությունը մնա կարևոր բաղադրիչ նրանց կյանքի ցիկլի ընթացքում: Այնուամենայնիվ, արհեստական ​​ինտելեկտի նախագծերի այլ շահագրգիռ կողմերը նույնպես պետք է օգտակար գտնեն այս տեղեկատվությունը:

Այս ուղեցույցները հրապարակվեցին անմիջապես այն բանից հետո, երբ համաշխարհային առաջնորդները նոյեմբերի սկզբին կայացած AI-ի անվտանգության գագաթնաժողովում հանձնվեցին արհեստական ​​ինտելեկտի անվտանգ և պատասխանատու զարգացմանը:

Ամփոփելով՝ AI համակարգերի մշակման ուղեցույցներ

Անվտանգ AI համակարգերի ստեղծման ուղեցույցը առաջարկություններ է ներկայացնում՝ ապահովելու, որ AI մոդելները, անկախ այն բանից՝ կառուցված են զրոյից, թե հիմնված են գոյություն ունեցող մոդելների կամ այլ ընկերությունների API-ների վրա, «աշխատեն այնպես, ինչպես նախատեսված է, հասանելի լինեն անհրաժեշտության դեպքում և աշխատեն՝ չբացահայտելով զգայուն տվյալներ չարտոնված կողմերին։ . «

Դրա բանալին «անվտանգ ըստ լռելյայն» մոտեցումն է, որը պաշտպանում են NCSC-ը, CISA-ն, Ստանդարտների և տեխնոլոգիաների ազգային ինստիտուտը և կիբեռանվտանգության այլ միջազգային գործակալություններ գոյություն ունեցող շրջանակներում: Այս շրջանակների սկզբունքները ներառում են.

• Տիրապետեք հաճախորդների անվտանգության արդյունքներին:
• Ընդգրկելով արմատական ​​թափանցիկություն և հաշվետվողականություն:
• Կառուցեք կազմակերպչական կառուցվածք և առաջնորդություն, որպեսզի «անվտանգությունն ըստ դիզայնի» լինի բիզնեսի առաջնահերթությունը:

Ըստ NCSC-ի, ընդհանուր առմամբ 21 երկրների 18 գերատեսչություններ և նախարարություններ հաստատել են, որ կհաստատեն և կկնքեն նոր ուղեցույցները: Սա ներառում է Ազգային անվտանգության գործակալությունը և Հետաքննությունների դաշնային բյուրոն ԱՄՆ-ում, ինչպես նաև Կանադայի կիբերանվտանգության կենտրոնը, Ֆրանսիայի կիբերանվտանգության գործակալությունը, Գերմանիայի կիբերանվտանգության դաշնային գրասենյակը, Սինգապուրը: Կիբերանվտանգության գործակալություն և Ճապոնիայի միջադեպերի ազգային կենտրոն: Կիբերանվտանգության նախապատրաստում և ռազմավարություն.

NCSC-ի գործադիր տնօրեն Լինդի Քեմերոնն ասել է մամուլի հաղորդագրություն «Մենք գիտենք, որ արհեստական ​​ինտելեկտը զարգանում է ֆենոմենալ տեմպերով, և պետք է համաձայնեցված միջազգային գործողություններ ձեռնարկվեն կառավարությունների և արդյունաբերության միջև՝ համընթաց քայլելու համար: »:

Ապահովեք AI-ի զարգացման կյանքի ցիկլի չորս հիմնական փուլերը

AI համակարգերի անվտանգ զարգացման ուղեցույցները կառուցված են չորս բաժիններով, որոնցից յուրաքանչյուրը համապատասխանում է AI համակարգի զարգացման կյանքի ցիկլի տարբեր փուլերին՝ անվտանգ դիզայն, անվտանգ մշակում, անվտանգ ներդրում և անվտանգ շահագործում և սպասարկում:

• Անվտանգ դիզայն առաջարկում է հատուկ ուղեցույց AI-ի համակարգի զարգացման կյանքի ցիկլի նախագծման փուլի համար: Այն ընդգծում է ռիսկերի ճանաչման և սպառնալիքների մոդելավորման, ինչպես նաև համակարգերի և մոդելների նախագծման ժամանակ տարբեր թեմաների և փոխզիջումների հաշվի առնելու կարևորությունը:
• Անվտանգ զարգացում ընդգրկում է AI համակարգի կյանքի ցիկլի զարգացման փուլը: Առաջարկությունները ներառում են մատակարարման շղթայի անվտանգության ապահովումը, մանրակրկիտ փաստաթղթերի պահպանումը և ռեսուրսների և տեխնիկական պարտքի արդյունավետ կառավարումը:
• Ապահով իրականացում անդրադառնում է AI համակարգերի ներդրման փուլին: Ուղեցույցներն այս դեպքում վերաբերում են ենթակառուցվածքների և մոդելների պաշտպանությանը փոխզիջումներից, սպառնալիքներից կամ կորուստներից, defiմիջադեպերի կառավարման գործընթացների սահմանում և պատասխանատու ազատման սկզբունքների ընդունում:
• Անվտանգ շահագործում և սպասարկում պարունակում է ցուցումներ արհեստական ​​ինտելեկտի մոդելների ներդրումից հետո շահագործման և պահպանման փուլի վերաբերյալ: Այն ընդգրկում է այնպիսի ասպեկտներ, ինչպիսիք են արդյունավետ գրանցումը և մոնիտորինգը, թարմացումների կառավարումը և տեղեկատվության պատասխանատու փոխանակումը:

Ուղեցույցներ բոլոր AI համակարգերի համար

Ուղեցույցները կիրառելի են բոլոր տեսակի AI համակարգերի և ոչ միայն «սահմանային» մոդելների համար, որոնք լայնորեն քննարկվել են 1 թվականի նոյեմբերի 2-ին և 2023-ին Մեծ Բրիտանիայում կայացած AI-ի անվտանգության գագաթնաժողովում: Ուղեցույցները դրանք կիրառելի են նաև բոլոր մասնագետների համար և AI-ի շուրջ, ներառյալ մշակողները, տվյալների գիտնականները, մենեջերները, որոշումներ կայացնողները և այլ AI «ռիսկի սեփականատերեր»:

«Մենք ուղեցույցներն ուղղել ենք հիմնականում արհեստական ​​ինտելեկտի համակարգերի մատակարարներին, որոնք օգտագործում են կազմակերպության կողմից հյուրընկալված մոդելներ (կամ օգտագործում են արտաքին API-ներ), բայց մենք խրախուսում ենք բոլոր շահագրգիռ կողմերին… կարդալ այս ուղեցույցները՝ օգնելու նրանց կայացնել տեղեկացված նախագծային որոշումներ, մշակել, իրականացնել և գործարկել իրենց ծրագրերը: արհեստական ​​ինտելեկտի համակարգեր», ասել ԱԱԽԿ-ն։

AI-ի անվտանգության գագաթնաժողովի արդյունքները

Արհեստական ​​ինտելեկտի անվտանգության գագաթնաժողովի ժամանակ, որն անցկացվել է Անգլիայի Բուքինգհեմշիր քաղաքի Բլետչլի այգու պատմական վայրում, 28 երկրների ներկայացուցիչներ ստորագրել են համաձայնագիր. Բլետչլիի հայտարարություն AI անվտանգության մասին , որն ընդգծում է համակարգերի նախագծման և ներդրման կարևորությունը արհեստական ​​բանականություն ապահով և պատասխանատու կերպով՝ շեշտը դնելով համագործակցության վրա: և թափանցիկություն։

Հայտարարության մեջ նշվում է, որ անհրաժեշտ է անդրադառնալ նորագույն AI մոդելների հետ կապված ռիսկերին, մասնավորապես այնպիսի ոլորտներում, ինչպիսիք են. ՏՏ անվտանգություն և կենսատեխնոլոգիա, և աջակցում է ավելի մեծ միջազգային համագործակցությանը՝ ապահովելու անվտանգ, էթիկական և շահավետ օգտագործումըIA.

Մեծ Բրիտանիայի գիտության և տեխնոլոգիաների նախարար Միշել Դոնելանն ասաց, որ նոր հրապարակված ուղեցույցները «կիբերանվտանգությունը կդնեն աշխարհի զարգացման հիմքում:արհեստական ​​բանականությունսկզբից մինչև տեղակայում:

Արձագանքները կիբերանվտանգության ոլորտի այս AI ուղեցույցներին

վերաբերյալ ուղեցույցների հրապարակումըարհեստական ​​բանականություն այն ողջունվել է փորձագետների և վերլուծաբանների կողմից կիբեռանվտանգության.

Darktrace-ի սպառնալիքների վերլուծության գլոբալ ղեկավար Թոբի Լյուիսը ասել է defiավարտել է «ողջունելի նախագիծ» ուղեցույցը համակարգերի համար արհեստական ​​բանականություն անվտանգ և հուսալի:

Մեկնաբանելով էլեկտրոնային փոստի միջոցով՝ Լյուիսն ասաց. «Ես ուրախ եմ տեսնել, որ ուղեցույցները կարևորում են արհեստական ​​բանականություն պաշտպանել իրենց տվյալները և մոդելները հարձակվողներից, և որ AI օգտագործողները կիրառեն ճիշտը խելք արհեստական ճիշտ առաջադրանքի համար: Նրանք, ովքեր զարգացնում են արհեստական ​​ինտելեկտը, պետք է ավելի հեռուն գնան և վստահություն ձևավորեն՝ օգտատերերին ճանապարհորդելով, թե ինչպես է իրենց AI-ն հասնում պատասխաններին: Վստահությամբ և վստահությամբ մենք ավելի արագ և ավելի շատ մարդկանց համար կիմանանք AI-ի առավելությունները»:

Informatica-ի Հարավային Եվրոպայի փոխնախագահ Ժորժ Անիջարն ասում է, որ ուղեցույցների հրապարակումը «զգալի քայլ է այս արագ զարգացող ոլորտում ներհատուկ կիբերանվտանգության մարտահրավերներին դիմակայելու ուղղությամբ»:

BlogInnovazione.it