NCSC, CISA va boshqa xalqaro agentliklar tomonidan nashr etilgan AI xavfsizligi bo'yicha yangi qo'llanma

Xavfsiz sun'iy intellekt tizimlarini ishlab chiqish bo'yicha yo'riqnoma ishlab chiquvchilarga xavfsizlik yangi AI modellarining qalbiga o'rnatilganligini ta'minlashga yordam berish uchun yozilgan.

Buyuk Britaniyaning Milliy kiberxavfsizlik markazi, AQShning kiberxavfsizlik va infratuzilma xavfsizligi agentligi va boshqa 16 davlatning xalqaro agentliklari sunʼiy intellekt tizimlari xavfsizligi boʻyicha yangi yoʻriqnomani chop etdi.

Le sun'iy intellekt tizimlarini xavfsiz rivojlantirish bo'yicha ko'rsatmalar ular AI tizimlarini loyihalash, ishlab chiqish, joriy etish va ishlatish orqali ishlab chiquvchilarga yo'l-yo'riq ko'rsatish uchun mo'ljallangan va xavfsizlik ularning butun hayoti davomida muhim komponent bo'lib qolishini ta'minlaydi. Biroq, AI loyihalaridagi boshqa manfaatdor tomonlar ham ushbu ma'lumotni foydali deb topishlari kerak.

Ushbu yoʻriqnomalar noyabr oyi boshida boʻlib oʻtgan sunʼiy intellekt xavfsizligi sammitida dunyo yetakchilari sunʼiy intellektni xavfsiz va masʼuliyatli rivojlantirishga sodiqlik qilganidan soʻng eʼlon qilindi.

Xulosa: xavfsiz AI tizimlarini ishlab chiqish bo'yicha ko'rsatmalar

Xavfsiz sun'iy intellekt tizimlarini ishlab chiqish bo'yicha yo'riqnomada sun'iy intellekt modellari - noldan qurilganmi yoki mavjud modellar yoki boshqa kompaniyalarning API-lari asosida - "mo'ljallanganidek ishlashi, kerak bo'lganda foydalanish mumkin bo'lishi va ruxsatsiz shaxslarga maxfiy ma'lumotlarni oshkor qilmasdan ishlashi" bo'yicha tavsiyalar berilgan. . "

Buning kaliti NCSC, CISA, Milliy standartlar va texnologiyalar instituti va boshqa xalqaro kiberxavfsizlik agentliklari tomonidan ilgari surilgan "sukut bo'yicha xavfsiz" yondashuvidir. Ushbu ramkalar tamoyillari quyidagilarni o'z ichiga oladi:

• Mijozlar uchun xavfsizlik natijalariga egalik qiling.
• Radikal shaffoflik va javobgarlikni qo'llash.
• Tashkiliy tuzilma va etakchilikni shunday yaratingki, “dizayn bo'yicha xavfsizlik” biznesning ustuvor yo'nalishi hisoblanadi.

NCSC ma'lumotlariga ko'ra, jami 21 mamlakatdan jami 18 ta agentlik va vazirliklar yangi ko'rsatmalarni ma'qullashlari va muhrlashlarini tasdiqladilar. Bunga AQSh Milliy xavfsizlik agentligi va Federal tergov byurosi, shuningdek, Kanada Kiberxavfsizlik markazi, Frantsiya kiberxavfsizlik agentligi, Germaniyaning Federal kiberxavfsizlik idorasi, Singapur kiradi. Kiberxavfsizlik agentligi va Yaponiya milliy hodisalar markazi. Kiberxavfsizlikni tayyorlash va strategiyasi.

Bu haqda NCSC bosh direktori Lindi Kemeron ma'lum qildi press-reliz : "Biz bilamizki, sun'iy intellekt ajoyib sur'atlarda rivojlanmoqda va bu tezlikni saqlab qolish uchun hukumatlar va sanoat o'rtasida kelishilgan xalqaro harakatlar bo'lishi kerak. ”.

AIni ishlab chiqish hayotiy tsiklining to'rtta asosiy bosqichini ta'minlang

AI tizimlarini xavfsiz rivojlantirish bo'yicha ko'rsatmalar to'rtta bo'limga tuzilgan bo'lib, ularning har biri AI tizimining rivojlanish hayotiy tsiklining turli bosqichlariga to'g'ri keladi: xavfsiz dizayn, xavfsiz ishlab chiqish, xavfsiz amalga oshirish va xavfsiz foydalanish va texnik xizmat ko'rsatish.

• Xavfsiz dizayn AI tizimini ishlab chiqish hayotiy tsiklining dizayn bosqichi uchun maxsus ko'rsatmalarni taklif qiladi. U xavflarni tan olish va tahdidlarni modellashtirish, shuningdek, tizimlar va modellarni loyihalashda turli mavzular va kelishuvlarni hisobga olish muhimligini ta'kidlaydi.
• Xavfsiz rivojlanish AI tizimining hayot aylanishining rivojlanish bosqichini qamrab oladi. Tavsiyalar ta'minot zanjiri xavfsizligini ta'minlash, to'liq hujjatlarni yuritish, resurslar va texnik qarzlarni samarali boshqarishni o'z ichiga oladi.
• Xavfsiz amalga oshirish AI tizimlarini amalga oshirish bosqichini ko'rib chiqadi. Ushbu holatda ko'rsatmalar infratuzilma va modellarni murosalar, tahdidlar yoki yo'qotishlardan himoya qilishga taalluqlidir. defihodisalarni boshqarish jarayonlarini ishlab chiqish va javobgarlikdan ozod qilish tamoyillarini qabul qilish.
• Xavfsiz foydalanish va texnik xizmat ko'rsatish sun'iy intellekt modellarini joylashtirishdan keyingi foydalanish va texnik xizmat ko'rsatish bosqichiga oid ko'rsatmalarni o'z ichiga oladi. U samarali ro'yxatga olish va monitoring, yangilanishlarni boshqarish va mas'uliyatli ma'lumot almashish kabi jihatlarni qamrab oladi.

Barcha AI tizimlari uchun ko'rsatmalar

Qoʻllanmalar 1-yil 2-2023-noyabrda Buyuk Britaniyada boʻlib oʻtgan AI xavfsizligi sammitida keng muhokama qilingan “chegaraviy” modellarga emas, balki barcha turdagi AI tizimlariga nisbatan qoʻllaniladi. Qoʻllanmalar, shuningdek, ushbu sohada ishlaydigan barcha mutaxassislarga ham tegishli. va AI atrofida, shu jumladan ishlab chiquvchilar, ma'lumotlar bo'yicha olimlar, menejerlar, qaror qabul qiluvchilar va boshqa AI "xavf egalari".

“Biz yoʻriqnomalarni birinchi navbatda tashkilot tomonidan joylashtirilgan modellardan foydalanadigan (yoki tashqi API’lardan foydalanadigan) AI tizimi sotuvchilari uchun moʻljallangan edik, biroq biz barcha manfaatdor tomonlarni ushbu yoʻriqnomalarni oʻqib chiqishga, dizayn qarorlarini ishlab chiqish, amalga oshirish va ishlatishga yordam berishni tavsiya qilamiz. sun'iy intellekt tizimlari" u e'lon qildi NCSC.

AI xavfsizligi sammiti natijalari

Angliyaning Bukingemshir shahridagi Bletchli bog'ining tarixiy joyida bo'lib o'tgan AI xavfsizligi sammitida 28 mamlakat vakillari imzo chekdilar. AI xavfsizligi bo'yicha Bletchley bayonoti , bu tizimlarni loyihalash va amalga oshirish muhimligini ta'kidlaydi sun'iy aql hamkorlikka urg'u berib, xavfsiz va mas'uliyatli. va shaffoflik.

Bayonot zamonaviy AI modellari bilan bog'liq xavflarni, xususan, kabi sohalarda hal qilish zarurligini tan oladi. IT xavfsizligi va biotexnologiyani qo'llab-quvvatlaydi va xavfsiz, axloqiy va foydali foydalanishni ta'minlash uchun kengroq xalqaro hamkorlikni qo'llab-quvvatlaydi.IA.

Buyuk Britaniyaning fan va texnologiya kotibi Mishel Donelanning aytishicha, yangi nashr etilgan yo‘riqnomalar “kiberxavfsizlikni rivojlanish markaziga qo‘yadi.sun'iy aql” tashkil etilganidan boshlab tarqatilishigacha.

Kiberxavfsizlik sanoatining ushbu AI ko'rsatmalariga munosabati

bo'yicha yo'riqnomalarni nashr etishsun'iy aql ekspert va tahlilchilar tomonidan olqishlandi kiberxavfsizlik.

Tobi Lyuis, Darktrace tahdid tahlilining global rahbari defitizimlar uchun "xush kelibsiz loyiha" qo'llanmasini tugatdi sun'iy aql xavfsiz va ishonchli.

Elektron pochta orqali izoh berarkan, Lyuis shunday dedi: "Ko'rsatmalar zarurligini ta'kidlaganini ko'rishdan mamnunman. sun'iy aql o'z ma'lumotlari va modellarini tajovuzkorlardan himoya qilish va AI foydalanuvchilari to'g'risini qo'llash ma'lumot sun'iy to'g'ri vazifa uchun. AIni ishlab chiquvchilar oldinga borishlari va foydalanuvchilarga AI qanday javoblarga erishishi haqida sayohat qilish orqali ishonchni mustahkamlashlari kerak. Ishonch va ishonch bilan biz sun'iy intellektning afzalliklarini tezroq va ko'proq odamlar uchun tushunamiz."

Informatica kompaniyasining Janubiy Yevropa bo‘yicha vitse-prezidenti Georges Anidjarning ta’kidlashicha, ko‘rsatmalarning nashr etilishi “bu tez rivojlanayotgan sohaga xos bo‘lgan kiberxavfsizlik muammolarini hal qilish yo‘lidagi muhim qadamdir”.

BlogInnovazione.it