Ново упатство за безбедност на вештачката интелигенција објавено од NCSC, CISA и други меѓународни агенции

Насоките за развој на безбедни системи за вештачка интелигенција беа напишани за да им помогнат на програмерите да се осигураат дека безбедноста е вградена во срцето на новите модели со вештачка интелигенција.

Националниот центар за сајбер безбедност на Обединетото Кралство, Американската агенција за кибер-безбедност и безбедност на инфраструктурата и меѓународните агенции од 16 други земји објавија нови упатства за безбедноста на системите за вештачка интелигенција.

Le упатства за безбеден развој на системи за вештачка интелигенција тие се дизајнирани да ги водат програмерите конкретно преку дизајнирање, развој, имплементација и функционирање на системи за вештачка интелигенција и да обезбедат безбедноста да остане критична компонента во текот на нивниот животен циклус. Сепак, на другите засегнати страни во проектите за вештачка интелигенција, исто така, оваа информација треба да им биде корисна.

Овие упатства беа објавени набргу откако светските лидери се обврзаа на безбеден и одговорен развој на вештачката интелигенција на Самитот за безбедност на вештачката интелигенција на почетокот на ноември.

Накратко: упатства за развој на безбедни системи за вештачка интелигенција

Насоките за развој на безбедни системи за вештачка интелигенција поставуваат препораки за да се осигура дека моделите со вештачка интелигенција – без разлика дали се направени од почеток или базирани на постоечки модели или API од други компании – „работат како што е предвидено, се достапни кога е потребно и работат без откривање чувствителни податоци на неовластени страни . “

Клучно за ова е пристапот „сигурен по дифолт“ што го застапуваат NCSC, CISA, Националниот институт за стандарди и технологија и разни други меѓународни агенции за сајбер безбедност во постоечките рамки. Принципите на овие рамки вклучуваат:

• Преземете ја сопственоста на безбедносните резултати за клиентите.
• Прифаќање на радикална транспарентност и одговорност.
• Изградете организациона структура и лидерство, така што „безбедноста според дизајнот“ е врвен бизнис приоритет.

Според NCSC, вкупно 21 агенција и министерство од вкупно 18 земји потврдија дека ќе ги одобрат и заедно ќе ги запечатат новите упатства. Ова ги вклучува Агенцијата за национална безбедност и Федералното биро за истраги во САД, како и канадскиот центар за сајбер безбедност, Француската агенција за сајбер безбедност, Федералната канцеларија за кибер безбедност на Германија, Сингапур Агенцијата за сајбер безбедност и јапонскиот национален центар за инциденти. Подготовка и стратегија за сајбер безбедност.

Линди Камерон, извршен директор на NCSC, рече во соопштение за медиумите : „Знаеме дека вештачката интелигенција се развива со феноменална брзина и треба да има усогласена меѓународна акција, меѓу владите и индустријата, за да се задржи чекорот. “.

Обезбедете ги четирите клучни фази од животниот циклус на развој на ВИ

Упатствата за безбеден развој на системи за вештачка интелигенција се структурирани во четири дела, од кои секоја одговара на различни фази од животниот циклус на развој на системот за вештачка интелигенција: безбеден дизајн, безбеден развој, безбедна имплементација и безбедно работење и одржување.

• Безбеден дизајн нуди конкретни насоки за фазата на дизајнирање на животниот циклус на развој на системот за вештачка интелигенција. Ја нагласува важноста од препознавање ризици и спроведување на моделирање закани, како и разгледување на различни теми и компромиси при дизајнирање системи и модели.
• Безбеден развој ја покрива фазата на развој на животниот циклус на системот AI. Препораките вклучуваат обезбедување безбедност на синџирот на снабдување, одржување на темелна документација и ефикасно управување со ресурсите и техничкиот долг.
• Сигурна имплементација се однесува на фазата на имплементација на системите за вештачка интелигенција. Насоките во овој случај се однесуваат на заштита на инфраструктурата и моделите од компромиси, закани или загуби, defiконцепт на процеси за управување со инциденти и усвојување на принципи за одговорно ослободување.
• Безбедно работење и одржување содржи индикации за фазата на работа и одржување по распоредувањето на моделите со вештачка интелигенција. Опфаќа аспекти како што се ефективно евидентирање и следење, управување со ажурирања и одговорно споделување информации.

Насоки за сите системи со вештачка интелигенција

Упатствата се применливи за сите видови системи за вештачка интелигенција, а не само за „граничните“ модели за кои опширно се дискутираше на Самитот за безбедност на вештачката интелигенција што се одржа во ОК на 1 и 2 ноември 2023 година. Упатствата се применливи и за сите професионалци кои работат во и околу вештачката интелигенција, вклучувајќи програмери, научници за податоци, менаџери, носители на одлуки и други „сопственици на ризик“ со вештачка интелигенција.

„Ги насочивме упатствата првенствено кон продавачите на системи за вештачка интелигенција кои користат модели хостирани од организација (или користат надворешни API), но ги охрабруваме сите заинтересирани страни... да ги прочитаат овие упатства за да им помогнат да донесуваат информирани одлуки за дизајн, развој, имплементација и функционирање на нивните системи за вештачка интелигенција“, рече тој NCSC.

Резултати од Самитот за безбедност на вештачката интелигенција

За време на Самитот за безбедност на вештачката интелигенција, одржан на историската локација на паркот Блечли во Бакингемшир, Англија, претставници од 28 земји потпишаа Изјава на Блечли за безбедност на вештачката интелигенција , што ја нагласува важноста на дизајнирање и имплементација на системи вештачка интелигенција безбедно и одговорно, со акцент на соработката. и транспарентност.

Изјавата ја препознава потребата да се одговори на ризиците поврзани со врвните модели на вештачка интелигенција, особено во области како што се ИТ безбедност и биотехнологијата и поддржува поголема меѓународна соработка за да се обезбеди безбедна, етичка и корисна употреба наIA.

Мишел Донелан, британска секретарка за наука и технологија, рече дека новообјавените упатства „ќе ја стават сајбер безбедноста во срцето на развојот навештачка интелигенција“ од почетокот до распоредувањето.

Реакции на овие упатства за вештачка интелигенција од индустријата за сајбер безбедност

Објавувањето на упатствата завештачка интелигенција е поздравена од експерти и аналитичари cybersecurity.

Тоби Луис, глобален шеф за анализа на закани во Darktrace, има defiго заврши водичот „проект за добредојде“ за системи вештачка интелигенција безбеден и сигурен.

Коментирајќи преку е-пошта, Луис рече: „Задоволен сум што гледам дека упатствата ја нагласуваат потребата за вештачка интелигенција заштита на нивните податоци и модели од напаѓачи и дека корисниците на вештачка интелигенција ги применуваат вистинските интелигенција вештачки за вистинската задача. Оние кои развиваат вештачка интелигенција треба да одат подалеку и да градат доверба така што ќе ги водат корисниците низ патувањето за тоа како нивната вештачка интелигенција ги достигнува одговорите. Со доверба и доверба, ќе ги реализираме придобивките од вештачката интелигенција побрзо и за повеќе луѓе“.

Жорж Аниџар, потпретседател за Јужна Европа во Informatica, рече дека објавувањето на упатствата означува „значаен чекор кон решавање на предизвиците за сајбер безбедност својствени на ова поле кое брзо се развива“.

BlogInnovazione.it