Bagong gabay sa seguridad ng AI na inilathala ng NCSC, CISA at iba pang internasyonal na ahensya

Ang Mga Alituntunin para sa Pagbuo ng Mga Ligtas na AI System ay isinulat upang matulungan ang mga developer na matiyak na ang seguridad ay binuo sa puso ng mga bagong modelo ng AI.

Ang National Cyber ​​​​Security Center ng UK, ang US Cybersecurity and Infrastructure Security Agency at mga internasyonal na ahensya mula sa 16 na iba pang mga bansa ay naglathala ng bagong gabay sa seguridad ng mga artificial intelligence system.

Le mga alituntunin para sa ligtas na pagbuo ng mga sistema ng artificial intelligence idinisenyo ang mga ito upang gabayan ang mga developer partikular sa pamamagitan ng disenyo, pag-develop, pagpapatupad at pagpapatakbo ng mga AI system at tiyakin na ang seguridad ay nananatiling kritikal na bahagi sa kabuuan ng kanilang lifecycle. Gayunpaman, dapat ding mahanap ng ibang stakeholder sa mga proyekto ng AI na kapaki-pakinabang ang impormasyong ito.

Ang mga alituntuning ito ay inilabas kaagad pagkatapos na ang mga pinuno ng mundo ay nakatuon sa ligtas at responsableng pag-unlad ng artificial intelligence sa AI ​​Safety Summit noong unang bahagi ng Nobyembre.

Sa buod: mga alituntunin para sa pagbuo ng mga ligtas na AI system

Ang Mga Alituntunin para sa Pagbuo ng Ligtas na Mga Sistema ng AI ay nagtakda ng mga rekomendasyon upang matiyak na ang mga modelo ng AI - kung ginawa mula sa simula o batay sa mga umiiral na modelo o mga API mula sa iba pang mga kumpanya - "gumana ayon sa nilalayon, magagamit kapag kinakailangan, at gumagana nang hindi naghahayag ng sensitibong data sa mga hindi awtorisadong partido . “

Ang susi dito ay ang "secure by default" na diskarte na itinaguyod ng NCSC, CISA, National Institute of Standards and Technology at iba pang internasyonal na ahensya ng cybersecurity sa mga umiiral na frameworks. Ang mga prinsipyo ng mga balangkas na ito ay kinabibilangan ng:

• Pagmamay-ari ng mga resulta ng kaligtasan para sa mga customer.
• Pagyakap sa radikal na transparency at pananagutan.
• Bumuo ng istraktura at pamumuno ng organisasyon upang ang "kaligtasan ayon sa disenyo" ay isang pangunahing priyoridad sa negosyo.

Ayon sa NCSC, may kabuuang 21 ahensya at ministri mula sa kabuuang 18 bansa ang nagkumpirma na kanilang aaprubahan at co-seal ang mga bagong alituntunin. Kabilang dito ang National Security Agency at ang Federal Bureau of Investigations sa United States, gayundin ang Canadian Center for Cyber ​​​​Security, ang French Cyber ​​​​Security Agency, ang Federal Office para sa Cyber ​​​​Security ng Germany, ang Singapore Cyber ​​​​Security Agency at Japan National Incident Center. Paghahanda at diskarte sa cybersecurity.

Lindy Cameron, punong ehekutibo ng NCSC, sinabi sa isang press release : "Alam namin na ang artificial intelligence ay umuunlad sa isang kahanga-hangang bilis at kailangang magkaroon ng pinagsamang internasyonal na aksyon, sa pagitan ng mga gobyerno at industriya, upang makasabay. ”.

I-secure ang apat na pangunahing yugto ng lifecycle ng pagbuo ng AI

Ang mga alituntunin para sa ligtas na pag-develop ng mga AI system ay nakaayos sa apat na seksyon, bawat isa ay tumutugma sa iba't ibang yugto ng development lifecycle ng isang AI system: secure na disenyo, secure na development, secure na pagpapatupad, at secure na operasyon at pagpapanatili.

• Ligtas na disenyo nag-aalok ng tiyak na gabay para sa yugto ng disenyo ng lifecycle ng pagbuo ng AI system. Binibigyang-diin nito ang kahalagahan ng pagkilala sa mga panganib at pagsasagawa ng pagmomodelo ng pagbabanta, pati na rin ang pagsasaalang-alang sa iba't ibang paksa at mga tradeoff kapag nagdidisenyo ng mga system at modelo.
• Ligtas na pag-unlad sumasaklaw sa yugto ng pag-unlad ng ikot ng buhay ng AI system. Kasama sa mga rekomendasyon ang pagtiyak sa seguridad ng supply chain, pagpapanatili ng masusing dokumentasyon, at epektibong pamamahala sa mga mapagkukunan at teknikal na utang.
• Secure na pagpapatupad tumutugon sa yugto ng pagpapatupad ng mga AI system. Ang mga alituntunin sa kasong ito ay may kinalaman sa pangangalaga sa imprastraktura at mga modelo mula sa mga kompromiso, pagbabanta o pagkalugi, ang definition ng mga proseso para sa pamamahala ng insidente at ang pagpapatibay ng mga responsableng prinsipyo ng pagpapalaya.
• Ligtas na operasyon at pagpapanatili naglalaman ng mga indikasyon sa yugto ng pagpapatakbo at pagpapanatili kasunod ng pag-deploy ng mga modelo ng artificial intelligence. Sinasaklaw nito ang mga aspeto tulad ng epektibong pag-log at pagsubaybay, pamamahala ng mga update at responsableng pagbabahagi ng impormasyon.

Mga alituntunin para sa lahat ng AI system

Naaangkop ang mga alituntunin sa lahat ng uri ng AI system at hindi lamang sa mga modelong "frontier" na malawakang tinalakay sa AI ​​Safety Summit na hino-host sa UK noong 1 at 2 Nobyembre 2023. Ang mga alituntunin Naaangkop din ang mga ito sa lahat ng propesyonal na nagtatrabaho sa at sa paligid ng AI, kabilang ang mga developer, data scientist, manager, gumagawa ng desisyon, at iba pang "may-ari ng panganib" ng AI.

“Itinuon namin ang mga alituntunin lalo na sa mga vendor ng AI system na gumagamit ng mga modelong hino-host ng isang organisasyon (o gumagamit ng mga panlabas na API), ngunit hinihikayat namin ang lahat ng mga interesadong partido... na basahin ang mga alituntuning ito upang matulungan silang gumawa ng matalinong mga desisyon sa disenyo, pagbuo, pagpapatupad at pagpapatakbo ng kanilang mga sistema ng artificial intelligence", sinabi ang NCSC.

Mga resulta ng AI ​​Safety Summit

Sa panahon ng AI ​​Safety Summit, na ginanap sa makasaysayang lugar ng Bletchley Park sa Buckinghamshire, England, nilagdaan ng mga kinatawan mula sa 28 bansa ang Pahayag ni Bletchley sa Kaligtasan ng AI , na nagha-highlight sa kahalagahan ng pagdidisenyo at pagpapatupad ng mga system artipisyal na katalinuhan ligtas at responsable, na may diin sa pakikipagtulungan. at transparency.

Kinikilala ng pahayag ang pangangailangang tugunan ang mga panganib na nauugnay sa mga makabagong modelo ng AI, partikular sa mga lugar tulad ng seguridad sa computer at biotechnology, at sumusuporta sa higit na internasyonal na pakikipagtulungan upang matiyak ang ligtas, etikal at kapaki-pakinabang na paggamit ngIA.

Sinabi ni Michelle Donelan, kalihim ng agham at teknolohiya ng Britain, na ang bagong-publish na mga alituntunin ay "maglalagay ng cybersecurity sa gitna ng pag-unlad ngartipisyal na katalinuhan” mula sa simula hanggang sa pag-deploy.

Mga reaksyon sa mga alituntuning ito ng AI mula sa industriya ng cybersecurity

Ang paglalathala ng mga alituntunin saartipisyal na katalinuhan ay tinanggap ng mga eksperto at analyst cybersecurity.

Si Toby Lewis, pandaigdigang pinuno ng pagsusuri sa pagbabanta sa Darktrace, ay may definatapos ang gabay na "isang welcome project" para sa mga system artipisyal na katalinuhan ligtas at maaasahan.

Sa pagkomento sa pamamagitan ng email, sinabi ni Lewis: "Natutuwa akong makita na ang mga alituntunin ay nagtatampok ng pangangailangan para sa artipisyal na katalinuhan protektahan ang kanilang data at mga modelo mula sa mga umaatake at ang mga gumagamit ng AI ay ilapat ang mga tama katalinuhan artipisyal para sa tamang gawain. Ang mga bumubuo ng AI ay dapat na magpatuloy at bumuo ng tiwala sa pamamagitan ng paglalakad sa mga user sa paglalakbay kung paano naaabot ng kanilang AI ang mga sagot. Nang may kumpiyansa at tiwala, malalaman natin ang mga benepisyo ng AI nang mas mabilis at para sa mas maraming tao."

Sinabi ni Georges Anidjar, vice president para sa Southern Europe sa Informatica, na ang paglalathala ng mga alituntunin ay nagmamarka ng "isang makabuluhang hakbang patungo sa pagtugon sa mga hamon sa cybersecurity na likas sa mabilis na umuusbong na larangang ito."

BlogInnovazione.it