Gwida ġdida dwar is-sigurtà tal-IA ppubblikata mill-NCSC, is-CISA u aġenziji internazzjonali oħra

Il-Linji Gwida għall-Iżvilupp ta’ Sistemi ta’ AI Sikura nkitbu biex jgħinu lill-iżviluppaturi jiżguraw li s-sigurtà tkun mibnija fil-qalba ta’ mudelli ġodda ta’ AI.

Iċ-Ċentru Nazzjonali taċ-Ċibersigurtà tar-Renju Unit, iċ-Ċibersigurtà u l-Aġenzija tas-Sigurtà tal-Infrastruttura tal-Istati Uniti u aġenziji internazzjonali minn 16-il pajjiż ieħor ippubblikaw gwida ġdida dwar is-sigurtà tas-sistemi tal-intelliġenza artifiċjali.

Le linji gwida għall-iżvilupp sikur ta’ sistemi ta’ intelliġenza artifiċjali huma ddisinjati biex jiggwidaw lill-iżviluppaturi speċifikament permezz tad-disinn, l-iżvilupp, l-implimentazzjoni u l-operat tas-sistemi tal-IA u jiżguraw li s-sigurtà tibqa’ komponent kritiku matul iċ-ċiklu tal-ħajja tagħhom. Madankollu, partijiet interessati oħra fil-proġetti tal-IA għandhom isibu din l-informazzjoni utli wkoll.

Dawn il-linji gwida ġew rilaxxati ftit wara li l-mexxejja dinjin impenjaw ruħhom għall-iżvilupp sikur u responsabbli tal-intelliġenza artifiċjali fis-Summit dwar is-Sigurtà tal-AI fil-bidu ta’ Novembru.

Fil-qosor: linji gwida għall-iżvilupp ta' sistemi sikuri tal-IA

Il-Linji Gwida għall-Iżvilupp ta’ Sistemi ta’ AI Sikuri jistabbilixxu rakkomandazzjonijiet biex jiżguraw li l-mudelli tal-AI – kemm jekk mibnija mill-bidu jew ibbażati fuq mudelli eżistenti jew APIs minn kumpaniji oħra – “jaħdmu kif maħsub, huma disponibbli meta jkun meħtieġ, u jaħdmu mingħajr ma jiżvelaw data sensittiva lil partijiet mhux awtorizzati. . “

Ewlenin għal dan huwa l-approċċ "sikur b'mod awtomatiku" sostnut mill-NCSC, is-CISA, l-Istitut Nazzjonali tal-Istandards u t-Teknoloġija u diversi aġenziji internazzjonali oħra taċ-ċibersigurtà f'oqfsa eżistenti. Il-prinċipji ta’ dawn l-oqfsa jinkludu:

• Ħu sjieda tar-riżultati tas-sikurezza għall-klijenti.
• Tħaddan it-trasparenza u r-responsabbiltà radikali.
• Ibni struttura organizzattiva u tmexxija sabiex "is-sikurezza mid-disinn" tkun l-ogħla prijorità tan-negozju.

Skont l-NCSC, total ta’ 21 aġenzija u ministeri minn total ta’ 18-il pajjiż ikkonfermaw li se japprovaw u jissiġillaw flimkien il-linji gwida l-ġodda. Dan jinkludi l-Aġenzija tas-Sigurtà Nazzjonali u l-Uffiċċju Federali tal-Investigazzjonijiet fl-Istati Uniti, kif ukoll iċ-Ċentru Kanadiż għas-Sigurtà Ċibernetika, l-Aġenzija tas-Sigurtà Ċibernetika Franċiża, l-Uffiċċju Federali għas-Sigurtà Ċibernetika tal-Ġermanja, is-Singapor Aġenzija tas-Sigurtà Ċibernetika u Ċentru Nazzjonali tal-Inċidenti tal-Ġappun. Preparazzjoni u strateġija taċ-ċibersigurtà.

Lindy Cameron, kap eżekuttiv tal-NCSC, qal fi stqarrija għall-istampa : “Nafu li l-intelliġenza artifiċjali qed tiżviluppa b’rata fenomenali u jeħtieġ li jkun hemm azzjoni internazzjonali miftiehma, bejn il-gvernijiet u l-industrija, biex iżżomm il-pass. ”.

Żgura l-erba’ fażijiet ewlenin taċ-ċiklu tal-ħajja tal-iżvilupp tal-IA

Il-linji gwida għall-iżvilupp sikur tas-sistemi AI huma strutturati f’erba’ taqsimiet, kull waħda tikkorrispondi għal fażijiet differenti taċ-ċiklu tal-ħajja tal-iżvilupp ta’ sistema AI: disinn sikur, żvilupp sigur, implimentazzjoni sigura, u tħaddim u manutenzjoni siguri.

• Disinn sikur joffri gwida speċifika għall-fażi tad-disinn taċ-ċiklu tal-ħajja tal-iżvilupp tas-sistema AI. Tenfasizza l-importanza li jiġu rikonoxxuti r-riskji u t-twettiq tal-mudellar tat-theddid, kif ukoll li jiġu kkunsidrati diversi suġġetti u kompromessi meta jiġu ddisinjati sistemi u mudelli.
• Żvilupp sikur ikopri l-fażi ta’ żvilupp taċ-ċiklu tal-ħajja tas-sistema AI. Ir-rakkomandazzjonijiet jinkludu l-iżgurar tas-sigurtà tal-katina tal-provvista, iż-żamma ta’ dokumentazzjoni bir-reqqa, u l-ġestjoni effettiva tar-riżorsi u d-dejn tekniku.
• Implimentazzjoni sigura jindirizza l-fażi ta' implimentazzjoni tas-sistemi tal-IA. Il-linji gwida f'dan il-każ jikkonċernaw is-salvagwardja tal-infrastruttura u l-mudelli minn kompromessi, theddid jew telf, il- defiħolqien ta' proċessi għall-ġestjoni ta' inċidenti u l-adozzjoni ta' prinċipji ta' rilaxx responsabbli.
• Operazzjoni u manutenzjoni siguri ikun fihom indikazzjonijiet dwar il-fażi ta' tħaddim u manutenzjoni wara l-iskjerament tal-mudelli ta' intelliġenza artifiċjali. Ikopri aspetti bħall-illoggjar u l-monitoraġġ effettivi, il-ġestjoni tal-aġġornamenti u l-kondiviżjoni responsabbli tal-informazzjoni.

Linji gwida għas-sistemi kollha tal-AI

Il-linji gwida huma applikabbli għat-tipi kollha ta’ sistemi AI u mhux biss mudelli “tal-fruntiera” li ġew diskussi b’mod estensiv fis-Summit dwar is-Sigurtà tal-AI ospitat fir-Renju Unit fl-1 u t-2 ta’ Novembru 2023. Il-linji gwida Huma applikabbli wkoll għall-professjonisti kollha li jaħdmu fil- u madwar l-AI, inklużi l-iżviluppaturi, ix-xjenzati tad-dejta, il-maniġers, dawk li jieħdu d-deċiżjonijiet, u "sidien tar-riskju" oħra tal-AI.

“Immirajna l-linji gwida primarjament lejn bejjiegħa tas-sistema AI li jużaw mudelli ospitati minn organizzazzjoni (jew jużaw APIs esterni), iżda nħeġġu lill-partijiet interessati kollha... biex jaqraw dawn il-linji gwida biex jgħinuhom jieħdu deċiżjonijiet infurmati dwar disinn, żvilupp, implimentazzjoni u tħaddim tagħhom. sistemi ta’ intelliġenza artifiċjali”, huwa ddikjara l-NCSC.

Riżultati tas-Summit dwar is-Sigurtà tal-AI

Matul is-Summit dwar is-Sigurtà tal-AI, li sar fis-sit storiku ta’ Bletchley Park f’Buckinghamshire, l-Ingilterra, rappreżentanti minn 28 pajjiż iffirmaw il- Dikjarazzjoni Bletchley dwar is-Sigurtà tal-AI , li jenfasizza l-importanza tat-tfassil u l-implimentazzjoni tas-sistemi Intelliġenza artifiċjali b’mod sikur u responsabbli, b’enfasi fuq il-kollaborazzjoni. u t-trasparenza.

Id-dikjarazzjoni tirrikonoxxi l-ħtieġa li jiġu indirizzati r-riskji assoċjati ma 'mudelli AI avvanzati, partikolarment f'oqsma bħal Sigurtà tal-IT u l-bijoteknoloġija, u jappoġġja kollaborazzjoni internazzjonali akbar biex jiġi żgurat l-użu sikur, etiku u ta 'benefiċċjuIA.

Michelle Donelan, is-segretarja tax-xjenza u t-teknoloġija tal-Gran Brittanja, qalet li l-linji gwida li għadhom kif ġew ippubblikati “se jpoġġu ċ-ċibersigurtà fil-qalba tal-iżvilupp ta’Intelliġenza artifiċjali” mill-bidu sal-iskjerament.

Reazzjonijiet għal dawn il-linji gwida tal-AI mill-industrija taċ-ċibersigurtà

Il-pubblikazzjoni tal-linji gwida dwarIntelliġenza artifiċjali ġiet milqugħa minn esperti u analisti sigurtà ċibernetika.

Toby Lewis, kap globali tal-analiżi tat-theddid f'Darktrace, għandu defilest il-gwida "proġett ta' merħba" għas-sistemi Intelliġenza artifiċjali sigur u affidabbli.

F’kumment permezz ta’ email, Lewis qal: “Ninsab kuntent nara li l-linji gwida jenfasizzaw il-ħtieġa għal Intelliġenza artifiċjali jipproteġu d-dejta u l-mudelli tagħhom minn attakkanti u li l-utenti tal-AI japplikaw dawk it-tajba intelliġenza artifiċjali għall-kompitu t-tajjeb. Dawk li qed jiżviluppaw l-AI għandhom imorru lil hinn u jibnu l-fiduċja billi jimxu lill-utenti fil-vjaġġ ta’ kif l-AI tagħhom tilħaq it-tweġibiet. B’kunfidenza u fiduċja, se nirrealizzaw il-benefiċċji tal-IA aktar malajr u għal aktar nies.”

Georges Anidjar, viċi president għan-Nofsinhar tal-Ewropa f'Informatica, qal li l-pubblikazzjoni tal-linji gwida timmarka "pass sinifikanti lejn l-indirizzar tal-isfidi taċ-ċibersigurtà inerenti f'dan il-qasam li qed jevolvi malajr."

BlogInnovazione.it