Udhëzime të reja për sigurinë e AI botuar nga NCSC, CISA dhe agjenci të tjera ndërkombëtare

Udhëzimet për zhvillimin e sistemeve të sigurta të inteligjencës artificiale u shkruan për të ndihmuar zhvilluesit të sigurojnë se siguria është e integruar në zemrën e modeleve të reja të AI.

Qendra Kombëtare e Sigurisë Kibernetike e Mbretërisë së Bashkuar, Agjencia e Sigurisë Kibernetike dhe Sigurisë së Infrastrukturës në SHBA dhe agjencitë ndërkombëtare nga 16 vende të tjera kanë publikuar udhëzime të reja mbi sigurinë e sistemeve të inteligjencës artificiale.

Le udhëzime për zhvillimin e sigurt të sistemeve të inteligjencës artificiale ato janë krijuar për të udhëhequr zhvilluesit në mënyrë specifike përmes projektimit, zhvillimit, zbatimit dhe funksionimit të sistemeve të AI dhe për të siguruar që siguria të mbetet një komponent kritik gjatë gjithë ciklit të tyre jetësor. Megjithatë, palët e tjera të interesuara në projektet e AI duhet gjithashtu ta kenë këtë informacion të dobishëm.

Këto udhëzime u publikuan menjëherë pasi udhëheqësit botërorë u angazhuan për zhvillimin e sigurt dhe të përgjegjshëm të inteligjencës artificiale në Samitin e Sigurisë së AI në fillim të nëntorit.

Në përmbledhje: udhëzime për zhvillimin e sistemeve të sigurta të AI

Udhëzimet për zhvillimin e sistemeve të sigurta të inteligjencës artificiale parashtrojnë rekomandime për të siguruar që modelet e AI – qofshin të ndërtuara nga e para ose të bazuara në modele ekzistuese ose API nga kompani të tjera – “funksionojnë siç synohet, janë të disponueshme kur nevojiten dhe punojnë pa i zbuluar të dhëna të ndjeshme palëve të paautorizuara . "

Çelësi për këtë është qasja "e sigurt sipas parazgjedhjes" e mbrojtur nga NCSC, CISA, Instituti Kombëtar i Standardeve dhe Teknologjisë dhe agjenci të ndryshme të tjera ndërkombëtare të sigurisë kibernetike në kornizat ekzistuese. Parimet e këtyre kornizave përfshijnë:

• Merrni pronësinë e rezultateve të sigurisë për klientët.
• Duke përqafuar transparencën dhe llogaridhënien radikale.
• Ndërtoni strukturën organizative dhe udhëheqjen në mënyrë që "siguria sipas dizajnit" të jetë një përparësi kryesore e biznesit.

Sipas NCSC, gjithsej 21 agjenci dhe ministri nga gjithsej 18 vende kanë konfirmuar se do të miratojnë dhe bashkëvulosin udhëzimet e reja. Kjo përfshin Agjencinë e Sigurisë Kombëtare dhe Byronë Federale të Hetimeve në Shtetet e Bashkuara, si dhe Qendrën Kanadeze për Sigurinë Kibernetike, Agjencinë Franceze të Sigurisë Kibernetike, Zyrën Federale për Sigurinë Kibernetike të Gjermanisë, Singaporin. Agjencia e Sigurisë Kibernetike dhe Qendra Kombëtare e Incidenteve të Japonisë. Përgatitja dhe strategjia e sigurisë kibernetike.

Lindy Cameron, shefi ekzekutiv i NCSC, tha në një njoftim për shtyp : “Ne e dimë se inteligjenca artificiale po zhvillohet me një ritëm fenomenal dhe duhet të ketë një veprim të bashkërenduar ndërkombëtar, midis qeverive dhe industrisë, për të mbajtur ritmin. “.

Siguroni katër fazat kryesore të ciklit jetësor të zhvillimit të AI

Udhëzimet për zhvillimin e sigurt të sistemeve të AI janë të strukturuara në katër seksione, secila që korrespondon me faza të ndryshme të ciklit jetësor të zhvillimit të një sistemi AI: dizajn i sigurt, zhvillim i sigurt, zbatim i sigurt dhe funksionim dhe mirëmbajtje e sigurt.

• Dizajn i sigurt ofron udhëzime specifike për fazën e projektimit të ciklit jetësor të zhvillimit të sistemit AI. Ai thekson rëndësinë e njohjes së rreziqeve dhe kryerjes së modelimit të kërcënimeve, si dhe marrjen në konsideratë të temave dhe kompromiseve të ndryshme gjatë dizajnimit të sistemeve dhe modeleve.
• Zhvillim i sigurt mbulon fazën e zhvillimit të ciklit jetësor të sistemit AI. Rekomandimet përfshijnë sigurimin e zinxhirit të furnizimit, mbajtjen e dokumentacionit të plotë dhe menaxhimin efektiv të burimeve dhe borxhit teknik.
• Zbatim i sigurt trajton fazën e zbatimit të sistemeve të AI. Udhëzimet në këtë rast kanë të bëjnë me mbrojtjen e infrastrukturës dhe modeleve nga kompromise, kërcënime ose humbje, defipërcaktimi i proceseve për menaxhimin e incidenteve dhe miratimi i parimeve të lirimit të përgjegjshëm.
• Funksionim dhe mirëmbajtje të sigurt përmbajnë indikacione për fazën e funksionimit dhe mirëmbajtjes pas vendosjes së modeleve të inteligjencës artificiale. Ai mbulon aspekte të tilla si regjistrimi dhe monitorimi efektiv, menaxhimi i përditësimeve dhe shkëmbimi i përgjegjshëm i informacionit.

Udhëzime për të gjitha sistemet e AI

Udhëzimet janë të zbatueshme për të gjitha llojet e sistemeve të AI dhe jo vetëm për modelet "kufitare" të cilat u diskutuan gjerësisht në Samitin e Sigurisë së AI të organizuar në MB më 1 dhe 2 nëntor 2023. Udhëzimet Ato janë gjithashtu të zbatueshme për të gjithë profesionistët që punojnë në dhe rreth AI, duke përfshirë zhvilluesit, shkencëtarët e të dhënave, menaxherët, vendimmarrësit dhe "pronarët e rrezikut të AI".

“Ne i synuam udhëzimet kryesisht te shitësit e sistemit AI që përdorin modele të organizuara nga një organizatë (ose përdorin API të jashtme), por ne inkurajojmë të gjitha palët e interesuara… që të lexojnë këto udhëzime për t'i ndihmuar ata të marrin vendime të informuara të projektimit, zhvillimin, zbatimin dhe funksionimin e tyre. sistemet e inteligjencës artificiale”, tha ai NCSC.

Rezultatet e Samitit të Sigurisë së AI

Gjatë Samitit të Sigurisë së AI, të mbajtur në vendin historik të Bletchley Park në Buckinghamshire, Angli, përfaqësues nga 28 vende nënshkruan Deklarata Bletchley mbi sigurinë e AI , e cila thekson rëndësinë e projektimit dhe zbatimit të sistemeve inteligjencës artificiale në mënyrë të sigurt dhe të përgjegjshme, me theks në bashkëpunim. dhe transparencës.

Deklarata njeh nevojën për të adresuar rreziqet që lidhen me modelet më të fundit të AI, veçanërisht në fusha të tilla si Siguria e TI-së dhe bioteknologji, dhe mbështet një bashkëpunim më të madh ndërkombëtar për të siguruar përdorimin e sigurt, etik dhe të dobishëm tëIA.

Michelle Donelan, sekretarja britanike e shkencës dhe teknologjisë, tha se udhëzimet e publikuara rishtazi “do të vendosin sigurinë kibernetike në qendër të zhvillimit tëinteligjencës artificiale” nga fillimi deri në vendosje.

Reagimet ndaj këtyre udhëzimeve të AI nga industria e sigurisë kibernetike

Publikimi i udhëzimeve përinteligjencës artificiale është mirëpritur nga ekspertë dhe analistë kibernetike.

Toby Lewis, kreu global i analizës së kërcënimeve në Darktrace, ka defipërfundoi udhëzuesin "një projekt i mirëpritur" për sistemet inteligjencës artificiale të sigurt dhe të besueshëm.

Duke komentuar përmes emailit, Lewis tha: “Jam i kënaqur të shoh që udhëzimet theksojnë nevojën për inteligjencës artificiale mbrojnë të dhënat dhe modelet e tyre nga sulmuesit dhe që përdoruesit e AI të aplikojnë ato të duhurat zbulim artificiale për detyrën e duhur. Ata që zhvillojnë inteligjencën artificiale duhet të shkojnë më tej dhe të ndërtojnë besim duke i përcjellë përdoruesit në rrugëtimin se si AI i tyre arrin përgjigjet. Me besim dhe besim, ne do të kuptojmë përfitimet e AI më shpejt dhe për më shumë njerëz.”

Georges Anidjar, nënkryetar për Evropën Jugore në Informatica, tha se publikimi i udhëzimeve shënon "një hap të rëndësishëm drejt adresimit të sfidave të sigurisë kibernetike të qenësishme në këtë fushë me zhvillim të shpejtë".

BlogInnovazione.it