Le 人工智慧系統安全開發指南 它們旨在指導開發人員專門完成人工智慧系統的設計、開發、實施和操作，並確保安全性仍然是整個生命週期的關鍵組成部分。 然而，人工智慧專案的其他利害關係人也應該發現這些資訊很有用。
世界領導人在 XNUMX 月初的人工智慧安全峰會上承諾安全、負責任地發展人工智慧後不久就發布了這些指南。
《開發安全人工智慧系統指南》提出了建議，以確保人工智慧模型（無論是從頭開始構建還是基於其他公司的現有模型或API）「按預期工作，在需要時可用，並且在不向未經授權的方洩漏敏感資料的情況下工作」 。 “
其中的關鍵是 NCSC、CISA、美國國家標準與技術研究所以及其他各種國際網路安全機構在現有框架中倡導的「預設安全」方法。 這些框架的原則包括：
據NCSC稱，共有來自21個國家的18個機構和部會已確認將批准並共同簽署新指南。 這包括美國國家安全局和聯邦調查局，以及加拿大網路安全中心、法國網路安全局、德國聯邦網路安全辦公室、新加坡網路安全辦公室網路安全局和日本國家事件中心。 網路安全準備和策略。
NCSC 首席執行官林迪·卡梅倫 (Lindy Cameron) 表示 新聞稿 ：「我們知道人工智慧正在以驚人的速度發展，政府和產業之間需要採取協調一致的國際行動才能跟上步伐。 」。
人工智慧系統安全開發指南分為四個部分，分別對應人工智慧系統開發生命週期的不同階段：安全設計、安全開發、安全實施、安全運維。
本指南適用於所有類型的人工智慧系統，而不僅僅是1 年2 月2023 日至XNUMX 日在英國舉辦的人工智慧安全高峰會上廣泛討論的「前沿」模型。該指南也適用於在人工智慧領域工作的所有專業人員。圍繞人工智慧，包括開發人員、資料科學家、管理者、決策者和其他人工智慧「風險所有者」。
「我們的指南主要針對使用組織託管的模型（或使用外部API）的人工智慧系統供應商，但我們鼓勵所有有興趣的各方…閱讀這些指南，以幫助他們做出明智的設計決策、開發、實施和運營。人工智慧系統”， 說： 國家網路安全中心。
在英國白金漢郡布萊奇利公園古蹟舉行的人工智慧安全高峰會期間，來自28個國家的代表簽署了 布萊切利關於人工智慧安全的聲明 ，這凸顯了設計和實施系統的重要性 人工智能 安全、負責，強調協作。 和透明度。
該聲明承認需要解決與尖端人工智慧模型相關的風險，特別是在以下領域： 信息安全 和生物技術，並支持加強國際合作，以確保安全、道德和有益的使用IA.
英國科學技術大臣米歇爾·多尼蘭表示，新發布的指導方針「將把網路安全置於科技發展的核心位置」。人工智能”從開始到部署。
Darktrace 威脅分析全球主管 Toby Lewis defi完成了系統指南“一個受歡迎的項目” 人工智能 安全可靠。
劉易斯透過電子郵件發表評論說：「我很高興看到指南強調了 人工智能 保護他們的數據和模型免受攻擊，並確保人工智慧用戶應用正確的數據和模型 情報 人造的 為了正確的任務。 那些開發人工智慧的人應該走得更遠，透過引導用戶完成人工智慧如何得出答案的過程來建立信任。 有了信心和信任，我們將更快地為更多人帶來人工智慧的好處。”
Informatica 南歐副總裁 Georges Anidjar 表示，該指南的發布標誌著“朝著解決這個快速發展的領域固有的網路安全挑戰邁出了重要一步。”
BlogInnovazione.it
