GenAI 存在網路安全風險
近一半的安全專業人士認為 GenAI 是他們最大的安全風險之一。
超過三分之二的人認為，對人工智慧實施進行外部審查是識別人工智慧安全問題的最佳方式
HackerOne, leader nella sicurezza a propulsione umana, nella seconda parte di settembre ha rivelato i dati di uno studio. In particolare è emerso che il 48% dei professionisti della sicurezza ritiene che l’IA sia il rischio per la sicurezza più significativo per la propria organizzazione. In vista del lancio del suo rapporto annuale 駭客驅動的安全報告，HackerOne 公佈了初步結果，其中包括對 500 名安全專業人員的調查數據。當談到 人工智能, gli intervistati erano più preoccupati per la fuga di dati di formazione (35%), l’uso non autorizzato dell’IA all’interno delle loro organizzazioni (33%) e l’hacking dei modelli di 人工智能 陌生人（32%）。
Alla domanda sulla gestione delle sfide che i problemi di sicurezza e protezione dell’IA presentano, il 68% ha affermato che una revisione esterna e imparziale delle implementazioni di IA è il modo più efficace per identificare i problemi di sicurezza e sicurezza dell’IA. Il team rosso AI offre questo tipo di revisione esterna attraverso la comunità dei ricercatori di sicurezza globale, che aiutano a salvaguardare i modelli di 人工智能 來自風險、偏見、惡意利用和惡意輸出。
“Mentre stiamo ancora raggiungendo il consenso del settore sulle best practice di sicurezza e sicurezza dell’IA, ci sono alcune tattiche chiare in cui le organizzazioni hanno trovato il successo”, ha dichiarato Michiel Prins, co-fondatore di HackerOne。 Anthropic、Adobe、Snap 和其他領先組織依靠全球安全研究社群為其安全實施提供第三方專家觀點 人工智能.
進一步尋找一個 SANS Institute 報告由 HackerOne 贊助 ha esplorato l’impatto dell’IA sulla sicurezza informatica e ha rilevato che oltre la metà (58%) degli intervistati prevede che l’IA possa contribuire a una “corsa alle armi” tra le tattiche e le tecniche utilizzate dai team di sicurezza e dai criminali informatici. La ricerca ha anche trovato ottimismo sull’uso dell’IA per la produttività del team di sicurezza, con il 71% che ha riportato soddisfazione dall’implementazione dell’IA per automatizzare attività noiose. Tuttavia, gli intervistati ritengono che gli aumenti di produttività dell’IA abbiano avvantaggiato gli avversari e fossero maggiormente interessati alle campagne di phishing basate sull’人工智能 (79%) 和自動漏洞利用 (74%)。
「安全團隊需要找到最佳的應用程式人工智能 per stare al passo con gli avversari, considerando anche i suoi limiti esistenti – o rischiano di creare più lavoro per se stessi”, ha affermato Matt Bromiley, analista presso il SANS Institute. “La nostra ricerca suggerisce che l’IA dovrebbe essere vista come un fattore abilitante, piuttosto che una minaccia per i posti di lavoro. L’automazione delle attività di routine consente ai team di sicurezza di concentrarsi su attività più strategiche.
副駕駛基於人工智能 di HackerOneHai 透過自動化任務和提供更深入的漏洞洞察，持續為安全團隊騰出時間。這些優勢推動了 Hai 的採用，自推出以來增長了 150%，並為安全團隊平均每月節省了 XNUMX 個小時的工作時間。產品專注於人工智能 他們也繼續推動 HackerOne 的業務， AI 紅隊崛起 德爾 200% 第二季季增了 171%，添加人工智慧資產的安全計畫增加了 XNUMX%。
測試您的人工智慧風險準備情況 這個互動測驗 並閱讀 SANS AI 2024 調查與方法 歸仁.
關於駭客驅動的安全的完整報告將於今年秋天發布。這項針對安全專業人士的調查由 Opinion Matters 進行，並訪問了美國和歐洲的 500 名安全專業人士。調查於31年2024月6日至2024年XNUMX月XNUMX日期間進行。
關於駭客一
HackerOne 是人力安全領域的全球領導者，利用世界上最大的安全研究人員社群的創造力，人工智能 最先進的技術來保護您的數位資產。 HackerOne 平台結合了我們精英社群的專業知識和 數據庫 最新的漏洞工具，用於識別攻擊面上的關鍵安全缺陷。我們的整合解決方案，包括錯誤賞金、滲透測試、程式碼安全審計、抽查和人工智慧紅隊，確保在整個軟體開發生命週期中持續發現和管理漏洞。受到 Coinbase、通用汽車、GitHub、高盛、凱悅、PayPal、Snap Inc 和 USA 等行業領導者的信賴。 HackerOne 被國防部評為 2023 年創新者最佳工作場所和 2024 年年輕專業人員最佳工作場所。
