GenAI – це ризик для кібербезпеки
Майже половина спеціалістів із безпеки погоджуються, що GenAI є одним із найбільших ризиків для безпеки.
Понад дві третини вважають, що зовнішня перевірка реалізацій штучного інтелекту є найкращим способом виявлення проблем безпеки та безпеки штучного інтелекту.
HackerOne, лідер у сфері безпеки, керованої людиною, оприлюднив дані дослідження, проведеного в другій половині вересня. Зокрема, було виявлено, що 48% фахівців із безпеки вважають, що штучний інтелект є найбільшим ризиком для безпеки їхньої організації. Напередодні презентації свого річного звіту Хакерський звіт про безпеку, HackerOne ha rivelato i primi risultati, che includono i dati di un sondaggio di 500 professionisti della sicurezza. Quando si tratta di штучний інтелект, gli intervistati erano più preoccupati per la fuga di dati di formazione (35%), l’uso non autorizzato dell’IA all’interno delle loro organizzazioni (33%) e l’hacking dei modelli di штучний інтелект da parte di estranei (32%).
Alla domanda sulla gestione delle sfide che i problemi di sicurezza e protezione dell’IA presentano, il 68% ha affermato che una revisione esterna e imparziale delle implementazioni di IA è il modo più efficace per identificare i problemi di sicurezza e sicurezza dell’IA. Il team rosso AI offre questo tipo di revisione esterna attraverso la comunità dei ricercatori di sicurezza globale, che aiutano a salvaguardare i modelli di штучний інтелект da rischi, pregiudizi, exploit dannosi e output dannosi.
«Хоча ми все ще досягаємо галузевого консенсусу щодо найкращих практик захисту та безпеки штучного інтелекту, є кілька чітких тактик, у яких організації досягли успіху», — сказав Міхіель Прінс, співзасновник HackerOne. Anthropic, Adobe, Snap e altre organizzazioni leader si affidano alla comunità di ricercatori di sicurezza globale per dare una prospettiva di esperti di terze parti sulle loro implementazioni di штучний інтелект.
Подальший пошук а Звіт SANS Institute, спонсорований HackerOne ha esplorato l’impatto dell’IA sulla sicurezza informatica e ha rilevato che oltre la metà (58%) degli intervistati prevede che l’IA possa contribuire a una “corsa alle armi” tra le tattiche e le tecniche utilizzate dai team di sicurezza e dai criminali informatici. La ricerca ha anche trovato ottimismo sull’uso dell’IA per la produttività del team di sicurezza, con il 71% che ha riportato soddisfazione dall’implementazione dell’IA per automatizzare attività noiose. Tuttavia, gli intervistati ritengono che gli aumenti di produttività dell’IA abbiano avvantaggiato gli avversari e fossero maggiormente interessati alle campagne di phishing basate sull’штучний інтелект (79%) e allo sfruttamento automatizzato delle vulnerabilità (74%).
“I team di sicurezza devono trovare le migliori applicazioni per l’штучний інтелект per stare al passo con gli avversari, considerando anche i suoi limiti esistenti – o rischiano di creare più lavoro per se stessi”, ha affermato Matt Bromiley, analista presso il SANS Institute. “La nostra ricerca suggerisce che l’IA dovrebbe essere vista come un fattore abilitante, piuttosto che una minaccia per i posti di lavoro. L’automazione delle attività di routine consente ai team di sicurezza di concentrarsi su attività più strategiche.
Другий пілот на основіштучний інтелект di HackerOne, Hai, continua a liberare tempo per i team di sicurezza automatizzando le attività e offrendo informazioni più approfondite sulle vulnerabilità. Questi benefici guidano l’adozione di Hai, che è cresciuta del 150% dal lancio e consente ai team di sicurezza di risparmiare in media cinque ore di lavoro al mese. I prodotti incentrati sull’штучний інтелект continuano anche a guidare il business di HackerOne, con AI Red Teaming на підйомі Дель 200% порівняно з кварталом у другому кварталі та збільшення програм безпеки на 171%, додавши до сфери застосування активи ШІ.
Перевірте свою готовність до ризику ШІ за допомогою ця інтерактивна вікторина і прочитайте опитування та методологію SANS AI 2024 Квай.
Повний звіт про безпеку, спричинену хакерами, буде опубліковано цієї осені. Опитування професіоналів з безпеки було проведено Opinion Matters і опитало 500 професіоналів з безпеки в Сполучених Штатах і Європі. Опитування проводилося в період з 31 липня 2024 року по 6 серпня 2024 року.
Про HackerOne
HackerOne è il leader globale nella sicurezza a propulsione umana, sfruttando la creatività della più grande comunità di ricercatori di sicurezza del mondo con un’штучний інтелект all’avanguardia per proteggere le tue risorse digitali. La piattaforma HackerOne combina l’esperienza della nostra comunità d’élite e il база даних di vulnerabilità più aggiornato per individuare i difetti di sicurezza critici sulla superficie di attacco. Le nostre soluzioni integrate, tra cui bug bounty, pentesting, audit di sicurezza del codice, controlli a campione e teaming rosso AI, garantiscono la continua scoperta e la gestione delle vulnerabilità durante tutto il ciclo di vita dello sviluppo del software. Scelto da leader del settore come Coinbase, General Motors, GitHub, Goldman Sachs, Hyatt, PayPal, Snap Inc e Stati Uniti. Dipartimento della Difesa, HackerOne è stato nominato miglior posto di lavoro per gli innovatori da Fast Company nel 2023 e un posto di lavoro più adomato per giovani professionisti nel 2024.
