GenAI është një rrezik i sigurisë kibernetike

Gati gjysma e profesionistëve të sigurisë pajtohen se GenAI është një nga rreziqet e tyre më të mëdha të sigurisë.

Mbi dy të tretat besojnë se një rishikim i jashtëm i zbatimeve të AI është mënyra më e mirë për të identifikuar çështjet e sigurisë dhe sigurisë së AI

HackerOne, leader nella sicurezza a propulsione umana, nella seconda parte di settembre ha rivelato i dati di uno studio. In particolare è emerso che il 48% dei professionisti della sicurezza ritiene che l’IA sia il rischio per la sicurezza più significativo per la propria organizzazione. In vista del lancio del suo rapporto annuale Raporti i sigurisë i mbështetur nga hakerët, HackerOne zbuloi rezultatet fillestare, të cilat përfshijnë të dhëna nga një sondazh me 500 profesionistë të sigurisë. Kur bëhet fjalë për inteligjencës artificiale, gli intervistati erano più preoccupati per la fuga di dati di formazione (35%), l’uso non autorizzato dell’IA all’interno delle loro organizzazioni (33%) e l’hacking dei modelli di inteligjencës artificiale nga të huajt (32%).

Alla domanda sulla gestione delle sfide che i problemi di sicurezza e protezione dell’IA presentano, il 68% ha affermato che una revisione esterna e imparziale delle implementazioni di IA è il modo più efficace per identificare i problemi di sicurezza e sicurezza dell’IA. Il team rosso AI offre questo tipo di revisione esterna attraverso la comunità dei ricercatori di sicurezza globale, che aiutano a salvaguardare i modelli di inteligjencës artificiale nga rreziqet, paragjykimet, shfrytëzimet me qëllim të keq dhe rezultatet me qëllim të keq.

“Mentre stiamo ancora raggiungendo il consenso del settore sulle best practice di sicurezza e sicurezza dell’IA, ci sono alcune tattiche chiare in cui le organizzazioni hanno trovato il successo”, ha dichiarato Michiel Prins, co-fondatore di HackerOne. Anthropic, Adobe, Snap dhe organizata të tjera udhëheqëse mbështeten në komunitetin global të kërkimit të sigurisë për t'i dhënë perspektivë ekspertëve të palëve të treta për zbatimin e tyre të sigurisë inteligjencës artificiale.

Një kërkim i mëtejshëm për a Raporti i Institutit SANS i sponsorizuar nga HackerOne ha esplorato l’impatto dell’IA sulla sicurezza informatica e ha rilevato che oltre la metà (58%) degli intervistati prevede che l’IA possa contribuire a una “corsa alle armi” tra le tattiche e le tecniche utilizzate dai team di sicurezza e dai criminali informatici. La ricerca ha anche trovato ottimismo sull’uso dell’IA per la produttività del team di sicurezza, con il 71% che ha riportato soddisfazione dall’implementazione dell’IA per automatizzare attività noiose. Tuttavia, gli intervistati ritengono che gli aumenti di produttività dell’IA abbiano avvantaggiato gli avversari e fossero maggiormente interessati alle campagne di phishing basate sull’inteligjencës artificiale (79%) dhe shfrytëzimi i automatizuar i cenueshmërisë (74%).

“Ekipet e sigurisë duhet të gjejnë aplikacionet më të mirainteligjencës artificiale per stare al passo con gli avversari, considerando anche i suoi limiti esistenti – o rischiano di creare più lavoro per se stessi”, ha affermato Matt Bromiley, analista presso il SANS Institute. “La nostra ricerca suggerisce che l’IA dovrebbe essere vista come un fattore abilitante, piuttosto che una minaccia per i posti di lavoro. L’automazione delle attività di routine consente ai team di sicurezza di concentrarsi su attività più strategiche.

Bashkëpiloti i bazuar nëinteligjencës artificiale di HackerOneHai vazhdon të lirojë kohë për ekipet e sigurisë duke automatizuar detyrat dhe duke ofruar njohuri më të thella të cenueshmërisë. Këto përfitime nxisin adoptimin e Hai, i cili është rritur 150% që nga fillimi dhe i kursen ekipeve të sigurisë mesatarisht pesë orë punë në muaj. Produktet e fokusuara nëinteligjencës artificiale ata gjithashtu vazhdojnë të drejtojnë biznesin e HackerOne, me AI Red Teaming në rritje del 200% tremujor në tremujor në tremujorin e dytë dhe një rritje prej 171% në programet e sigurisë duke shtuar asetet e AI në objekt.

Testoni gatishmërinë tuaj për rrezikun e AI me këtë kuiz interaktiv dhe lexoni sondazhin dhe metodologjinë SANS AI 2024 qui.

Raporti i plotë mbi sigurinë e ushqyer nga hakerët do të publikohet këtë vjeshtë. Sondazhi i profesionistëve të sigurisë u krye nga Opinion Matters dhe intervistoi 500 profesionistë të sigurisë në Shtetet e Bashkuara dhe Evropë. Anketa u krye midis 31 korrikut 2024 dhe 6 gushtit 2024.

Rreth HackerOne

HackerOne është lider global në sigurinë me fuqi njerëzore, duke shfrytëzuar kreativitetin e komunitetit më të madh në botë të studiuesve të sigurisë me njëinteligjencës artificiale moderne për të mbrojtur asetet tuaja dixhitale. Platforma HackerOne kombinon ekspertizën e komunitetit tonë elitar dhe bazës së të dhënave Mjeti më i fundit i cenueshmërisë për të identifikuar të metat kritike të sigurisë në sipërfaqen e sulmit. Zgjidhjet tona të integruara, duke përfshirë shpërblimet e gabimeve, testimin e gabimeve, kontrollet e sigurisë së kodit, kontrollet në vend dhe grupimin e inteligjencës artificiale, sigurojnë zbulim dhe menaxhim të vazhdueshëm të cenueshmërisë gjatë gjithë ciklit jetësor të zhvillimit të softuerit. I besuar nga liderë të industrisë si Coinbase, General Motors, GitHub, Goldman Sachs, Hyatt, PayPal, Snap Inc dhe SHBA. Departamenti i Mbrojtjes, HackerOne u emërua si vendi më i mirë për të punuar për inovatorët nga Fast Company në 2023 dhe vendi më i mirë për të punuar për profesionistët e rinj në 2024.