GenAI predstavlja rizik za sajber sigurnost
Gotovo polovina sigurnosnih stručnjaka slaže se da je GenAI jedan od njihovih najvećih sigurnosnih rizika.
Preko dvije trećine vjeruje da je vanjski pregled implementacije AI najbolji način da se identifikuju sigurnosni i sigurnosni problemi AI
hackerone, lider u sigurnosti na ljudski pogon, otkrio je podatke iz studije u drugoj polovini septembra. Konkretno, utvrđeno je da 48% sigurnosnih stručnjaka vjeruje da je AI najznačajniji sigurnosni rizik za njihovu organizaciju. Uoči objavljivanja svog godišnjeg izvještaja Hakerski sigurnosni izvještaj, HackerOne je otkrio početne rezultate, koji uključuju podatke iz ankete 500 profesionalaca u oblasti sigurnosti. Kada je u pitanju vještačka inteligencija, ispitanici su bili najviše zabrinuti zbog curenja podataka o obuci (35%), neovlaštene upotrebe AI unutar njihovih organizacija (33%) i hakovanja modela obuke vještačka inteligencija od strane stranaca (32%).
Na pitanje o upravljanju izazovima koje predstavljaju pitanja sigurnosti i sigurnosti AI, 68% je reklo da je eksterni, nepristrasni pregled implementacije AI najefikasniji način da se identifikuju sigurnosni i sigurnosni problemi AI. AI Red Team nudi ovu vrstu eksternog pregleda kroz globalnu istraživačku zajednicu sigurnosti, što pomaže u zaštiti sigurnosnih modela. vještačka inteligencija od rizika, predrasuda, zlonamjernih eksploatacija i zlonamjernih rezultata.
“Dok još uvijek postižemo konsenzus industrije o najboljim praksama sigurnosti i sigurnosti AI, postoje neke jasne taktike u kojima su organizacije postigle uspjeh,” rekao je Michiel Prins, suosnivač hackerone. Anthropic, Adobe, Snap i druge vodeće organizacije oslanjaju se na globalnu istraživačku zajednicu u oblasti sigurnosti kako bi trećim stranama pružile stručnu perspektivu o svojim sigurnosnim implementacijama. vještačka inteligencija.
Dalja potraga za a Izvještaj Instituta SANS sponzorirao HackerOne istraživali su uticaj AI na sajber bezbednost i otkrili da više od polovine (58%) ispitanika očekuje da će veštačka inteligencija doprineti „trci u naoružanju“ između taktika i tehnika koje koriste bezbednost i sajber kriminalci. Istraživanje je također pokazalo optimizam u pogledu upotrebe AI za produktivnost sigurnosnog tima, pri čemu je 71% prijavilo zadovoljstvo implementacijom AI za automatizaciju zamornih zadataka. Međutim, ispitanici su vjerovali da je povećanje produktivnosti AI koristilo protivnicima i da su više zainteresirani za phishing kampanje zasnovane na AI.vještačka inteligencija (79%) i automatizovana eksploatacija ranjivosti (74%).
“Sigurnosni timovi moraju pronaći najbolje aplikacije zavještačka inteligencija da ostanu ispred protivnika, a uz to uzmu u obzir postojeća ograničenja – ili rizikuju da sami sebi stvore više posla”, rekao je Matt Bromiley, analitičar Instituta SANS. “Naše istraživanje sugerira da bi umjetnu inteligenciju trebalo posmatrati kao olakšice, a ne kao prijetnju poslovima. Automatizacija rutinskih zadataka omogućava timovima za sigurnost da se fokusiraju na više strateških zadataka.
Kopilot baziran navještačka inteligencija di hackeroneHai nastavlja da oslobađa vrijeme sigurnosnim timovima automatizacijom zadataka i pružanjem dubljeg uvida u ranjivost. Ove prednosti pokreću usvajanje Hai-a, koji je porastao za 150% od lansiranja i štedi timovima za sigurnost u prosjeku pet sati rada mjesečno. Proizvodi fokusirani navještačka inteligencija oni takođe nastavljaju da vode poslovanje kompanije HackerOne, sa AI Red Teaming u usponu del 200% kvartal na kvartal u Q171 i povećanje od XNUMX% sigurnosnih programa dodajući AI sredstva u opseg.
Testirajte svoju spremnost za AI rizik sa ovaj interaktivni kviz i pročitajte istraživanje i metodologiju SANS AI 2024 qui.
Potpuni izvještaj o sigurnosti potaknutoj hakerima bit će objavljen ove jeseni. Anketu među sigurnosnim profesionalcima sproveo je Opinion Matters i intervjuisao 500 profesionalaca u oblasti bezbednosti u Sjedinjenim Državama i Evropi. Istraživanje je sprovedeno od 31. jula 2024. do 6. avgusta 2024. godine.
O HackerOneu
HackerOne je globalni lider u sigurnosti koju pokreće ljudi, koristeći kreativnost najveće svjetske zajednice istraživača sigurnosti savještačka inteligencija najmoderniji za zaštitu vaše digitalne imovine. HackerOne platforma kombinuje stručnost naše elitne zajednice i baza podataka najnoviji alat za otkrivanje kritičnih sigurnosnih nedostataka na površini napada. Naša integrirana rješenja, uključujući nagrade za greške, pentestiranje, revizije sigurnosti koda, provjere na licu mjesta i AI red teaming, osiguravaju kontinuirano otkrivanje i upravljanje ranjivostima tokom životnog ciklusa razvoja softvera. Imaju povjerenja od strane lidera u industriji kao što su Coinbase, General Motors, GitHub, Goldman Sachs, Hyatt, PayPal, Snap Inc i SAD. Ministarstvo odbrane, HackerOne je proglašeno najboljim mjestom za rad za inovatore od strane Fast Company 2023. godine i najboljim mjestom za rad za mlade profesionalce 2024. godine.
