Sophos onderzoek: 89% van de IT-leiders is bezorgd over GenAI-fouten die de cyberbeveiligingsstrategie van hun organisatie negatief kunnen beïnvloeden

Sophos brengt een nieuw rapport uit genaamd ‘Beyond the Hype: The Busi­nesses Reality of AI for Cyber­se­cu­rity’. Hiervoor werden 400 IT-leiders bevraagd over hun gebruik van AI in bevei­li­ging. Uit het onderzoek blijkt dat, ondanks dat 65% gene­ra­tieve kunst­ma­tige intel­li­gentie (GenAI) heeft geïm­ple­men­teerd, 89% van de IT-leiders zich zorgen maakt dat tekort­ko­mingen in GenAI-cyber­be­vei­li­gingstools een risico kunnen vormen voor hun organisatie.

Daarnaast blijkt uit het Sophos X‑Ops-onderzoek genaamd ‘Cyber­cri­mi­nals Still Not Getting on Board the AI Train (Yet)’, dat ook is uitge­bracht, dat er een kleine maar opval­lende verschui­ving is in hoe cyber­cri­mi­nelen AI gebruiken. Nadat verschil­lende onder­grondse fora zijn onder­zocht, vond Sophos X‑Ops dat, hoewel er nog steeds scepsis is over GenAI, sommige crimi­nelen het gebruiken om dage­lijkse taken te auto­ma­ti­seren. Denk aan het creëren van bulk e‑mails en het analy­seren van data. Anderen verwerken het in spam- en social engi­nee­ring toolkits.

“Zoals met veel andere dingen in het leven moet ook voor gene­ra­tieve AI-tools gelden: ‘vertrouw maar verifieer’. We hebben machines niet echt geleerd om te denken; we hebben ze simpelweg de context gegeven om de verwer­king van enorme hoeveel­heden data te versnellen”, zegt Chester Wisniewski, director, global field CTO, Sophos. “Het poten­tieel van deze tools om security workloads te versnellen is verba­zing­wek­kend, maar de context en het begrip van hun mense­lijke toezicht­hou­ders is nog steeds nodig om dit voordeel te realiseren.”

98% van de onder­vraagde orga­ni­sa­ties zegt een bepaalde vorm van AI te hebben ingebed in de cyber­be­vei­li­gings­in­fra­struc­tuur. IT-leiders zijn bezorgd over een mogelijk overmatig vertrouwen op AI, waarbij 87% van hen aangeeft bezorgd te zijn over een gebrek aan verant­woor­de­lijk­heid voor cyberbeveiliging.

GenAI en burn-out verminderen

Orga­ni­sa­ties van verschil­lende groottes hebben uiteen­lo­pende prio­ri­teiten voor het gebruik van GenAI. Waar grote orga­ni­sa­ties (met meer dan 1.000 mede­wer­kers) prio­ri­teit geven aan betere bescher­ming, zeggen respon­denten met 50–99 mede­wer­kers dat het vermin­deren van burn-outs het belang­rijkste gewenste voordeel is dat ze hopen te reali­seren met GenAI-tools. Wat het echter nog inge­wik­kelder maakt, is dat 84% van de leiders, – ongeacht de grootte van de orga­ni­satie -, aangeeft zich zorgen te maken over de druk om het aantal cyber­be­vei­li­gings­pro­fes­si­o­nals te vermin­deren vanwege onre­a­lis­ti­sche verwach­tingen over vervan­ging van mensen door AI.

Andere belang­rijke resul­taten van het ‘Beyond the Hype’-rapport:

• Kosten van GenAI zijn moeilijk te kwan­ti­fi­ceren: 75% van de IT-leiders is het ermee eens dat het lastig is om de kosten van GenAI in cyber­be­vei­li­gings­pro­ducten te kwantificeren.
• Orga­ni­sa­ties rekenen op bespa­ringen door GenAI: hoewel 80% van de IT-leiders denkt dat GenAI de kosten van cyber­be­vei­li­gingstools aanzien­lijk zal verhogen, geloven de meeste orga­ni­sa­ties dat GenAI de totale uitgaven voor cyber­be­vei­li­ging kan verlagen: 87% van de respon­denten denkt dat de bespa­ringen van GenAI de kosten zullen compenseren.

Lees het rapport ‘Beyond the Hype: The Busi­nesses Reality of AI for Cyber­se­cu­rity’ om meer te leren over hoe IT-leiders AI gebruiken.

Lees het rapport ‘Cyber­cri­mi­nals Still Not Getting on Board the AI Train (Yet)’ om erachter te komen hoe cyber­cri­mi­nelen naar GenAI kijken.