Europol, het United Nations Interregional Crime and Justice Research Institute (UNICRI) en Trend Micro brengen een gezamenlijk rapport uit waarin het criminele gebruik van artificiële intelligentie (AI) werd onderzocht. Het rapport biedt politiediensten, beleidsmakers en andere organisaties cruciale informatie over bestaande en potentiële aanvallen met behulp van AI. Het rapport geeft tevens aanbevelingen om deze risico’s te beperken.
“AI belooft meer efficiëntie, automatisering en autonomie. We moeten niet alleen kijken naar de potentiële voordelen van AI-technologie, maar we moeten ook transparant zijn over de bedreigingen nu het brede publiek zich steeds meer zorgen maakt over het mogelijke misbruik van AI”, zegt Edvardas Šileris, hoofd van het Cybercrime Centre van Europol. “Dit rapport helpt ons om te anticiperen op mogelijk kwaadwillig gebruik en misbruik van AI en om die dreigingen proactief te voorkomen en te beperken. Zo kunnen we het potentieel van AI op een positieve manier benutten.”
AI is meer dan deepfakes
Uit het rapport is op te maken dat cybercriminelen AI zullen gebruiken als aanvalsvector en als aanvalsdoel. Deepfakes zijn momenteel het bekendste gebruik van AI als aanvalsvector. Het rapport waarschuwt echter dat er in de toekomst nieuwe screeningtechnologie nodig zal zijn om de risico van misleidende campagnes en afpersing te beperken, evenals bedreigingen die gericht zijn op AI-datasets.
AI zou bijvoorbeeld kunnen worden gebruikt ter ondersteuning:
- Social engineering-aanvallen op grote schaal
- Document-scraping malware om aanvallen efficiënter te maken
- Omzeilen van beeldherkenning en spraakbiometrie
- Ransomware-aanvallen via intelligente targeting
- Data pollution, door het identificeren van de blinde vlekken in de detectieregels
“Nu AI-toepassingen een grote impact beginnen te krijgen in onze maatschappij, wordt het duidelijk dat dit een van de basistechnologie voor onze toekomst is”, zegt Irakli Beridze, hoofd van het Centrum voor AI en Robotica bij UNICRI. “Maar net zoals de voordelen van AI voor de maatschappij heel reëel zijn, is er de dreiging van kwaadwillig misbruik van AI. We zijn dan ook blij om samen met Europol en Trend Micro een licht te laten schijnen op de duistere kant van AI en om de discussie over dit belangrijke thema verder te stimuleren.”
Het rapport waarschuwt tevens dat AI-systemen worden ingezet om de efficiëntie van malware te vergroten en om anti-malwareoplossingen en gezichtsherkenningssystemen te verstoren.
“Cybercriminelen zijn altijd al early adopters geweest van nieuwe technologieën. En dat is met AI niet anders. Zoals dit rapport laat zien, wordt AI al ingezet om wachtwoorden te raden, CAPTCHA’s te decoderen of stemmen na te bootsen. Er zijn nog veel andere kwaadaardige innovaties waarbij cybercriminelen AI inzetten”, aldus Martin Roesler, hoofd van Future Threat Research bij Trend Micro. “We zijn er trots op dat we samenwerken met Europol en UNICRI om het algemene bewustzijn over deze bedreigingen te vergroten en zo te helpen om een veiligere digitale toekomst te creëren.”
Aanbevelingen
De drie organisaties geven tot slot verschillende aanbevelingen:
- Gebruik het volledige potentieel van AI-technologie om misdaad te bestrijden en om de cybersecurityindustrie en politiediensten toekomstbestendig te maken.
- Blijf onderzoeken om de ontwikkeling van defensieve technologie te stimuleren
- Bevorder en ontwikkel veilige AI-frameworks
- Ontmijn de politiek geladen retoriek over het gebruik van AI voor cybersecuritydoeleinden
- Zet in op publiek-private partnerschappen en richt multidisciplinaire expertgroepen op.
De volledige resultaten van dit onderzoek zijn hier beschikbaar.
