Check Point Research (CPR), de Threat Intelligence-tak van Check Point, publiceert een eerste security-analyse van ChatGPT4. Ondanks de aanwezigheid van beveiligingen in ChatGPT4, kunnen sommige beperkingen gemakkelijk worden omzeild, waardoor aanvallers zonder veel hinder hun doelen kunnen bereiken. In sommige gevallen kunnen zelfs niet-technische actoren schadelijke tools maken. CPR waarschuwt voor het potentieel van ChatGPT4 om de uitvoering van cybercriminaliteit te versnellen en zal de analyse van het platform in de komende dagen voortzetten.
De onderzoekers schetsen verschillende scenario’s waarmee aanvallers kwaadwillende inspanningen en voorbereidingen kunnen stroomlijnen, wat resulteert in snellere en nauwkeurigere resultaten om cybercriminaliteit te versnellen. In bepaalde gevallen stellen deze scenario’s niet-technische personen in staat om schadelijke tools te maken, alsof het proces van coderen, bouwen en verpakken een eenvoudig recept is.
CPR deelt vijf scenario’s van mogelijk kwaadaardig gebruik van ChatGPT4:
- C++ malware die PDF-bestanden verzamelt en naar FTP stuurt
- Phishing: nabootsing van een financiële instelling
- Phishing: e-mails naar werknemers
- PHP reverse shell
- Simpele Java-snippet om PuTTY, een veelgebruikte SSH- en telnet-client, te downloaden en heimelijk op het systeem uit te voeren met behulp van PowerShell. Dit script kan natuurlijk worden aangepast om elk programma te downloaden en uit te voeren, inclusief veelvoorkomende malwarefamilies
“Na verschillende manieren te hebben gevonden waarop ChatGPT door hackers kan worden gebruikt, en verschillende cases te hebben gezien waarin dit daadwerkelijk het geval was, hebben we de afgelopen 24 uur onderzocht of er iets is veranderd in de nieuwste versie van van de tool. Het nieuwe platform is op veel niveaus duidelijk verbeterd, echter zijn er scenario’s waarin kwaadwillenden cybercriminaliteit in ChatGPT4 kunnen versnellen. ChatGPT4 kan slechte actoren, zelfs niet-technische, de tools geven om hun activiteit te versnellen en te valideren. Kwaadwillende actoren kunnen ook de snelle reacties van ChatGPT4 gebruiken om technische uitdagingen bij het ontwikkelen van malware te overwinnen”, zegt Oded Vanunu, Head of Products Vulnerabilities Research bij Check Point Software.
“Wat we zien is dat ChatGPT4 zowel ten goede als ten kwade ingezet kan worden. Goede actoren kunnen ChatGPT gebruiken om code te maken en samen te voegen die nuttig is voor de samenleving; tegelijkertijd kunnen kwaadwillenden deze AI-technologie gebruiken voor snelle uitvoering van cybercriminaliteit. Aangezien AI een belangrijke en groeiende rol speelt bij cyberaanvallen en -verdediging, verwachten we dat dit platform ook door hackers zal worden gebruikt, en we zullen de komende dagen besteden om beter te begrijpen hoe.”
Meer gedetailleerde uitleg van de 5 geschetste scenario’s in dit blog.
