Palo Alto Networks: “Explosie aan deepfakes rond Quantum AI-fraude”

2 september 2024

Onder­zoe­kers van cyber­se­cu­ri­ty­be­drijf Palo Alto Networks hebben tien­tallen websites geïden­ti­fi­ceerd waar deepfakes van bekende figuren worden ingezet om bezoekers op te lichten. De fraudeurs opereren in buur­landen van België en maken misbruik van beelden van diverse promi­nente figuren, variërend van Giorgia Meloni tot Patrick Pouyanné, de CEO van Tota­l­Ener­gies. Omdat ze steeds dezelfde werkwijze hanteren, vermoeden de onder­zoe­kers dat het over één enkele hackers­groep gaat.

Valse investeringsmogelijkheden

De hackers gebruiken vaak een verge­lijk­bare methode: ze over­tuigen niets­ver­moe­dende slacht­of­fers van de finan­ciële voordelen van Quantum AI, een zogenaamd inves­te­rings­plat­form. Slacht­of­fers worden door­ge­stuurd naar frau­du­leuze websites waar ze hun contact­ge­ge­vens achter­laten. Vervol­gens neemt een hacker contect met hen op met het verzoek om 250 dollar over te maken om toegang te krijgen tot het platform. De slacht­of­fers worden daarna onder druk gezet om meer te inves­teren. Het geld dat ze in de app stoppen, zien ze echter helaas nooit meer terug.

Figuur 1: post op sociale media die de Quantum AI app promoot

Lipsynchronisatie

De bedrieg­lijke websites kwamen in juni 2024 onder de aandacht van de onder­zoe­kers. Gemiddeld trok elke site al 114,000 bezoekers aan, volgens de speurders. De cyber­cri­mi­nelen gebruiken vaak echte video’s van bekende figuren en voegen via lipsyn­chro­ni­sa­tie­tech­no­logie valse berichten toe. Enkele van de populaire websites waren fortu​na​tenews​.com en ai​-usmcol​lec​tive​.click.

Figuur 2: huerwl​leiss​-herton​.pro, een website die een deepfake van Elon Musk gebruikt om Quantum AI te promoten
Figuur 3: invest​-tool​a​venue​.shop gebruikt een AI-gema­ni­pu­leerd beeld van Patrick Pouyanné (CEO van Tota­l­Ener­gies) om valse wedstrijden van Tota­l­Ener­gies te promoten

Snelle toename

Uit verder onderzoek blijkt dat de eerste valse websites ongeveer een jaar geleden zijn verschenen. In februari van dit jaar was er een explosie van het aantal Quantum AI-websites, met meer dan 86 nieuwe sites die maand. Elk domein blijft gemiddeld zo’n 142 dagen actief, wat aanzien­lijk langer is dan een doorsnee phis­hing­web­site. Momenteel tellen de onder­zoe­kers van Palo Alto Networks 175 actieve domeinen die réclame maken voor deze fraude.

Figuur 4: het aantal actieve domeinen die deepfake video’s hosten

Bekijk het rapport via de volgende link: The Emerging Dynamics of Deepfake Scam Campaigns on the Web.

Pin It on Pinterest

Share This