E‑mailaccounts met AI-functionaliteit kunnen de ultieme interne dreiging worden

In een nieuwe, gecon­tro­leerde proof-of-concept-aanvals­si­mu­latie heeft Barracuda laten zien hoe één gecom­pro­mit­teerd account van een mede­werker kan leiden tot het compro­mit­teren van een CEO en fraude met bank­over­schrij­vingen. Daarbij konden ze 250.000 dollar ‘verdienen’ door gebruik te maken van volledig legitieme, bestaande processen. Bij deze aanvals­si­mu­latie werd gebruik­ge­maakt van Copilot, maar deze techniek kan ook toegepast worden bij andere AI-assistenten.

Het grootste risico van een gehackt account met AI-func­ti­o­na­li­teit is de snelheid waarmee een AI-assistent aanval­lers kan helpen bij het achter­halen van gevoelige infor­matie, het iden­ti­fi­ceren van doel­witten, het opstellen van over­tui­gende berichten en het uitvoeren van een aanval met behulp van de toegangs­rechten van het slachtoffer.

Hoe de aanval verloopt

Met behulp van een gehackt werk­ne­mers­ac­count vroegen de aanval­lers eerst om hulp bij het creëren van persis­tentie, door het instellen van inbox-regels die inlogmel­dingen en andere verdachte noti­fi­ca­ties verbergen voor de gebruiker. Vervol­gens vroegen ze de assistent om de structuur van de orga­ni­satie in kaart te brengen, waar­de­volle doel­witten te iden­ti­fi­ceren en relevante e‑mailconversaties boven water te halen die verborgen zaten tussen maan­den­oude e‑mails, bijlagen en agenda-activiteiten.

Met deze infor­matie op zak lieten de aanval­lers de AI-assistent een zeer over­tui­gend phis­hing­be­richt voor de CEO opstellen, in de natuur­lijke schrijf­stijl van de gecom­pro­mit­teerde mede­werker. Omdat de e‑mail afkomstig was van een legitiem intern account en echte zakelijke context weer­spie­gelt, was de kans van slagen groot.

Zodra het account van de CEO was gecom­pro­mit­teerd via een aanval die zijn session-token stal, herhaalden de aanval­lers het proces. Ze gebruikten AI om hun aanwe­zig­heid in het systeem te handhaven en de meest waar­de­volle finan­ciële infor­matie in de mailbox van de CEO te achterhalen.

Waarom dit belangrijk is

AI kan een mailbox omvormen tot een door­zoek­bare bron van infor­matie. In de proof-of-concept-aanval bracht een eenvou­dige vraag naar recente finan­ciële acti­vi­teiten actieve facturen, over­schrij­vingen en approval-workflows aan het licht, waaronder een in behan­de­ling zijnde betaling van 247.500 dollar. De aanval­lers gebruikten vervol­gens het account van de CEO en de AI-assistent om een over­tui­gend verzoek op te stellen aan de finan­ciële afdeling, om de ontvan­gende bank­re­ke­ning te wijzigen voordat de over­schrij­ving werd goedgekeurd.

Omdat het verzoek afkomstig was vanuit de legitieme mailbox van de CEO, verwees naar een echte trans­actie en over­een­kwam met zijn commu­ni­ca­tie­stijl, hadden tradi­ti­o­nele e‑mailsecuritymaatregelen weinig reden om het bericht als verdacht aan te merken. Aanval­lers stelden ook forwar­ding-regels in om beves­ti­gings­be­richten te onder­scheppen en gebruikten de AI-assistent om bewijs­ma­te­riaal van de fraude snel op te sporen en te verwijderen.

“De e‑mailgeschiedenis van een gebruiker staat vol gevoelige infor­matie en context die door aanval­lers kan worden misbruikt, waaronder verzonden en ontvangen e‑mails, gedeelde docu­menten, bijlagen en agenda-invites. De bedrijfs­struc­tuur kan worden afgeleid uit impli­ciete relaties in berichten of recht­streeks worden ingezien via orga­ni­g­rammen”, zegt Daniel Avulov, Senior Cyber­se­cu­rity Researcher bij Barracuda. “De gecon­tro­leerde aanval laat zien hoe AI-assis­tenten onbewust scha­de­lijke insiders kunnen worden en zowel de effec­ti­vi­teit als de snelheid van een aanval kunnen verbe­teren. De meest effec­tieve secu­ri­ty­aanpak is om te erkennen dat aanvals­pa­tronen gelijk blijven, gebruik te maken van bestaande tele­me­trie en ervoor te zorgen dat de gemid­delde detec­tie­tijd zo kort mogelijk is.”

Naarmate AI-assis­tenten steeds dieper worden geïn­te­greerd in zakelijke commu­ni­catie en werk­pro­cessen, moeten orga­ni­sa­ties AI-onder­steunde accounts behan­delen als assets met een zeer hoge waarde. Iden­ti­teits­be­scher­ming, moni­to­ring van gecom­pro­mit­teerde accounts en het bevei­ligen van AI-onder­steunde toegang tot bedrijfs­in­for­matie zullen een steeds crucialer onderdeel worden van moderne e‑mail- en identiteitssecuritystrategieën.

Meer infor­matie en tech­ni­sche details over de proof-of-concept is hier te vinden: https://​blog​.barracuda​.com/​2​0​2​6​/​0​8​/​0​4​/​a​i​-​e​n​a​b​l​e​d​-​e​m​a​i​l​-​a​c​c​o​u​n​t​s​-​i​n​s​i​d​e​r​-​t​h​reat.