KI driver den nye CFO-svindelen

De fleste av oss husker «Nigeria-brevene». For få år siden kunne mange svindelforsøk avsløres med dårlig språk, rar grammatikk og en avsenderadresse som ikke helt stemte. Den tiden er forbi, ifølge en rapport fra cybersikkerhetsselskapet Vectra AI.

De skriver at AI-drevet svindel allerede har gått fra å være en teknologisk kuriositet til å bli en operasjonell risiko for virksomheter. Der klassisk sosial manipulering krevde tid, språkferdigheter og manuell tilpasning, kan angripere nå produsere personlige e-poster, stemmer og videoopptredener i stor skala.

Dette er svindel som angriper tillit, hierarki og betalingsvilje. Den utnytter at flinke økonomimedarbeidere vil være effektive, serviceinnstilte og lojale mot ledelsen.

Vectra AI bruker begrepet «truth decay» om situasjoner når falske e-poster, stemmer og videosamtaler ser ekte ut, selv for et trenet øye. Det kan fort bli et styringsproblem for de som har ansvaret for selskapets utbetalinger.

Svindelen har flyttet seg inn i fullmaktsmatrisen

Lærdommen fra de internasjonale sakene kjent fra media er at svindlerne ikke nødvendigvis prøver å hacke seg inn først. De forsøker å få økonomifunksjonen til å gjøre jobben for dem.

Vectra AI trekker frem deepfake-video, stemmekloning og AI-generert Business Email Compromise som de mest alvorlige truslene mot virksomheter. Det betyr at angriperen kan kombinere flere virkemidler: En e-post som ligner intern tone, en telefonsamtale med en klonet stemme, og i verste fall et videomøte der en leder tilsynelatende ber om at en transaksjon gjennomføres.

Store konsern har ofte egne sikkerhetsteam, avanserte overvåkingssystemer og formaliserte betalingskontroller. Små selskaper har kort vei til daglig leder og kan ofte verifisere uvanlige forespørsler muntlig.

Mellomstore bedrifter, derimot, har gjerne store nok betalingsvolumer til å være attraktive, men ikke alltid modenheten, kapasiteten eller redundansen i kontrollmiljøet. Rollen til CFO blir dermed kritisk: Ikke bare som ansvarlig for økonomi, men som eier av de prosessene svindlerne forsøker å manipulere.

Tre sårbare punkter

Vectra AI trekker frem tre sårbare punkter:

Ledelsesimitasjon via deepfake (Executive impersonation). Dette rettes direkte mot de største og mest kritiske transaksjonene i selskapet. Svindlere bruker sanntids syntetisk video og klonede stemmer for å utgi seg for å være toppfremtredende ledere. Det er dette som rammet ingeniørgiganten Arup, der en økonomimedarbeider trodde han satt i et videomøte med konsernets faktiske CFO. Det førte til 15 overføringer på til sammen 25,6 millioner dollar. 

Målrettet AI-phishing i stor skala (AI-enhanced spear phishing). Angriperne bruker nå store språkmodeller (LLM) til å skrape data fra LinkedIn, registre og nettsider for å masseprodusere skreddersydde e-postkampanjer. Vectra viser til en kampanje som traff 800 regnskaps- og økonomibyråer samtidig. E-postene inneholdt korrekte, spesifikke offentlige registreringsdetaljer for å lure økonomiavdelingen til å tro at henvendelsene var legitime.

Falske ansatte og innsidertrusler (Deepfake job candidates). Dette høres kanskje ut som et HR-problem, men for CFO representerer det en enorm økonomisk risiko. Rapporten viser til at kriminelle (blant annet fra Nord-Korea) bruker deepfakes til å bestå videointervjuer og bli ansatt i bedrifter. Dette eskalerer raskt fra ren lønnssvindel til utpressing (data extortion), der de stjeler sensitiv finansiell informasjon fra innsiden av systemene og krever løsepenger.

Det gamle sikkerhetsrådet holder ikke lenger

Mange ansatte har lært å se etter skrivefeil, dårlige oversettelser og rare formuleringer. Det er fortsatt nyttig, men det er ikke nok.

AI-svindel leverer menneskelig kvalitet. En angriper trenger ikke lenger skrive dårlig norsk. Han trenger ikke engang skrive selv. Derfor bør økonomiavdelingen trene på noe annet enn klassisk «finn feilen i e-posten»-opplæring. De må trene på kontekst.

Er forespørselen uvanlig? Bryter den med normal betalingsrutine? Kommer den på et tidspunkt der det er vanskelig å få tak i andre? Ber noen om å hoppe over et kontrollpunkt? Brukes det press, hemmelighold eller krisestemning?

Det er her svindelen ofte avslører seg. Ikke i språket, men i adferden, skriver Vectra AI.

CFOens nye kontrollspørsmål

Den praktiske konsekvensen er ikke at alle bedrifter må kjøpe nye sikkerhetsverktøy i morgen. Men CFO bør ta en ny gjennomgang av betalingskontrollene med ett premiss: Hva når vi ikke kan stole på e-post, telefon og video?

Vectra AI foreskriver tre kontroller:

1. Dobbel godkjenning av betalinger over definerte terskler. Ikke bare i systemet, men reelt gjennom to uavhengige personer.

2. Verifisering i en annen kanal. Hvis en betalingsinstruks kommer på e-post, må bekreftelsen skje via et kjent telefonnummer eller en etablert intern kanal, ikke ved å svare på samme e-posttråd.

3. Forhåndsavtalte kontrollfraser eller rutiner ved hastesaker. Det høres gammeldags ut, men i en verden der stemmer kan klones, kan en enkel avtalt frase være mer verdt enn et tilsynelatende ekte anrop.

Likevel: «AI-generated social engineering will sometimes succeed», trøster Vectra AI oss med. Målet kan ikke være å hindre alle forsøk, det tror de er umulig.