De digitale medarbeiderne har fått fullmakter, men hvem er sjefen?

I midten av juli ble PwCs cyberundersøkelse avsluttet. Den 16. juli kunngjorde Hugging Face at selskapet var blitt utsatt for et cyberangrep. Den 21. juli meldte OpenAI at det var selskapets egne AI-agenter som sto bak.

Hendelsen oppsto under OpenAIs interne sikkerhetstester. Agentene hadde brutt ut av det avgrensede testmiljøet og skaffet seg uautorisert tilgang til systemer hos Hugging Face.

– Dette viser med all tydelighet at vi sikter mot et mål i kontinuerlig bevegelse, sa Eldar Lorentzen Lillevik, partner innen cybersikkerhet i PwC, da han presenterte Digital Trust Insights i Oslo.

Undersøkelsen bygger på svar fra 3.934 ledere i 71 land, samlet inn mellom mai og juli. Angrep mot virksomhetenes egne AI-systemer topper listen over truslene sikkerhetslederne er minst forberedt på. Halvparten plasserer dem blant sine største svakheter, foran skytrusler, leverandørangrep og løsepengevirus. Ifølge Lillevik henger det sammen med tempoet:

– Vi har implementert og satt AI-systemer i drift i et forrykende tempo. Vi har gitt dem omfattende tilganger og vidstrakte fullmakter til å utføre handlinger. Men har vi tilstrekkelig kontroll over dem, og har vi god nok beskyttelse?

Ansatt uten leder

Hvem som har ansvaret for AI-styring og AI-risiko, varierer kraftig. Blant toppledere og sikkerhets- og risikoledere svarer 29 prosent at ansvaret ligger hos CIO, CTO eller teknologifunksjonen, 26 prosent hos en egen AI-leder og 17 prosent hos CISO eller sikkerhetsfunksjonen. Lillevik opplever at ansvarsforholdene mange steder ennå ikke er formelt på plass når nyansatte agenter nå settes i sving i mange norske virksomheter.

– Hvem er deres leder, hvilke rammer skal de operere innenfor, og hvordan terminerer vi dem når oppdraget er fullført? Dette minner mye om et HR-system. Vi må ha rutiner for onboarding, forvaltning og fratredelse, slik at tilganger stenges når arbeidet er gjort, sier han.

For økonomifunksjonen er logikken kjent fra fullmaktsmatriser og arbeidsdeling. PwC trekker den samme linjen: «Der resultatet må være riktig hver gang, bør agentens handlinger gå gjennom en kontroll agenten selv ikke kan påvirke», heter det i omtalen av undersøkelsen.

Godkjenning før handling

Presset kommer også fra angriperne. 53 prosent av sikkerhets- og risikolederne rangerer AI-styrte botnett blant de AI-drevne angrepene de er dårligst forberedt på. Likevel ville bare 22 prosent latt AI-agenter utføre forsvarstiltak uten menneskelig godkjenning.

38 prosent åpner for delvis autonomi ved tiltak med lav risiko, mens 36 prosent foretrekker at mennesker styrer gjennomføringen med støtte fra AI. Teknologiens modenhet og pålitelighet er blant de største hindrene, noe 55 prosent trekker frem.

Forsiktigheten har en pris begge veier. For å forsvare oss må vi i noen tilfeller la AI-agenter handle uten forhåndsgodkjenning. Samtidig kan automatiske forsvarstiltak få konsekvenser for egen drift dersom systemene handler feil. Valget blir dermed en avveiing mellom risikoen for cyberangrep og risikoen ved å overlate beslutninger til teknologien.

– Vi erkjenner behovet og ønsker å ta teknologien i bruk, men når er det forsvarlig å slippe løs noe man ikke fullt ut forstår?

Lillevik understreker at dette krever mekanismer for logging og nødstopp. Det finnes allerede eksempler på agenter som har begått feil eller overtrådt regler.

Grunnmuren mangler

Undersøkelsen målte sju grunnleggende tiltak for databeskyttelse. I snitt har virksomhetene innført tre av dem i hele organisasjonen, og bare 5 prosent har alle sju på plass, ned fra 7 prosent i fjor. Selv dataklassifisering (49 prosent) og tiltak mot datalekkasje (48 prosent) er fullt innført hos bare omtrent halvparten.

– Når vi spør virksomhetene om de har dette på plass, ser vi en betydelig ydmykhet. Noen har deler på plass, men svært få har en fullstendig implementering, sier Lillevik.

– Samtidig opplever vi at engasjementet i organisasjonene snur fra motstand til entusiasme. Folk ønsker tilgang til AI og vil frigjøre kapasitet, men de forstår nå at grunnmuren må være på plass først, sier han.

Pengene kommer, planene henger etter

Blant sikkerhets- og økonomilederne forventer 84 prosent økte cyberbudsjetter i 2027. Det er seks prosentpoeng flere enn i fjor. Bare 39 prosent av sikkerhets-, risiko- og driftslederne har en fullt formalisert og integrert kontinuitetsplan som spesifikt omfatter cyberrisiko.

Cyber har også fått plass i styringsstrukturen. 47 prosent er helt enige i at cyberrisiko er et fast punkt på styreagendaen, og 45 prosent sier det samme om ledermøtene. Bare 36 prosent er helt enige i at cyberrisiko er knyttet til prestasjonsmåling og forretningsbeslutninger.

Tallene bygger på ledernes egne vurderinger og er ingen uavhengig kontroll av beredskapen. Gapet mellom oppmerksomhet og rutiner er dermed et gap lederne selv rapporterer.

Halvparten endrer håndteringen av leverandør- og forsyningskjederisiko som følge av den geopolitiske situasjonen. Lillevik har sett hva leverandørene betyr når krisen faktisk inntreffer.

– Vi gjennomførte nylig en øvelse i en bank der leverandørene deltok, og erfaringen viste tydelig at det er nettopp leverandørene som må håndtere store deler av krisen i praksis.

Kjenn «redningsflåten»

Lillevik avsluttet med en liste over prioriteringer: Få kontroll over agentene, involver leverandørene i beredskapsøvelsene og kartlegg behovet for digital suverenitet. Det siste rådet var det mest grunnleggende:

– Kjenn din redningsflåte. Hva utgjør virksomhetens minimum viable company?

For økonomifunksjonen kan det bety å vite hvilke systemer, data og leverandører som må fungere for at virksomheten skal kunne fakturere, betale lønn, styre likviditeten og levere pålagt rapportering. Det handler ikke bare om å beskytte seg mot angrep, men om å vite hva som må til for å holde virksomheten i gang dersom forsvaret svikter.