Hele 42,5 prosent av svindelforsøkene som oppdages i finanssektoren skjer nå ved bruk av kunstig intelligens (KI). Det viser en rapport fra bedriften Signicat. Likevel har kun 22 prosent av finansinstitusjonene tatt i bruk KI-genererte verktøy for å forebygge svindel. Studien omfatter beslutningstakere i finans- og betalingssektoren i sju land, inkludert Norge.

Malcolm Langford, professor ved Juridisk fakultet på Universitetet i Oslo, mener 22 prosent er lavt.

– Her må finansinstitusjonene tenke nytt om sikkerhetsrisiko. Vi må bruke KI mot KI, selvsagt med respekt for personvern og KI-forordningen, sier han.

KI kan oppdage unormale hendelser

En måte å gjøre dette på, er såkalt «anomaly detection», altså systemer som oppdager unormale hendelser.

– Hvis jeg sender 2000 kroner til Kenya, får jeg automatisk en melding fra banken min fordi dette er regnet som et utviklingsland og mulig svindel. Men hvis 200.000 kroner sendes fra min konto til en annen norsk konto, får jeg ingen beskjed. Mange svindeloverføringer går først til en norsk konto. Her ligger de kriminelle langt foran bankene, sier han.

Les også: Vipps stopper svindlerne med kunstig intelligens – FinansFokus

Ifølge Signicat har deepfake-teknologi raskt blitt en av de tre mest utbredte formene for identitetssvindel i Europas finans- og betalingssektor. Deepfakes bruker kunstig intelligens til å skape svært realistiske digitale forfalskninger.

Et hårreisende eksempel er en Hong-Kong-ansatt i et britisk selskap som ble utsatt for et falskt digitalt møte og endte med å overføre 25 millioner dollar til svindlere.

Ulike svindelmetoder

Langford påpeker at deepfakes bare er én av flere måter svindlere kan bruke KI på.

KI kan også lage mer troverdige svindel-eposter, for eksempel falske betalingskrav som sendes til et stort antall mennesker, eller det kan etterligne din datter i tekstmeldinger og lure deg til å overføre penger. KI kan dessuten gjøre såkalt phishing-svindel, der svindlerne prøver å få tak i sensitiv informasjon, mer troverdig.

Til sist kan det brukes til å angripe et nettsted og bryte ned nettstedets sikkerhetssystemer.

Framstår mer troverdig

Global cyberkriminalitet, som inkluderer KI-generert svindel, forventes å koste hele 10,5 trillioner dollar årlig i 2025, ifølge selskapet Cybersecurity Ventures. Dette tilsvarer bruttonasjonalproduktet til verdens tredje største land.

– KI har gitt svindlerne mange nye muligheter. Det gjør at de kan operere raskere og mer troverdig, sier Langford.

En studie fra University of Illinois Urbana-Champaign viser noe av potensialet: Forskerne kontaktet en større gruppe mennesker på telefon ved bruk av KI-generert tale. De fikk napp hos hele 36 prosent. Det er et langt høyere tall enn det som er vanlig i annen type svindel, ifølge Langford.

Trenger flere deteksjonsmetoder

Også Pinar Alpay, Chief Product & Marketing Officer hos Signicat, påpeker at finansinstitusjoners tradisjonelle sikkerhetssystemer ikke lenger er nok.

– Organisasjoner bør vurdere avanserte deteksjonssystemer som kombinerer KI, biometri og identitetsverifisering, sier hun i en pressemelding og utdyper:

– Et oppsett med flere deteksjonsmetoder er avgjørende. Ved å kombinere tidlig risikovurdering, sterk identitetsverifisering og autentiseringsmetoder basert på ansiktsbiometri, samt løpende overvåkning, kan bedrifter beskytte både virksomheten og kundene sine bedre.

Mener Bank-ID gjør oss sårbare

Ifølge Langford er norske bedrifter og forbrukere ekstra sårbare for svindel fordi vi identifiserer oss hovedsakelig på én måte, nemlig gjennom Bank-ID, som har en universalnøkkelfunksjon – altså at en og samme eID åpner «alle dører».

– Her kan bankene bidra til en offentlig samtale om at vi trenger bedre ID-systemer, oppfordrer han.

Videre mener han at finansinstitusjoner jevnlig bør bruke KI til teste egne systemer for angrep, såkalt simulert angrep. Faktisk synes han de bør de konkurrere om å bli best på å svindelbekjempelse, slik det nå er i Storbritannia.