Navigering i AI-alderen: Tilpasning til det skiftende landskab for betalingssvindel

Kunstig intelligens (AI) er et buzzword i vores nuværende samfund. Folk tager AI-værktøjer ind i deres personlige og professionelle liv, og de bliver dagligt konfronteret med genererede billeder og film på sociale medier. AI er her, og det går ingen steder.

Som med al ny digital teknologi er svindlere blandt de første, der tilpasser sig den. Vi har allerede set eksempler på, hvordan de bruger det. Så hvordan vil dette udvikle sig, og hvordan vil kunstig intelligens påvirke svindellandskabet? Hvad bliver virkningen? Og hvad kan din organisation gøre for at forberede sig på det?

Ændringer i svindellandskabet
På grund af kunstig intelligens forventer vi, at antallet af svindelforsøg vil stige. Fordi angrebene bliver mere sofistikerede, er der også en risiko for, at svindlerne får større succes. Så hvordan bruger svindlerne AI nu, og hvad kan vi forvente i fremtiden?

1. Social engineering svindel ved hjælp af AI er en ny og stor trussel mod virksomheder og forbrugere.
   Ved kun at bruge sekunder af en video af dig, taget fra sociale medier, kan AI nu klone din stemme og dit ansigt. Denne deepfake klon kan bruges til at overbevise folk i dit netværk om, at de er dig, vinde deres tillid og stjæle deres penge. For effektivt at udføre et svindelangreb med en dybfalsk klon er der i øjeblikket tre forskellige modi operandi, vi har set:

1. 1. Træn en specialiseret AI-model til overbevisende at skabe en deepfake i realtid med henblik på et ondsindet videoopkald. Dette er dog en kompleks, dyr og tidskrævende indsats. Dette kunne stadig være interessant for svindleren, hvis gevinsterne er høje. For eksempel i CEO-svindel. Det første vellykkede svindelangreb med denne modus operandi fandt sted i Hong Kong. Ved at skabe en deepfake-model af CFO'en og 3 andre kolleger var svindlerne i stand til at overbevise en medarbejder i økonomiafdelingen til at overføre et beløb svarende til EUR 25 mio. 
   2. Brug eksisterende modeller af berømtheder til at manipulere folk til at investere i en fidus. I Sydkorea blev en kvinde manipuleret i en romantisk fidus ved hjælp af deepfake billeder og et dybt falsk videoopkald med Elon Musk. Svindlerne fik USD 50.000 i dette forsøg. 
   3. Træn en model til et dybt falsk lydopkald. Der har været forsøg med denne modus operandi. I et af disse forsøg modtog en far et opkald fra sin "søn". Hans søn anmodede om penge til kaution efter en bilulykke. Dette er nemt at gøre med de nuværende tilgængelige værktøjer. Det er dog ikke særlig overbevisende endnu, da svindleren skal indtaste svarene i realtid. Samtalen vil ikke føles naturlig på grund af timingen af ​​det svar, som svindleren giver.

2. Traditionel phishing-svindel er lettere og mere skalerbar med brugen af ​​AI.
   Language Learning Models (LLM) som ChatGPT har gjort det meget enkelt at generere phishing-beskeder på de mest almindelige sprog med det samme. Data om mål er nemt at købe online, ligesom automatiseringsværktøjer til at køre dine angreb. Det eneste, en svindler skal gøre, er at læne sig tilbage og vente, indtil et offer tager lokket.

3. Malware, der bruger AI til at bryde bank- og betalingsbeskyttelse er stigende, men kommer i bølger.
   I Kina har den mobile malware kaldet "GoldDigger" været i stand til at fange brugerens ansigt og anvender AI til at bruge disse data til at bryde ansigtsgodkendelser på andre mobilapplikationer, såsom din bankapp. Selvom dette er en ægte bekymring, er det også forventeligt. Når et forsvar bliver stærkt nok, vil folk forsøge at bryde det og til sidst finde en måde. Når tabene bliver betydelige, vil forsvarerne gøre, hvad de kan for at rette op på problemet og i sidste ende formår at gøre det. AI er simpelthen et nyt værktøj her, i den forstand ikke noget nyt.

På grund af fremskridt inden for AI-teknologi forventer vi, at denne slags angreb vil blive lettere at udføre i fremtiden. At træne deepfake-modeller bliver nemmere, billigere og mindre tidskrævende. Hvor svindlere nu bruger phishing-as-a-service kits, forventer vi i fremtiden, at der vil være værktøjer tilgængelige til at udføre automatiserede svindelangreb. For eksempel romantik/investeringssvindel, hvor svindlerne kan abonnere på en tjeneste, der vil støtte dem i at udføre denne form for angreb. Kontakten med offeret kan automatiseres fuldt ud med AI-chatbots, og alt hvad svindleren skal gøre er at planlægge og udføre udbetalingen.

Hvordan vil disse ændringer påvirke din organisation?

1. Højere arbejdsbyrde
   Vi forventer en betydelig stigning i svindelforsøg, en større mængde sager, der kræver undersøgelse, og en stigning i kundehenvendelser relateret til svindel.

2. Mere bedrageri at tilbagebetale
   Med flere svindelforsøg er der også en øget risiko for, at kunderne bliver et offer. Et øjeblik, hvor du bliver distraheret eller ikke er opmærksom, kan resultere i et vellykket bedrageri. En stigning i sofistikeringen af ​​svindelangreb vil også føre til flere ofre og større tab pr. sag. Med PSD3 skal svindel efterligning også refunderes, og dette vil også være en drivkraft for flere sviggodtgørelser. 

Hvordan kan din organisation forberede sig på denne nye æra inden for bekæmpelse af svindel?
Det, vi forventer vil ske, er, at den måde, som svindlere henvender sig til deres ofre på, vil ændre sig. Svindlerne vil bruge forskellige historier og teknologier til at manipulere ofret. Fra det tidspunkt forbliver modus operandi den samme, som vi har set i de sidste år. De data, din organisation modtager, forbliver også de samme. Vi forventer dog, at offer-initierede svindel vil fortsætte med at stige. Dette har ført til en stigende efterspørgsel efter bankadfærdsovervågning i de seneste år. Dette forbliver sandt, mens vi går ind i den nye AI-drevne æra. Så hvad kan din organisation gøre for at forberede sig?

1. Skab 100 % synlighed på kundens/kriminelle rejse
   For at kunne udføre bankadfærdsovervågning med succes, har din organisation brug for 100 % synlighed på kundens og kriminelle rejse. En kunde, der bliver manipuleret, vil vise en anden adfærd, end når den samme kunde foretager en legitim transaktion. At have 100 % synlighed på kundens/kriminelle rejse vil give dig mulighed for at overvåge alle interaktioner med dine kanaler og give dig mulighed for at opdage afvigelser fra dine kunders normale mønstre. Dette vil øge din succes med at forhindre svindel i at ske, og det er altid den bedste tilgang til at reducere arbejdsbyrden.

2. Der er brug for en holistisk tilgang – samarbejd internt, men også eksternt
   Kunder ønsker en problemfri, friktionsfri oplevelse under interaktioner med din bank. Banker tilpasser sig disse krav ved at digitalisere deres produktportefølje og processer. Selvom dette letter en god kundeoplevelse, åbner det også døre for kriminelle. Arbejd sammen med svindeleksperterne i din organisation, når du laver ændringer i dine produkter og processer. Lad dem hjælpe dig med at identificere risici og afbøde foranstaltninger for at tilbyde en friktionsfri kundeoplevelse. Tilføj friktion, hvis det er nødvendigt, for eksempel en ventetid, hvis en kunde ønsker at øge deres kort- eller betalingsgrænser. I øjeblikket er banker den eneste forsvarslinje mod online betalingssvindel. Svindel ender dog kun i banken, startpunktet for den kriminelle rejse er på andre platforme. I de fleste tilfælde starter svindel på sociale medier, via e-mail eller telefon. Samarbejde med eksterne parter som big tech, teleudbydere og internetudbydere kan føre til succesfulde løsninger til at bekæmpe svindel. Et godt eksempel er, hvordan teleudbydere i Holland i øjeblikket blokerer falske opkald, når telefonnumre på banker bliver brugt.

3. Øg bevidstheden
   Mens banker allerede gør meget for at øge bevidstheden, kræver denne nye AI-drevne æra en ny tilgang. Udover at informere kunderne om de forskellige modi operandi, der findes, og afbødende foranstaltninger, de bør tage, bliver det nu også vigtigt at hjælpe dine kunder med at genkende deepfake og AI-genereret indhold. Når dine kunder kan genkende dette, vil de være mindre tilbøjelige til at blive et offer.

Konklusion
Med AI-æraen, der banker på vores døre, skal banker forblive årvågne og proaktive i kampen mod svindel. Ved at omfavne innovation, samarbejde og øge bevidstheden kan organisationer navigere i kompleksiteten i AI-alderen og sikre sig mod svindelrisici. At opretholde 100 % synlighed på kunde- og kriminelle interaktioner er afgørende for effektiv opdagelse og forebyggelse af svindel. Efterhånden som vi fortsætter med at udvikle os i den digitale æra, vil prioritering af strategier til forebyggelse af svindel og investering i omfattende synlighed være afgørende for at opretholde tillid, sikkerhed og modstandsdygtighed i betalingssvindel i stadig forandring.

(1) https://edition.cnn.com/2024/02/04/asia/deepfake-cfo-scam-hong-kong-intl-hnk/index.html
(2) https://www.independent.co.uk/asia/east-asia/elon-musk-romance-scam-dupes-south-korean-b2533764.html
(3) https://www.independent.co.uk/news/world/americas/ai-phone-scam-voice-call-b2459449.html
(4) https://kpmg.com/nl/en/home/insights/2023/06/psd3---psr-.html