Riskhantering av AI i banksektorn

AI
DARIUSH KHAILTASH & PONTUS LINDQVIST
10.06.2022

För tillfället pågår en stark innovationstrend inom banksektorn, till exempel ökar användningen av artificiell intelligens (AI) som ett verktyg för att effektivisera dagliga aktiviteter hos aktörerna. Användningen påverkas av en ökad frekvens av cyberattacker, uppkomsten av DORA och AI Act, och mer kraftfulla AI-drivna system. Banksektorns roll i samhället gör att det är viktigt att förstå hur aktörer hanterar risker relaterade till AI. Vår studie analyserar hur organisationer kan minska dessa risker och hur det påverkar riskhanteringsprocessen. För att undersöka implementeringen av AI i banksektorn genomförde vi intervjuer med konsulter på Knowit och personer som arbetar i branschen, alla med erfarenhet av AI, cybersäkerhet och/eller riskhantering.

Kort sagt, vår studie har undersökt effekten av AI på bankverksamhet och dess processer. AI som affärsverktyg är relativt nytt, vilket är en anledning till att vi ville förstå hur aktörer kan anpassa sina processer för att framgångsrikt kunna implementera teknologin i sin verksamhet. Enligt våra resultat kräver riskhanteringen av AI en utökad kompetens, på grund av dess komplexitet och viljan att automatisera processer. Teamet som ansvarar för riskhantering måste ha juridiska, tekniska och finansiella färdigheter. Att använda AI-lösningar ökar även beroendet av tredjepartsaktörer, till exempel för att bekämpa cyberhot och möjliggöra Open Banking-applikationer, vilket gör att organisationens omfattning breddas. Tydlig kommunikation är mycket viktig i dessa team och i organisationen som helhet. Ett förslag som tas upp i våra resultat är att skapa en gemensam terminologi om AI inom organisationen, för att undvika missförstånd.

En annan åtgärd som organisationer kan vidta för att effektivisera sin riskhanteringsprocess är att uppdatera sina riskklassificeringssystem för att omfatta de risker som AI introducerar. Denna process kan baseras på policyer och förordningar såsom den kommande AI Act. Våra resultat visar också på bristande kunskap och medvetenhet inom branschen kring AI och säkerhet, ett kunskapsgap som borde prioriteras genom att utbilda hela organisationen om effekterna av AI-drivna lösningar. Dessa effekter påverkar bankerna på flera sätt. Vi drog slutsatsen att synen på AI internt och av kunder är bidragande för att en implementering ska bli lyckad. Att utbilda organisationen om potentiella fel i systemets beslutsförmåga samt partiska eller diskriminerande system är därför viktigt.

Det är också viktigt att dela träningsdata. I våra resultat rekommenderar vi att alla aktörer inom branschen samarbetar för att göra tillförlitlig data tillgänglig för alla. Det är dock upp till varje organisation att bestämma hur AI ses internt för att förstå vilka effekter det kommer att få. Att ha en gemensam förståelse för vad AI är, men även inte är, kan begränsa fördomar, som annars skulle kunna påverka utvecklingen.

Våra resultat visar att aktörer tycker att det är svårt att omsätta regler och förordningar till dagliga aktiviteter, vilket kommer att bli ännu mer tydligt när nya förordningar såsom DORA och AI Act är på plats. Genom att standardisera denna process över hela organisationen kan man undvika missförstånd och stärka kopplingarna mellan interna policydokument och regelverk.

Vi har sammanställt våra resultat i en tabell som kan ses nedan. Varje identifierat tema är kopplat till en rad utmaningar som kan uppstå vid implementering av AI-drivna lösningar, följt av rekommenderade åtgärder för att hantera dessa utmaningar.

Hela uppsatsen finns att läsa här.

 

Bild_blogginlägg banksektor AI