Uitlegbare AI: hit or miss is verleden tijd

Uitlegbare AI: hit or miss is verleden tijd

Uitlegbare artificiële intelligentie (XAI) neemt de laatste twijfel weg over de betrouwbaarheid van algoritmes bij transactiemonitoring. Aleksandra Jarosińska, global business development manager bij Comarch, duikt in de wereld van (uitlegbare) AI, anti-money-laundering en de strijd tegen financiële criminaliteit.

“Mijn eerste stappen op het werkveld zette ik als analist in een antiwitwasafdeling (AML) van een internationale financiële instelling. Ik herinner me nog steeds die eindeloze open kantoren vol analisten die probeerden te bepalen hoe riskant een samenwerking met een bepaalde entiteit effectief is. Om de zoveel weken haalden we een nieuwe mijlpaal qua aantal werknemers … 100, 200, 300 … Met het internet als enige hulpmiddel probeerden we te analyseren of een bepaald risico kon worden beperkt of moest worden gemeld aan iemand hoger in de hiërarchie.”

“Nu, 15 jaar later, denk ik dat we het best leuk hadden, virtueel op reis met onze klanten naar de Kaaimaneilanden, Belize of op z’n minst de naburige staat, maar besef ik ook hoe inefficiënt en onvolmaakt we te werk gingen. Zoals de huidige cijfers laten zien, waren we ook vrij duur, want volgens LexisNexis kost het volledige Know Your Customer-proces (KYC) banken zo’n $141.000 per vte per jaar.

Schaap in wolfskleren
“Vandaag gebruiken de meeste financiële instellingen relatief eenvoudige oplossingen op basis van regels. Deze tools zijn echter verre van perfect omdat ze aangedreven worden door historische patronen. Dat betekent dat enkel de transacties die vergelijkbaar zijn met eerdere verdachte transacties worden opgemerkt en onderzocht.”

“Een tweede probleem is het aantal vals positieve meldingen, wat dagelijkse kost is bij de huidige oplossingen. Volgens Reuters had 80% van de meldingen nooit mogen worden gegeven. Toch moet elke melding worden opgevogld door een AML-analist. Zo komen we terug bij de analist die probeert te bepalen of er sprake is van witwaspraktijken of niet.”
Uitlegbare AI: hit or miss is verleden tijd

Het nieuwe zwart
“Bij Comarch, waar ik vandaag werk, gingen we aan de slag met een nieuwe AI-gebaseerde aanpak. Er werd een prioriteitsbepaling toegepast op de verdachte transacties en een verdere voorselectie voor analyse. Voor elke gesignaleerde case of klant schatten we het risico op witwaspraktijken in met behulp van de krachtigste classificatie-algoritmes. Transacties onder een bepaalde risicodrempel werden stopgezet of gepauzeerd om zo de werklast aanzienlijk te verminderen.”

“De veelbelovende resultaten van deze aanpak, stimuleerden ons tot verder onderzoek. Onze volgende stap was uitlegbare modellen toepassen. Het grootste obstakel voor het implementeren van AI was namelijk het gebrek aan een duidelijke redenering voor elke voorspelling.”

Hit or miss wordt verleden tijd
“De uitdaging was niet alleen om te bepalen of een specifieke transactie een criminele daad was, maar nog meer om te raden waaróm een AI-systeem deze transactie verdacht of net niet verdacht vond. Daar biedt XAI (uitlegbare artificiële intelligentie) een oplossing voor.”

“’Uitlegbaar’ betekent dat mensen kunnen begrijpen hoe een AI-algoritme werkt zonder dat er verdere uitleg nodig is over het dataprocessingmodel. ‘XAI is een reeks machine learning-technieken waardoor de menselijke gebruikers de opkomende generatie van AI-partners kunnen begrijpen, voldoende kunnen vertrouwen en effectief kunnen beheren’, luidt de definitie van David Gunning, een van de meest vooraanstaande onderzoekers van geavanceerde AI-systemen.”

“XAI is de ontbrekende schakel tussen de mens en big data. XAI doet meer dan het weergeven van data – het interpreteert data en zegt: ‘Ik begrijp waarom; Ik begrijp waarom niet; Ik weet wanneer ik u kan vertrouwen; Ik weet waarom u een fout maakte.’ Deze aanpak zorgt voor een nieuwe dimensie bij het opsporen van financiële criminaliteit. Voor het eerst in de geschiedenis kan AI echt met ons communiceren.”

Niet de volle 100%
“AI is geen nieuw concept voor de bankensector. Bij sommige bankprocessen, zoals klantenservice, roept AI geen vragen op, toch zeker niet op technisch vlak. Maar bij andere processen, zoals veiligheid en risicobeheersing, zijn er nog steeds enkele uitdagingen – met als grootste uitdaging de transparantie en uitlegbaarheid.”

“Daarom bleven domeinen zoals AML en fraudepreventie lang onontgonnen terrein voor AI. De instellingen die daadwerkelijk besloten te investeren in AI voor AML waren op zijn zachtst gezegd licht teleurgesteld over de resultaten. Veiligheid en risicobeheersing zijn voor elke bank van het grootste belang, omdat ze het publieke vertrouwen in een bank kunnen maken of kraken. AI scoorde niet goed omdat het zijn bevindingen niet kon onderbouwen.”
Bron