Remy Overwater (SAS): 'Ik zie AI meer als een katalysator voor verbetering, dan als een risico'
“AI gaat een grote verschuiving laten zien. AI ontwikkelt zich niet alleen snel; het verandert de spelregels. Voorop blijven lopen betekent goed geïnformeerd blijven.”
Aan het woord is Remy Overwater: Sales Director bij SAS en aanwezig op het Leaders in Finance AI Event op 5 juni. Middels een Q&A met Maarten Bolk (Chief Operating Officer van Leaders in Finance) bespreekt hij de belangrijkste ontwikkelingen rondom AI én waarom professionals uit de sector het event niet mogen missen.
Het is misschien moeilijk samen te vatten, maar als het toch zou moeten doen: wat vind je het leukste aan je huidige rol?
“Wat ik het leukste vind aan mijn huidige rol is werken op het snijvlak van strategie, innovatie en het oplossen van echte problemen. Mijn achtergrond in consultancy heeft mij veel waardering gegeven voor de transformerende kracht van technologie, en in deze rol kan ik dat elke dag toepassen. Of ik nu een bank help om haar fraude-detectiestrategie te moderniseren of advies geef over AI-governance, het doel is altijd hetzelfde: tastbare waarde creëren.”
“Dat is wat ik het meeste energie vind geven en waar ik van houd in mijn werk. Het is zowel lonend als plezierig om samen met mijn team en experts uit de sector de juiste strategieën uit te werken. Er is niets bevredigender dan complexe uitdagingen om te zetten in meetbare resultaten en daar een rol in te spelen.”
Wat zijn volgens jou de grootste uitdagingen waar het gebruik van AI in financiële dienstverlening nu voor staat, vooral op het hoogste niveau?
“Ik denk dat er veel uitdagingen zijn, maar ik licht er graag een paar uit. Generatieve AI staat vooraan in het transformeren van het wereldwijde bedrijfsleven, en de financiële sector begint het potentieel ervan te benutten.”
“In het bankwezen staat data centraal in alles wat we doen—en ik denk dat dit een breed gedeeld perspectief is binnen de sector. De kans om nog meer waarde uit data te halen is groot, vooral op het gebied van efficiëntie en het genereren van waardevolle inzichten. Veel banken en verzekeraars beginnen deze voordelen al te realiseren.”
“Veel bankleiders stellen nu essentiële vragen als: hoe en waar kan generatieve AI het meest effectief worden ingezet? En hoe kunnen ze zorgen voor volledige adoptie en succesvolle opschaling binnen hun organisatie?”
“Daarnaast delen klanten vaak belangrijke uitdagingen, waarvan ik er graag een paar deel. Allereerst blijven dataprivacy en databeveiliging topprioriteiten voor leiders in de financiële sector -iets wat we steeds opnieuw horen. AI is afhankelijk van enorme hoeveelheden data om betrouwbare resultaten te genereren, en banken moeten de gevoelige persoonlijke informatie van hun klanten beschermen. Het vinden van de juiste balans is een grote uitdaging.”
“AI ontwikkelt zich niet alleen snel; het verandert de spelregels.”
“Een veelbelovende oplossing die wij adviseren is het gebruik van synthetische data. Dit bootst de eigenschappen van echte data na - at cruciaal is - en kan banken helpen privacy te waarborgen, terwijl het ook tijd, kosten en complexiteit van het verzamelen en beheren van echte data vermindert. Synthetische data kan onder andere fraudedetectie ondersteunen, kredietbeslissingen verbeteren en bias verminderen.”
“Een tweede grote uitdaging is de behoefte aan transparantie en uitlegbaarheid van AI-modellen. Veel financiële instellingen worstelen met het balanceren van de kracht van complexe modellen en de noodzaak om beslissingen begrijpelijk te maken - zowel voor toezichthouders als klanten.”
“Ten derde is er het vraagstuk van menselijke controle en verantwoordelijkheid. Wie is er verantwoordelijk als een AI-model een fout maakt - bijvoorbeeld bij een kredietbeslissing? Deze vraag wordt nog complexer bij modellen zoals large language models, die hun eigen logica of regels kunnen genereren, wat aanzienlijke ethische, juridische en operationele zorgen oproept.”
“Dit zijn slechts enkele voorbeelden die we in de sector zien. De weg erdoorheen is niet eenvoudig. Maar met de juiste balans tussen innovatie en verantwoordelijkheid kunnen financiële instellingen van AI een echt concurrentievoordeel maken.”
Kun je enkele trends in het AI-domein van het afgelopen jaar delen die je zorgen baarden, je aandacht trokken of je misschien zelfs enthousiast maakten?
“Er gebeurt wereldwijd veel. Zoals je weet zijn er talloze trends in AI die zich razendsnel ontwikkelen. Ik kan een paar voorbeelden noemen die mij zijn opgevallen. De eerste is het toenemende gebruik van generatieve AI in klantenservice en compliance. We zien een sterke toename in de toepassing van generatieve AI, niet alleen voor klantinteracties, maar ook ter ondersteuning van compliance-analisten. “
“Zo worden AI-modellen nu gebruikt om grote hoeveelheden transactiegegevens te analyseren om ongebruikelijke patronen te herkennen die op fraude kunnen wijzen. Deze proactieve benadering helpt financiële instellingen risico’s beter te beheersen en klantbezittingen te beschermen.”
“De tweede trend is de opkomst van AI-modellen die andere AI-modellen kunnen maken, vaak AutoML genoemd. Deze mogelijkheid versnelt innovatie door het ontwikkelproces van modellen te stroomlijnen.”
“De belangrijkste zorg is het vermijden van modellen die zelfstandig beslissingen nemen.”
“Het brengt echter ook belangrijke uitdagingen met zich mee rond toezicht en uitlegbaarheid. AutoML kan zeer complexe modellen creëren die moeilijk te interpreteren zijn, waardoor het voor financiële instellingen lastiger wordt om beslissingen uit te leggen aan toezichthouders, stakeholders en klanten. Transparantie en verantwoording worden in deze context steeds belangrijker.”
“En dan is de vraag: hoe moeten financiële instellingen hiermee omgaan? Ik zou aanraden om stapsgewijs te werk te gaan en traditionele machine learning-modellen te integreren met nieuwe oplossingen.”
“Het laatste onderwerp is de opkomst van AI-gedreven fraude en financiële criminaliteit, iets wat we vaak bespreken met onze klanten. AI kan het risico op fraude vergroten, maar ook dienen als hulpmiddel om fraude te voorkomen - het werkt dus twee kanten op. AI-gegenereerde deepfakes en synthetische identiteiten zijn enkele van de grootste fraude-uitdagingen voor banken.”
“Tegelijkertijd wordt AI-gedreven detectie gezien als een van de meest effectieve tegenmaatregelen. Door AI verantwoord te gebruiken - modelbias te verminderen, ethisch om te gaan met data en beslissingen uit te leggen - kunnen financiële instellingen de effectiviteit van AI als hulpmiddel tegen fraude vergroten.”
“Ik denk dat deze trends een grote verschuiving laten zien. AI ontwikkelt zich niet alleen snel; het verandert de spelregels. Voorop blijven lopen betekent goed geïnformeerd blijven.”
AI zorgt dus voor een toename van fraude-aanvallen, maar het kan tegelijkertijd ook een deel van de oplossing zijn. Waar staan we nu? Zijn financiële instellingen momenteel in staat om met dit soort aanvallen om te gaan. Waar denk je dat het naartoe gaat?
“Ik denk dat ze er klaar voor zijn. Deze bedrijven zijn volledig in staat zichzelf te beschermen tegen dit soort aanvallen. We zien zelfs dat klanten deze oplossingen al in de praktijk brengen - ook bij ons.”
“Maar governance is minstens zo belangrijk. Hoe beheer en controleer je deze systemen? En, zoals we eerder bespraken, hoe leg je ze uit aan toezichthouders? De belangrijkste zorg is het vermijden van modellen die zelfstandig beslissingen nemen - beslissingen die niet kunnen worden verklaard of gereproduceerd.”
“Wie AI ziet als een strategisch hulpmiddel, niet als een hype, zal de sector leiden.”
“Bij het monitoren of nemen van een kredietbeslissing over iemand is het bijvoorbeeld essentieel dat de uitkomst gebaseerd is op duidelijke, betrouwbare regels. Dat brengt natuurlijk risico’s met zich mee, maar we zien dat bedrijven hier echt bovenop zitten.”
“In sterk gereguleerde sectoren hebben veel organisaties al robuuste governance-maatregelen om aan compliance-eisen te voldoen, maar zijn er extra AI-governance-behoeften. SAS biedt een AI-governanceoplossing voor de bankensector, met SAS Model Risk Management als basis. SAS heeft onlangs ook de AI Governance Map gelanceerd om organisaties te helpen bij hun AI-governance. De tool brengt het volwassenheidsniveau op het gebied van AI-governance in kaart.”
Zie je AI over het algemeen meer als een kans of als een risico voor financiële dienstverlening?
“Natuurlijk zijn er ook risico’s. Zoals ik eerder aangaf zijn er uitdagingen, maar naar mijn mening biedt AI een grote kans voor financiële instellingen om efficiënter, klantgerichter en toekomstbestendiger te worden. Dit kan echter alleen - en ik herhaal mezelf - als ze investeren in verantwoord gebruik, governance en menselijke controle.”
“Verder denk ik dat AI kan helpen risico’s te beperken als het met de juiste modellen wordt geïmplementeerd. Banken en verzekeraars zullen risico’s sneller kunnen detecteren, fraude kunnen voorkomen en de klantbescherming verbeteren. Dus ik zie AI meer als een katalysator voor verbetering dan als een risico.”
“En tot slot: vertrouwen is cruciaal. AI moet vertrouwen opbouwen, niet alleen bij klanten en medewerkers, maar ook bij toezichthouders. Ik heb enkele van deze uitdagingen eerder in het interview aangestipt. Ik geloof echt dat wie AI ziet als een strategisch hulpmiddel, en niet als een hype, de sector zal leiden. Dat is de visie waar wij voor staan.”
Als je vooruitkijkt naar het komende Leaders in Finance AI Event, is er dan iets waar je in het bijzonder naar uitkijkt?
“Hoewel ik geïnteresseerd ben in het hele evenement, ben ik vooral benieuwd hoe andere leiders in finance AI benaderen - waar zij de meeste waarde zien, welke uitdagingen zij ervaren en hoe ze omgaan met de snel veranderende verwachtingen.”
“Ik denk dat dit een geweldige kans is om inzichten uit te wisselen, nieuwe ideeën op te doen en samen te werken aan verantwoorde AI-adoptie binnen de sector. In zo’n snel veranderend vakgebied als AI is samenwerking cruciaal voor vooruitgang, en ik kijk ernaar uit om te leren, ideeën uit te dagen en samen het gesprek verder te brengen.”
Meer informatie over het event is hier te vinden.
