AI en financiële regelgeving – Nederland
Nederlandse financiële instellingen maken al enige tijd gebruik van kunstmatige intelligentie ( AI ) en experimenteren met geavanceerdere AI-modellen, wat suggereert dat het gebruik van AI in de toekomst nog verder zal toenemen. De Nederlandse toezichthouders melden echter dat veel instellingen hebben aangegeven vooralsnog terughoudend te zijn met het gebruik van generatieve AI, hoewel ze wel de potentie ervan zien. Sommigen gebruiken het langzaam voor ondersteunende processen.
In 2019 publiceerde De Nederlandsche Bank ( DNB ) een leidraad met algemene principes voor het gebruik van AI in de financiële sector. Het document diende als discussiestuk met de voorlopige standpunten van DNB over het verantwoorde gebruik van AI in de financiële sector, waarbij verschillende kwesties en ideeën werden geschetst. Van bijzonder belang waren de algemene principes die DNB formuleerde met betrekking tot het gebruik van AI in de financiële sector, die waren verdeeld over zes belangrijke aspecten van verantwoord AI-gebruik: soliditeit, verantwoording, eerlijkheid, ethiek, vaardigheden en transparantie. Belangrijke punten die DNB in het document opmerkte, waren onder meer:
- AI-toepassingen in de financiële sector moeten betrouwbaar en nauwkeurig zijn, zich voorspelbaar gedragen en binnen de grenzen van de geldende regels en voorschriften opereren;
- financiële ondernemingen moeten verantwoording afleggen voor het gebruik van AI-toepassingen (AI-toepassingen die niet goed functioneren, kunnen schade veroorzaken voor de financiële onderneming, haar klanten en andere belanghebbenden);
- AI-toepassingen mogen niet onbedoeld bepaalde groepen klanten benadelen;
- alle mensen in een financiële onderneming (van de werkvloer tot de bestuurskamer) moeten voldoende inzicht hebben in de sterke en zwakke punten van de AI-gestuurde systemen waarmee zij werken; en
- Financiële ondernemingen moeten kunnen uitleggen hoe en waarom zij AI in hun bedrijfsprocessen gebruiken en (waar redelijkerwijs van toepassing) hoe deze toepassingen functioneren.
In april heeft DNB samengewerkt met de Nederlandse toezichthouder op de markt, de Autoriteit Financiële Markten ( AFM ), en een gezamenlijk rapport gepubliceerd over de impact van het gebruik van AI in de financiële sector en het toezicht door de toezichthouder. Naast het benadrukken van de potentiële voordelen en risico’s van AI die in andere rechtsgebieden goed zijn gerepeteerd, benadrukten de Nederlandse toezichthouders het belang van een voortdurende dialoog met de financiële sector (later dit jaar staat een symposium gepland, gevolgd door rondetafelgesprekken) en de noodzaak om hun toezicht door de toezichthouder uit te breiden om de implicaties van AI te beoordelen. Er waren ook een paar andere belangrijke take-aways die het vermelden waard zijn.
Ten eerste gaven DNB en AFM een duidelijk signaal af dat van financiële instellingen wordt verwacht dat zij AI verantwoord inzetten. Nederlandse regelgevingsdoelstellingen en -normen blijven onafhankelijk van de gebruikte technologie en bestaande regelgeving is van toepassing wanneer AI wordt ingezet.
Ten tweede erkennen DNB en AFM de noodzaak om hun toezichtmethoden en -procedures te ontwikkelen, met de nadruk op risicobeheer, toepassingsmodaliteiten en uitkomsten van AI-inzet. En tot slot, aangezien het belang van AI in de financiële sector toeneemt en de behoefte aan verdere verduidelijking en specificatie toeneemt, zouden de Nederlandse toezichthouders er de voorkeur aan geven dat die regelgevende vereisten op EU-niveau worden geharmoniseerd. Wat betreft de komende AI-wet die bepaalde AI-systemen, zoals die voor kredietbeoordelingen en verzekeringen, aanmerkt als hoog risico, zullen de AFM en DNB de taak krijgen om toezicht te houden op de AI die door Nederlandse financiële instellingen wordt ingezet, in samenwerking met andere toezichthouders van de lidstaten en Europese toezichthouders. De invoering van de AI-wet vereist dat financiële instellingen die AI toepassen extra aandacht besteden aan de juiste bescherming van fundamentele rechten.
Nederlandse financiële instellingen maken al enige tijd gebruik van kunstmatige intelligentie ( AI ) en experimenteren met geavanceerdere AI-modellen, wat suggereert dat het gebruik van AI in de toekomst nog verder zal toenemen. De Nederlandse toezichthouders melden echter dat veel instellingen hebben aangegeven vooralsnog terughoudend te zijn met het gebruik van generatieve AI, hoewel ze wel de potentie ervan zien. Sommigen gebruiken het langzaam voor ondersteunende processen.
In 2019 publiceerde De Nederlandsche Bank ( DNB ) een leidraad met algemene principes voor het gebruik van AI in de financiële sector. Het document diende als discussiestuk met de voorlopige standpunten van DNB over het verantwoorde gebruik van AI in de financiële sector, waarbij verschillende kwesties en ideeën werden geschetst. Van bijzonder belang waren de algemene principes die DNB formuleerde met betrekking tot het gebruik van AI in de financiële sector, die waren verdeeld over zes belangrijke aspecten van verantwoord AI-gebruik: soliditeit, verantwoording, eerlijkheid, ethiek, vaardigheden en transparantie. Belangrijke punten die DNB in het document opmerkte, waren onder meer:
- AI-toepassingen in de financiële sector moeten betrouwbaar en nauwkeurig zijn, zich voorspelbaar gedragen en binnen de grenzen van de geldende regels en voorschriften opereren;
- financiële ondernemingen moeten verantwoording afleggen voor het gebruik van AI-toepassingen (AI-toepassingen die niet goed functioneren, kunnen schade veroorzaken voor de financiële onderneming, haar klanten en andere belanghebbenden);
- AI-toepassingen mogen niet onbedoeld bepaalde groepen klanten benadelen;
- alle mensen in een financiële onderneming (van de werkvloer tot de bestuurskamer) moeten voldoende inzicht hebben in de sterke en zwakke punten van de AI-gestuurde systemen waarmee zij werken; en
- Financiële ondernemingen moeten kunnen uitleggen hoe en waarom zij AI in hun bedrijfsprocessen gebruiken en (waar redelijkerwijs van toepassing) hoe deze toepassingen functioneren.
In april heeft DNB samengewerkt met de Nederlandse toezichthouder op de markt, de Autoriteit Financiële Markten ( AFM ), en een gezamenlijk rapport gepubliceerd over de impact van het gebruik van AI in de financiële sector en het toezicht door de toezichthouder. Naast het benadrukken van de potentiële voordelen en risico’s van AI die in andere rechtsgebieden goed zijn gerepeteerd, benadrukten de Nederlandse toezichthouders het belang van een voortdurende dialoog met de financiële sector (later dit jaar staat een symposium gepland, gevolgd door rondetafelgesprekken) en de noodzaak om hun toezicht door de toezichthouder uit te breiden om de implicaties van AI te beoordelen. Er waren ook een paar andere belangrijke take-aways die het vermelden waard zijn.
Ten eerste gaven DNB en AFM een duidelijk signaal af dat van financiële instellingen wordt verwacht dat zij AI verantwoord inzetten. Nederlandse regelgevingsdoelstellingen en -normen blijven onafhankelijk van de gebruikte technologie en bestaande regelgeving is van toepassing wanneer AI wordt ingezet.
Ten tweede erkennen DNB en AFM de noodzaak om hun toezichtmethoden en -procedures te ontwikkelen, met de nadruk op risicobeheer, toepassingsmodaliteiten en uitkomsten van AI-inzet. En tot slot, aangezien het belang van AI in de financiële sector toeneemt en de behoefte aan verdere verduidelijking en specificatie toeneemt, zouden de Nederlandse toezichthouders er de voorkeur aan geven dat die regelgevende vereisten op EU-niveau worden geharmoniseerd. Wat betreft de komende AI-wet die bepaalde AI-systemen, zoals die voor kredietbeoordelingen en verzekeringen, aanmerkt als hoog risico, zullen de AFM en DNB de taak krijgen om toezicht te houden op de AI die door Nederlandse financiële instellingen wordt ingezet, in samenwerking met andere toezichthouders van de lidstaten en Europese toezichthouders. De invoering van de AI-wet vereist dat financiële instellingen die AI toepassen extra aandacht besteden aan de juiste bescherming van fundamentele rechten.