AFM en DNB publiceren rapport over de impact van AI

De Autoriteit Financiële Markten (‘AFM’) en De Nederlandsche Bank (‘DNB’) hebben recent het rapport “De impact van AI op de financiële sector en het toezicht” (‘het Rapport’) gepubliceerd met uitgangs- en aandachtspunten voor het vormgeven van het toezicht op artificiële intelligentie (‘AI’). De AFM en DNB willen met de publicatie van het Rapport graag een dialoog aangaan met de sector, mede gelet op de snelle ontwikkelingen van AI.

Volgens het Rapport kan AI enerzijds leiden tot betere dienstverlening voor klanten en meer gepersonaliseerde producten, en biedt het instellingen de kans om inkomsten te verhogen en kosten te verlagen. Anderzijds zijn er volgens het Rapport risico’s, onder andere op het gebied van datakwaliteit, gegevensbescherming, uitlegbaarheid, incorrecte resultaten, discriminatie en uitsluiting, en een hogere mate van afhankelijkheid van derde partijen. Als de risico's van AI zich verwezenlijken, kan dat volgens het Rapport impact hebben op het klantbelang, de integriteit en soliditeit van financiële instellingen en de verhouding tussen markpartijen op de financiële markt.

In het Rapport wordt een enquête van EIOPA – de Europese autoriteit voor verzekeringen en bedrijfspensioenen – aangehaald waaruit volgt dat AI door verzekeraars op dit moment voornamelijk wordt ingezet voor klantenservice, fraudedetectie en claimafhandeling. Chatbots zijn hierbij de meest gebruikte AI-toepassing.

Volgens het Rapport mag van financiële instellingen – waaronder verzekeraars – worden verwacht dat ze AI op een verantwoorde manier inzetten. Zo dienen financiële instellingen te voldoen aan de vereisten van een integere en beheerste bedrijfsvoering en dienen zij een adequaat risicomanagement in te richten dat ook het gebruik van AI omvat. Normen ten behoeve van het klantbelang zoals de zorgplicht en normen wat betreft productontwikkeling en -distributie zijn ook van toepassing bij het gebruik van AI.

Daarnaast geldt dat op 12 juli 2024 de Europese Artificiële Intelligentie verordening (de ‘AI-Verordening’) is gepubliceerd. De AI-Verordening treedt op 1 augustus 2024 in werking. De AI-Verordening kent een overgangsperiode, waarbij geldt dat de verplichtingen op verschillende momenten van kracht worden. De toepasselijkheid van de AI-Verordening is gebaseerd op de definitie van AI en het onderscheid tussen verschillende risiconiveaus. De AFM en DNB zijn via de AI-Verordening toegewezen als toezichthouder voor AI-toepassingen met een hoog risico die worden gebruikt voor financiële diensten.

AI-toepassingen bedoeld voor premiebepaling en risicobeoordeling voor levens- en ziektekostenverzekeringen worden in de AI-Verordening aangewezen als 'hoog risico'. Ten aanzien van AI-toepassingen die niet als hoog risico zijn gekwalificeerd, maar waarbij wel menselijke interactie plaatsvindt - zoals bijvoorbeeld chatbots - benadrukken de AFM en DNB in het Rapport dat alsnog zoveel mogelijk moet worden aangesloten bij de vereisten onder de AI-Verordening voor AI-toepassingen met een hoog risico.

Zoals hiervoor aangegeven mag volgens het Rapport van financiële instellingen verwacht worden dat zij verantwoord met AI omgaan. Toezichthouders zullen deze inzet toetsen aan de al geldende wet- en regelgeving, maar zij zullen ook anticiperen op toekomstige wet- en regelgeving, specifiek toegespitst op AI. In het Rapport doen de AFM en DNB een oproep aan de financiële instellingen om mee te denken over AI in de financiële sector.

Contact

Heeft u vragen over het bovenstaande of andere vragen over het Rapport? Neem dan contact met ons op, wij gaan graag met u in gesprek.