Creëert AI nieuwe systeemrisico's in de financiële sector? Nieuw rapport dringt aan op zorgvuldige beleidsreactie

Het rapport, getiteld “Artificial intelligence and systemic risk”, is geschreven door Robin Lumsdaine, hoogleraar toegepaste econometrie aan Erasmus School of Economics, in samenwerking met Stephen Cecchetti, Tuomas Peltonen en Antonio Sánchez Serrano. In plaats van zich te concentreren op de AI-algoritmen zelf, onderzoeken de auteurs hoe AI wordt gebruikt door beleggers en financiële tussenpersonen, en hoe deze keuzes externe effecten kunnen genereren die van belang zijn voor de financiële stabiliteit.

AI speelt al een belangrijke rol in het bedrijfsleven en de financiële sector. Het vermogen om enorme hoeveelheden ongestructureerde gegevens te verwerken kan het risicobeheer, de opsporing van fraude en de besluitvorming verbeteren. Meer in het algemeen kan AI de productiviteit verhogen door automatisering, afstemming van taken en het creëren van nieuwe taken. 

In de financiële sector wordt AI al gebruikt voor het bestrijden van witwassen, het opsporen van fraude en het beoordelen van risico's, terwijl vermogensbeheerders het doorgaans inzetten ter ondersteuning van door mensen genomen investeringsbeslissingen. Lumsdaine en haar coauteurs benadrukken echter dat deze zelfde mogelijkheden ook nieuwe kwetsbaarheden met zich mee kunnen brengen.

Mogelijke manieren waarop AI het systeemrisico beïnvloedt

Een centrale bijdrage van het rapport is de analyse van elf specifieke kenmerken van AI die systeemrisico beïnvloeden. Deze omvatten monitoringuitdagingen als gevolg van de complexiteit van AI-systemen, concentratie bij een klein aantal AI-aanbieders en modeluniformiteit, wat kan leiden tot sterk gecorreleerd gedrag tussen instellingen. 

Andere risicoverhogende kenmerken zijn overmatig vertrouwen in AI-outputs, wat leidt tot het vaker nemen van risico’s en een hogere transactiesnelheid, wat de procycliciteit kan versterken. Ook ondoorzichtigheid, die de transparantie vermindert, speelt een rol. Ten slotte dragen kwaadwillig gebruik en de verspreiding van misinformatie bij aan systeemrisico's. 

Cruciaal is dat het rapport benadrukt dat deze risico's voortkomen uit de manier waarop AI wordt gebruikt, en niet uit AI als een inherent destabiliserende technologie.

Aanpassing van bestaand beleid

Voor beleidsmakers creëert dit een delicate balansoefening. Te vroege of te strenge regulering kan innovatie in de kiem smoren, terwijl te laat of te laks optreden kan leiden tot verlies van controle. 

De auteurs stellen dat de bestaande regelgevingsinstrumenten grotendeels toereikend zijn, maar dat ze moeten worden aangepast aan de snelheid, schaal en reikwijdte van AI. De voorgestelde maatregelen omvatten meer transparantie over het gebruik van AI in financiële producten, ‘skin-in-the-game’-vereisten en versterkte toezichtcapaciteit. Gezien het mondiale karakter van AI is nauwe internationale samenwerking, met name binnen de EU, van essentieel belang.

Als de autoriteiten gelijke tred kunnen houden met de snelle ontwikkeling van AI, concluderen Lumsdaine en haar coauteurs, is het wellicht mogelijk om de voordelen ervan te benutten en tegelijkertijd de kans op toekomstige episodes van financiële instabiliteit te verkleinen.

Over de European Systemic Risk Board

De European Systemic Risk Board (ESRB) is een onafhankelijk EU-orgaan dat verantwoordelijk is voor het monitoren en beoordelen van risico's voor de stabiliteit van het financiële stelsel in de Europese Unie. Het geeft waarschuwingen en beleidsaanbevelingen om systeemcrises te voorkomen of te beperken, en werkt daarbij nauw samen met nationale en Europese toezichthoudende autoriteiten. Het 15 leden tellende Wetenschappelijk Adviescomité (ASC), waarvan Lumsdaine deel uitmaakt, doet onderzoek om de ESRB te informeren bij het nemen van macroprudentiële beslissingen.