Artificial intelligence (AI) zal binnen afzienbare tijd breed worden toegepast in de financiële sector, bijvoorbeeld bij het opsporen van fraude. Een bank krijgt dagelijks te maken met vele duizenden transacties, Die onmogelijk allemaal handmatig te controleren zijn. Algoritmen zijn sneller en efficiënter. En als je een verzekering wilt afsluiten, wordt de hoogte van de premie in veel gevallen bepaald door een geautomatiseerd systeem. Handig voor de verzekeraar, maar wat betekent het voor de consument?
Het gevaar van AI is dat de menselijke factor goeddeels ontbreekt. De systemen worden vooraf geprogrammeerd en zijn veelal zelflerend. Op basis van de miljoenen data die ze analyseren, trekken ze conclusies. Ze nemen beslissingen die door mensen nauwelijks te controleren zijn. Dit kan discriminatie tot gevolg hebben. Een bekend voorbeeld is het algoritme van Amazon, dat vrouwelijke kandidaten stelselmatig achterstelde bij sollicitaties. Het Familie Lurvink Fonds zet zich in om inclusieve welvaart te bevorderen en discriminatie tegen te gaan, door onderzoek naar dit onderwerp te ondersteunen. Onderzoeker Joris Krijger (ESPhil) en donateur Ivo Lurvink ontmoetten elkaar op Erasmus Universiteit Rotterdam.
Zelflerend
Joris Krijger promoveert aan Erasmus Universiteit Rotterdam op een onderzoek naar AI en ethiek: “Wat AI in feite doet, is het analyseren van heel veel data en daar conclusies aan verbinden. Stel dat je naar een bank gaat om een hypotheek af te sluiten. Dan wordt jouw ‘risicoscore' berekend door een algoritme, op basis van variabelen als inkomen en de prijs van je huis. Indien we zo’n systeem zelflerend maken, kan dit patronen gaan zien en daarmee beslissingen nemen op basis van heel onwenselijke uitgangspunten, denk aan postcodegebied, nationaliteit of leeftijd. Nu geldt bij de meeste banken niet een keihard ‘computer says no’, maar verzekeringsmaatschappijen gaan alweer een stapje verder. Stel dat je een hogere premie betaalt, omdat je in het ‘verkeerde postcodegebied’ woont. Hoe eerlijk vinden we dat? De tendens is dat we steeds meer gaan vertrouwen op systemen, die ook nog eens complexer worden. In de toeslagenaffaire zag je bijvoorbeeld heel scherp wat er fout gaat als zo’n systeem mensen aanmerkt als mogelijke fraudeurs.”
- Meer informatie
Lees het volledige artikel op de website van Stichting Erasmus Trustfonds.