Kan de mensenrechtenwetgeving de ontwikkeling van kunstmatige intelligentie bijhouden?

Het belang van een brede kijk op de bescherming van de mensenrechten 

Volgens Ezra de Leeuw, promovendus aan de Erasmus School of Law, is de timing geen toeval. “Ons artikel is bijzonder relevant nu AI in zowel de publieke als de private sector steeds vaker wordt toegepast en de maatschappelijke gevolgen van AI steeds duidelijker worden”, zegt De Leeuw. De onderzoeker wijst erop dat wetgeving zoals de AI-wet een belangrijke stap voorwaarts is, maar voegt daar een kanttekening aan toe: deze “kan nog steeds blinde vlekken bevatten waardoor bepaalde aspecten van de bescherming van de mensenrechten onvolledig blijven.” Een reden voor die blinde vlekken, legt De Leeuw uit, is dat veel van het bestaande onderzoek één mensenrecht afzonderlijk bekijkt. Het onderzoek heeft tot doel het bredere perspectief te bieden dat nog ontbreekt, een perspectief dat onderzoekers en beleidsmakers helpt de impact van AI op de bescherming van de mensenrechten als geheel te begrijpen. 

Het debat gaat vooral over de risico’s 

Een van de duidelijkste bevindingen van het onderzoek is een opvallende onevenwichtigheid. Van de 128 onderzochte artikelen wijzen 112 studies op negatieve effecten van AI op de mensenrechten, terwijl slechts 49 studies wijzen op positieve effecten. Voor gemarginaliseerde gemeenschappen is de kloof nog groter. Ongeveer een derde van de artikelen beschrijft hoe AI deze groepen schaadt, terwijl geen enkel artikel meldt dat AI hen ten goede komt. 

''Deze specifieke bevinding suggereert dat het huidige academische debat voornamelijk gericht is op de risico’s en uitdagingen voor de mensenrechten”, zegt De Leeuw. De onderzoeker ziet dit eerder als een teken van groeiend bewustzijn dan als puur pessimisme, en noemt het ''een positieve stap in de richting van meer aandacht”. Tegelijkertijd wijst De Leeuw op een eenvoudige verklaring voor dit patroon: ''Rechtswetenschappers hebben, net als juristen in het algemeen, de neiging om nadelen nauwkeuriger te onderzoeken dan voordelen en kansen.” 

Oude problemen die verergeren, en geheel nieuwe problemen 

De onderzoekers maken onderscheid tussen twee soorten schade. AI kan bestaande problemen versterken, waardoor ze erger worden of moeilijker te detecteren zijn. Het kan ook nieuwe problemen veroorzaken die voorheen simpelweg niet bestonden. 

De Leeuw geeft een concreet voorbeeld van de eerste categorie: geautomatiseerde inhoudsmoderatie. ''Als AI-systemen worden ingezet om schadelijke inhoud op sociale media op te sporen, kunnen die systemen ten onrechte berichten verwijderen uit bepaalde gemeenschappen of over bepaalde onderwerpen die eigenlijk niet als schadelijk worden beschouwd.” Dat kan de zichtbaarheid van bepaalde groepen beperken en de vrijheid van meningsuiting inperken. 

Wat betreft nieuwe problemen die ontstaan, wijst De Leeuw op deepfakes. ''Deze nieuwe toepassing van AI kan inbreuk maken op de privacy van mensen, aangezien de AI-toepassing gebruikmaakt van persoonsgegevens van de persoon wiens foto’s worden gebruikt”, zegt De Leeuw. Het is een vorm van schade die simpelweg nog niet bestond voordat AI dit mogelijk maakte. 

Wie is er nu eigenlijk verantwoordelijk? 

Volgens de mensenrechtenwetgeving zijn staten van oudsher verantwoordelijk voor de bescherming van burgers, ook tegen schade die door particuliere bedrijven wordt veroorzaakt. Maar De Leeuw stelt dat dit model om verschillende redenen niet goed werkt in de context van AI. ''De sector wordt gedomineerd door een klein aantal machtige bedrijven waarvan de invloed regelgeving kan ondermijnen, zelfs op EU-niveau. AI-systemen werken vaak grensoverschrijdend, waardoor één enkel algoritme van sociale media gevolgen kan hebben voor mensen in vele landen met verschillende rechtsstelsels. Bovendien functioneren veel AI-modellen als ‘black boxes’, waardoor het vrijwel onmogelijk is om te begrijpen hoe een beslissing tot stand is gekomen, laat staan deze voor de rechter aan te vechten.” 

Als techbedrijven directer ter verantwoording zouden kunnen worden geroepen, zegt De Leeuw, “zou dat burgers betere bescherming kunnen bieden tegen schade die verband houdt met AI”, waardoor bedrijven een echte prikkel zouden krijgen om hun mensenrechtenverplichtingen na te komen. 

Wanneer er geen enkel slachtoffer is 

Een ander kernprobleem is dat de mensenrechtenwetgeving is gericht op individuele schade. Om een zaak aanhangig te maken bij het Europees Hof voor de Rechten van de Mens, moet iemand doorgaans aantonen dat hij of zij persoonlijk concrete schade heeft geleden. Maar door AI veroorzaakte schade, met name massasurveillance of bevooroordeelde algoritmen, treft vaak hele groepen tegelijk, zonder dat er een duidelijk identificeerbaar individueel slachtoffer is. 

“Dit collectieve karakter van door AI veroorzaakte schade bemoeilijkt het indienen van individuele klachten en het aantonen van directe schade”, legt De Leeuw uit. Een mogelijke oplossing bestaat al in het Nederlandse recht: collectieve rechtsvordering, waarmee een organisatie namens een grotere groep schadevergoeding kan eisen. De Leeuw merkt echter op dat deze mogelijkheid binnen de jurisprudentie van het Europees Hof voor de Rechten van de Mens nog steeds aanzienlijk beperkt is. Het onderliggende probleem is dat het Hof over het algemeen nog steeds eist dat eisers persoonlijke, concrete schade aantonen. Het heeft af en toe uitzonderingen gemaakt in specifieke gevallen van massasurveillance, maar onderzoekers omschrijven dit als een beperkte omzeiling in plaats van een echte verschuiving naar het erkennen van groepen als volwaardige rechthebbenden. 

Wat kunnen bezorgde burgers doen? 

Voor mensen die zich zorgen maken over hun rechten in een door AI aangestuurde wereld, luidt het advies van De Leeuw: blijf op de hoogte. De publieke en academische aandacht voor de risico’s van AI heeft al bijgedragen aan nieuwe regelgeving die een zekere mate van bescherming biedt. Ngo’s spelen een belangrijke rol bij het toezicht op de naleving en de ondersteuning van getroffen personen, en het Kaderverdrag inzake kunstmatige intelligentie van de Raad van Europa kan de komende jaren wellicht verdere waarborgen bieden. 

Een gezamenlijke inspanning 

De publicatie zelf weerspiegelt een bredere samenwerking binnen de Erasmus School of Law en het Erasmus Center of Law and Digitalization, met steun van het Sectorplan SSH-Breed inzake digitalisering, waarbij vijf onderzoekers zijn samengebracht die actief werken aan de vormgeving van dit opkomende vakgebied. Zoals Quintavalla het verwoordt, heeft het project ''de basis gelegd voor verder onderzoek op dit cruciale gebied“, en zijn er bij het centrum al meer werkzaamheden gaande.