Voor universitair docent Shu Li staat het beschermen van mensen, in het bijzonder de meest kwetsbaren, centraal. Of het nu gaat om algoritmische discriminatie, de veiligheid van speelgoed of productaansprakelijkheid: zijn onderzoek richt zich op de vraag hoe digitale technologieën schade kunnen veroorzaken en hoe juridische kaders daarvoor effectieve waarborgen kunnen bieden. Het is een betekenisvolle missie die zijn pad, zowel professioneel als geografisch, heeft gevormd. Over jurisdicties, disciplines en instituten heen, van China via Finland naar Rotterdam.
Als onderdeel van onze serie Where Law Meets (your) Business laten we zien op hoeveel manieren collega’s aan Erasmus School of Law hun expertise in praktijk brengen. Ieder geeft op eigen wijze vorm aan ‘business’: van ondersteuning van collega’s en het opleiden van studenten tot het vertalen van recht naar de praktijk. We gingen in gesprek met Shu Li over zijn onderzoek naar AI-aansprakelijkheid, zijn weg naar de academie en de kracht van samenwerken in juridisch onderzoek.
“We moeten begrijpen welke schade AI kan veroorzaken”
Shu’s fascinatie voor de raakvlakken tussen recht, economie en technologie ontstond al vroeg in zijn academische loopbaan. Na zijn rechtenstudie in China bracht een uitwisseling van een jaar hem naar Bologna en Hamburg, waar hij kennismaakte met de opkomende wereld van het Europese gegevensbeschermingsrecht, destijds in China nog relatief ontgonnen terrein. “Ik vond het fascinerend,” vertelt hij. “Er speelde veel rond dit onderwerp hier in Europa, terwijl er thuis nog maar weinig over werd gezegd. Dat wakkerde iets in mij aan.”
Na zijn verhuizing naar Nederland ging Shu in 2015 aan Erasmus School of Law van start met een promotieonderzoek naar de economische analyse van het aansprakelijkheidsrecht. Al snel verschoof zijn focus richting de digitale grens. Een postdoc aan de Universiteit van Helsinki verdiept zijn aandacht voor AI en aansprakelijkheid. “Mijn kerninteresse is schade,” legt hij uit. “In dit geval vertaalt zich dat naar de vraag hoe AI schade kan veroorzaken. En hoe het recht die schade kan identificeren en adresseren.”
Schade in relatie tot AI kent vele vormen, waarvan we een deel nog maar net beginnen te doorgronden: van discriminatie bij kredietbeoordelingen en sollicitaties tot ondoorzichtige besluitvorming in de zorg en verzekeringssector. “Soms concludeert een algoritme dat je een hoog-risicokandidaat bent, maar kan niemand uitleggen waarom,” zegt hij. “Dat gebrek aan transparantie kan mensen kwetsbaarder maken, zeker als zij al in een gemarginaliseerde positie verkeren.”
Verzekering, risico en juridische ‘black boxes’
Veel van Shu’s recente werk draait om de verzekerbaarheid van AI-gerelateerde risico’s. Het is een schijnbaar eenvoudig, maar in werkelijkheid complex vraagstuk: verzekering kan in sommige gevallen een toegankelijker route naar compensatie bieden dan traditionele procedures. Anders dan in de rechtszaal kan een verzekering sneller en met lagere kosten uitkeren, zonder dat ‘schuld’ bewezen hoeft te worden. Tegelijk aarzelen verzekeraars om AI-risico’s te dekken omdat ze lastig voorspelbaar zijn.
“We weten hoe we auto’s moeten verzekeren,” legt Shu uit. “We hebben data en duidelijke risicoprofielen. Maar AI? Dat is veel moeilijker. Lichamelijk letsel kun je misschien nog aantonen. Maar hoe kwantificeer je een discriminerende uitkomst? Hoe meet je algoritmische schade?”
In deze juridische grijze gebieden zoekt Shu niet naar snelle oplossingen, maar brengt hij het landschap in kaart zodat betrokken partijen weloverwogen beslissingen kunnen nemen. “Ik probeer holistisch te kijken,” zegt hij. “Wat zijn de belemmeringen voor toezichthouders, verzekeraars, ontwerpers en bedrijven? En hoe pakken we die aan op een manier die mensen beschermt?”
De regels bestuderen én onderwijzen
Shu werkt momenteel mee aan twee omvangrijke juridische commentaren: één over de AI-verordening (AI Act) van de EU en één over de nieuwe richtlijn productaansprakelijkheid. Beide zijn grootschalige, multi-auteurprojecten met wetenschappers uit heel Europa. Aan zijn bijdragen aan het AI-commentaar heeft hij bijna een jaar gewerkt. “Het zijn complexe teksten, maar ik houd van die detaillering,” zegt hij. “De woordkeuze van wetgevers vertelt je enorm veel.”
Naast zijn onderzoek doceert Shu in de master Law & Tech en in de algemene master. Hij ziet het onderwijs als meer dan een taak; het is essentieel voor hoe recht ‘business’ raakt. “In de collegezaal, wanneer ik de regels rond AI uitleg, spreek ik toekomstige professionals aan,” zegt hij. “Zij adviseren straks bedrijven, geven vorm aan beleid en nemen beslissingen. Onderwijs is dus een heel directe manier om invloed uit te oefenen op de praktijk.”
Juridisch onderwijs als wereldwijde dialoog
Omdat Shu zowel in China als in Europa rechten studeerde, is hij zich sterk bewust van de culturele dimensies van juridisch denken. “Bij onderwerpen als social scoring vinden EU-studenten dat vaak onacceptabel. Studenten uit andere regio’s kijken daar soms anders tegenaan,” zegt hij. “Er is niet één ‘juiste’ visie. Mijn rol als docent is om de juridische en maatschappelijke context uit te leggen en studenten te helpen de diversiteit in waardedefinities van rechtsstelsels te begrijpen.” Die gevoeligheid voor context loopt als een draad door zijn onderwijs en onderzoek. “Recht wordt altijd gevormd door sociale context, politiek, cultuur. Zelfs door geschiedenis,” legt Shu uit. “Daarom moeten we geen universele antwoorden verwachten. Het begrijpen van die verschillen is onderdeel van de juridische opgave.”
Vooruitblik: van kinderspeelgoed tot digitale waardigheid
Shu’s plannen zijn ambitieus en multidisciplinair. Naast het afronden van zijn huidige boekprojecten wil hij nieuw onderzoek ontwikkelen naar schade in het digitale tijdperk, in het bijzonder hoe het recht kwetsbare groepen beter kan beschermen. En bij het thema ‘schade’ blijven steeds nieuwe vragen opduiken. Een recent verzoek om mee te werken aan onderzoek naar speelgoedveiligheid opende bijvoorbeeld zijn ogen voor de ethische complexiteit van AI-gestuurd speelgoed voor kinderen. “We denken niet altijd aan speelgoed als juridisch object,” merkt hij op. “Maar als een speelgoedproduct data verzamelt of gedrag beïnvloedt, wordt het een juridisch én ethisch vraagstuk. Hoe zorgen we dat dit speelgoed veilig en duurzaam is en de rechten van kinderen respecteert?”
Of hij nu meeschrijft aan EU-commentaren, de volgende generatie juristen opleidt of adviseert over AI-regulering: één ding is duidelijk. Shu’s ‘business’ draait om het beschermen van mensen tegen schade. Doordacht, zorgvuldig én met oog voor de digitale toekomst.
