In hoeverre moeten robots en softbots gezien worden als zelfstandige ‘personen’ met rechten? En wie is de eigenaar van big data? Dat zijn vragen waarnaar Klaus Heine, hoogleraar Recht en Economie aan de Erasmus School of Law, onderzoek doet. Nu verschillende privacy- en big data vraagstukken opspelen, lijken zijn conclusies belangrijker dan ooit. “Ik denk dat het interessant is om te kijken naar een niet-menselijke beslisser: een algoritme, een robot, met technische en juridische onafhankelijkheid die verantwoordelijk is voor de gegevensverzameling of interpretatie van gegevens.”
Onlangs publiceerde de wetenschapper Yuval Noah Harari een essay in Financial Times over de wereld na corona, en wat deze crisis betekent voor bijvoorbeeld het toezicht op burgers vanuit overheden, bijvoorbeeld rondom de corona-app. Welke privacyvraagstukken raken in de knel?
“Ik vind het uitgangspunt van Harari niet erg origineel en ook wat zwart-wit. Vanuit mijn achtergrond zou ik zeggen dat we als mensheid de plicht hebben om beschikbare technologie in te zetten om levens te redden als dat mogelijk is - ook als daarbij gebruik gemaakt moet worden van grote datasets. Concepten zoals privacy of vrijheid wegen niet op tegen een mensenleven. De uitdaging is dan ook niet om privacy of big data ten koste van alles veilig te stellen, de uitdaging is om de ene waarde te respecteren, met behóud van de andere.”
Wat is de rol van de robot hierin?
“Het is interessant om te kijken naar een niet-menselijke beslisser: een algoritme, een robot, met technische en juridische onafhankelijkheid, die verantwoordelijk is voor de gegevensverzameling of interpretatie van gegevens. Uit mijn onderzoek voor het Jean Monnet Centre of Excellence on Digital Governance weet ik dat we in Nederland een aantal wetenschappers en ingenieurs hebben die gegevens kunnen versleutelen. Zij kunnen algoritmen invoeren die het voor mensen onmogelijk maken om deze data later te traceren. Je zou bijvoorbeeld zo kunnen programmeren, dat alleen gegevens zichtbaar worden van mensen die in gevaar zijn. Privacy als waarde laten vallen is niet de oplossing: we moeten juist proberen het behoud van privacy te waarborgen door nog slimmere technologieën te gebruikenDe keuze voor deze technologie zou wel bij mensen moeten blijven, en democratisch gelegitimeerd moeten zijn via bestuur.”
"De uitdaging is niet om privacy of big data ten koste van alles veilig te stellen, de uitdaging is om de ene waarde te respecteren, met behoud van de andere."
Waarom is het belangrijk om een robot gerechtige status te geven?
“Dat is de vraag. Is dat in het belang van de maatschappij? Dezelfde vraag kwam tweehonderd jaar geleden op rondom bedrijven. Toen werd de rechtspersoonlijkheid van een bedrijf ingevoerd. Een bedrijf, een BV, staat los van een mens. Het heeft menselijke bemanning, maar een eigen rechtspersoonlijkheid. Bij de Britse koloniale bedrijven die opereerden in Amerika en India ontstond een behoefte om toch rechtelijke status te verlenen aan bedrijven. Destijds werd dit gezien als een technologische disruptie. Een Britse parlementarier deed de beroemde uitspraak: “Did you ever expect a corporation to have a conscience, when it has no soul to be damned, and no body to be kicked?” (Baron Thurlow, 1731-1806) Soortgelijke vraagstukken hebben we vandaag de dag rondom Artificial Intelligence”
Het antwoord is dus: ja, het is in het belang van de maatschappij?
“Het zou kunnen helpen om een aansprakelijkheidsprobleem beter op te kunnen lossen, ja. Of om de intellectual property rights beter te kunnen faciliteren. Het klinkt misschien als een sciencefictionverhaal: ‘robots gaan ons overnemen’. Maar hoe we zo’n rechtelijke status gaan vormgeven, is op dit moment nog een wetenschappelijk vraagstuk. Zoiets is niet in een week geregeld. Het duurde tweehonderd jaar om alle gesplitste bedrijfsvormen zoals we ze nu kennen, op te zetten.”
"Soms kun je de verantwoordelijkheid niet meer verhalen op een mens."
Kunt u een concreet voorbeeld noemen waarbij het handig zou zijn als we robots een rechtelijke status zouden verlenen?
“Je hebt bijvoorbeeld softbots die met jou telefonisch een contract kunnen afsluiten. Stel dat er een fout in zo’n contract zit. Wie is dan aansprakelijk? Het bedrijf dat de softbot gebruikt, of de programmeur? Misschien zegt de programmeur wel: “Dit is een deep learning intelligentie-softbot, die heeft het zo geleerd van de gesprekken.” Soms kun je de verantwoordelijkheid niet meer verhalen op een mens.
Andere belangrijke vraag: hoe ga je kunstmatige intelligentie prikkelen om zich aan de wet te houden? Deze zal niet afschrikken voor een boete. Dit zijn grote vraagstukken, ook voor de theorievorming. Er zijn collega’s die zeggen: het recht hoeft niet te veranderen, we moeten het alleen goed toepassen. Anderen zeggen: dit gaat over een belangrijke technologische disruptie, er moet worden nagedacht over nieuwe kaders in het recht, anders gaat het fout.”
En u behoort tot de tweede groep?
“Ik geloof dat de nieuwe technologie nieuwe kaders voor het recht vereist, ja.”
Uw andere onderzoeksonderwerp is de vraag wie big data beheert.
“Kunstmatige intelligentie gaat altijd hand in hand met big data. Hoe gaan we de omgang met big data organiseren? Wie is de eigenaar van de data? Er zijn eigenlijk twee bestuursmodellen op de wereld. In de Verenigde Staten heb je de tech giants die het beheren. In China zie je een soort staatsmonopolie-kapitalisme. In beide modellen is het uiteindelijk de grootschaligheid van big data die vraagt om nieuwe regulering. We worden dus ook uitgenodigd om over nieuwe bestuursvormen na te denken.”
"We kunnen over big data en kunstmatige intelligentie eigenlijk hetzelfde zeggen als over nucleaire energie: er is een grote potentie, maar er liggen ook grote gevaren op de loer."
Hoe zijn dit soort grote vraagstukken ooit op te lossen?
“Bij de opkomst van nucleaire energie in de jaren vijftig speelden dezelfde vragen. Er lagen grote kansen, maar het was ook gevaarlijk. We kunnen over big data en kunstmatige intelligentie eigenlijk hetzelfde zeggen: er is een grote potentie, maar er liggen ook grote gevaren op de loer.
Bij nucleaire energie is besloten dat de overheid eigenaar ervan is. In Europa heb je EURATOM: een onafhankelijk instituut in Wenen, soortgelijk aan de Centrale Bank, die met vooraanstaande experts in huis politiek-onafhankelijk de nucleaire energie organiseert. Het is mogelijk om zo’n instituut voor big data te ontwikkelen. Zo blijft het publiek, bedrijven mogen ermee werken.
Zulke nieuwe modellen en nieuwe regels zijn ook nodig voor het beschermen van kwetsbare infrastructuren. Het is niet genoeg om te zeggen: ‘Private bedrijven, alsjeblieft gedraag je naar de wet!’ Je hebt een autoriteit nodig die meekijkt. Aan de andere kant: ambtenaren hebben te weinig technologische kennis. De technologische kennis op dit niveau bestaat weer alleen bij bedrijven. Dus moet er een samenwerking ontstaan, een systeem waarin publiek en privaat samenkomen. Democratisch besloten en rechtvaardig geregeld.”
Is Nederland niet te klein om hierover mee te praten?
“Ik denk dat Europa een mooie rol kan spelen. Minstens even belangrijk als de technologie zelf, is de inbedding van de technologie in een maatschappelijk en wettelijk kader. Europa is misschien geen voorloper op het gebied van nieuwe technologie, maar we kunnen wel iets betekenen in het creëren van een wettelijk kader dat aantrekkelijk is. Zo’n kader kan uiteindelijk ook financieel kapitaal aantrekken. Binnen Europa kan Nederland een soort laboratorium zijn waarin de beste wettelijke kaders gevonden kunnen worden die mens en technologie bij elkaar brengen. ”
- Onderzoeker
- Meer informatie
In 2012 kreeg Klaus Heine een Jean Monnet-leerstoel voor Economische analyse van Europees recht. Sinds 2019 is hij directeur van het Jean Monnet Center of Excellence on Digital Governance. Het centrum is een gezamenlijk initiatief van de Erasmus Universiteit Rotterdam, Bar-Ilan University en de University of Leeds en zoekt naar nieuwe institutionele oplossingen voor de disruptieve uitdagingen van digitalisering.