Wie vandaag een rechtszaal, juridisch kantoor of collegezaal binnenstapt, kan er niet omheen: tech is overal. De impact van digitale technologie op het juridisch werkveld is onmiskenbaar. Maar hóé beïnvloeden informatie- en communicatietechnologieën juridisch onderzoek, onderwijs en praktijk precies? Welke kansen en uitdagingen liggen er voor juristen? Zullen slimme chatbots hen uiteindelijk vervangen? En hoe nieuw zijn deze vraagstukken eigenlijk? Julia Krämer, promovenda op het gebied van Empirical Legal Studies, Koen Swinnen, hoogleraar Privaatrecht en Publieke en Private belangen, Evert Stamhuis, hoogleraar Law and Innovation, en Fenneke van der Grinten, Learning and Innovation Team (LIT), schuiven aan en bespreken de belangrijkste ontwikkelingen op het gebied van recht en technologie. Vier vernieuwers, één tafel, en een aantal stellingen – waar overigens géén chatbot aan te pas is gekomen.
Rechts aan tafel zit Stamhuis, die aan de wieg stond van de kersverse master Recht & Technologie en altijd al belangstelling had voor juridisch-technologische vraagstukken: “Het is nieuw en spannend; spannender dan moord en doodslag.” Naast hem zit Swinnen. Hij geeft momenteel sturing aan het Sectorplan SSH-breed, een interdisciplinair project van zes faculteiten van de Erasmus Universiteit over de maatschappelijke effecten van digitalisering. Voor Swinnen was het goederen- en insolventierecht een “vroege liefde” en zijn interesse in data is daar door de jaren heen bijgekomen. Krämer, de derde aan tafel, raakte ooit gefascineerd door legal tech door de schoonmaakrobot van haar tante – die via een app bestuurd werd en gebruikersdata zonder toestemming naar een buitenlandse server stuurde. “Hoe kan dat en hoe zit dat met onze privacy?”, vroeg ze zich af. Inmiddels onderzoekt Krämer privacyregulering door mobiele platforms zoals Google Play, programmeerde ze een eigen webscraper om app-gegevens te verzamelen en is ze vaste gastdocent bij Stamhuis en Swinnen. Links van haar zit Van der Grinten. Zij adviseert en helpt bij onderwijsvernieuwing en is volgens Stamhuis ook wel de “ideeënbatterij” voor het onderwijs.
De opkomst van digitale technologieën heeft het juridisch veld ingrijpend veranderd
Laat dat stukje ‘digitaal’ maar weg, als je het Swinnen en Stamhuis vraagt: “Elke maatschappelijke verandering verandert het juridische veld. Toen elektriciteit kwam, moesten we dat inkaderen. Toen computers kwamen, doken we in softwarebescherming en eigendomsrelaties. Er is constante beweging.” Toch is deze beweging volgens Krämer versneld sinds de opmaat van internetgiganten en daarmee het surveillancekapitalisme. “Bedrijven verzamelen en verkopen persoonsgegevens, wat fundamentele rechten raakt en vragen oproept over de invloed van big tech op publieke ruimtes en onderzoek. Denk bijvoorbeeld aan een search via Google Scholar, dat is eigendom van Google.” Stamhuis vindt dit machtsvraagstuk niet geheel nieuw: “Kluwer had vroeger een monopolie op jurisprudentie. Dat was niet problematisch, maar het was wel een machtspositie”. De omvang van en concurrentie tussen techbedrijven is echter wel nieuw. Volgens Stamhuis en Van der Grinten schuilt dan ook een kracht in kritisch onderwijs. “We leren studenten welke vragen ze moeten stellen. We zijn kritischer geworden. Waar de machtspositie en intensiteit van big tech vergroten, vergroot onze bewustwording mee.”
"Technologie is er – dat is een feit. Maar hoe willen we ermee omgaan? Dat is aan ons."
Fenneke van der Grinten
Wetgeving kan de snelheid van technologische ontwikkelingen niet bijhouden en dat is een slechte zaak
Een harde nee voor Stamhuis. “Studenten mogen mijn onderwijs niet verlaten als ze dit onderschrijven”, lacht hij. “Er zijn genoeg voorbeelden waarop wetgeving voorop liep of juist verandering stimuleerde.” Swinnen ziet het anders: wetgeving mag gerust achterlopen en fenomenen eerst op gepaste afstand observeren. “In andere gevallen is innovatie bovendien niet eens mogelijk zonder wetgeving.” Hij wijst op deep brain stimulation, een neurologische behandeling die op de rem staat totdat aansprakelijkheidsregels duidelijk in kaart zijn gebracht. Krämer haakt aan: “Grote bedrijven gebruiken innovatie als argument tegen nieuwe regelgeving, dat zie je ook bij de EU AI Act. Maar veel onderzoekers zeggen nu juist dat regulering nodig is voor duurzame innovatie.” En vanuit onderwijskundig perspectief? “We proberen onderwijsregulering in de pas te laten lopen met de ontwikkeling van het gebruik van ChatGPT door studenten”, vertelt Stamhuis terwijl hij zich richt tot Van der Grinten: “Dat is precies zo’n integratie van nieuwe technologie binnen het onderwijs waar het LIT aan werkt en ons bij ondersteunt.”
Het integreren van technologie in het onderwijs van rechtenstudenten is cruciaal voor hun toekomstige carrière
Van der Grinten kan zich vinden in de stelling en legt uit: “Onze wetenschappelijke collega’s vragen zich af wat studenten (over technologie) moeten weten om voorbereid te zijn op de beroepspraktijk. Praktisch gezien zijn er vele manieren om studenten op te leiden. Docenten staan niet langer alleen voor de klas, maar worden ondersteund door een digitale omgeving zoals Canvas. Hoe benutten we deze optimaal? We vinden de proactieve integratie van tech in het onderwijs en in het perspectief van studenten essentieel. We denken na over wat de technologische ontwikkelingen in het onderwijs en het werkveld voor onze studenten kan betekenen: Wat doet Chat GPT bijvoorbeeld met toetsing en welke kennis moeten onze studenten hebben om na hun studie klaar te zijn voor een werkveld waarin tech zo’n grote rol speelt?” aldus Van der Grinten. Volgens Krämer vormt de technische realiteit de juridische. “Niet elke student hoeft te programmeren, maar ze moeten wel begrijpen hoe een algoritme werkt en waar de grenzen van AI liggen.” Stamhuis vult haar aan: “We willen geen studenten afleveren die speelballen zijn van softwareleveranciers, maar kritische professionals.” Beiden wijzen daarbij ook op de verantwoordelijkheid van aanbieders, die soms via Europese regelgeving afgedwongen dient te worden. Van der Grinten ziet het promotieonderzoek van Krämer over gegevensbescherming hier als perfect voorbeeld: “Want hoe ziet het digitale speelveld er überhaupt uit? En hoe beschermen we de mensen die zich daarbinnen bewegen?”
De jurist zal in de toekomst vervangen worden door kunstmatige intelligentie
Aan tafel wordt meermaals nee geschud. Krämer en Swinnen zijn ervan overtuigd dat een bepaalde menselijke maat onvervangbaar blijft. “Denk aan beginselen als rechtvaardigheid, redelijkheid, billijkheid en proportionaliteit. Die berusten op een menselijke inschatting.” Wel zullen bepaalde werkstappen volgens Krämer vergemakkelijkt worden door AI. “Ja, zoals zoekprocessen”, haakt Stamhuis aan. “Maar, alle taken door tech laten uitvoeren en mensen wegbezuinigen kan tot achteruitgang leiden. We moeten onszelf afvragen: welk probleem lossen we hier écht mee op?” Swinnen knikt instemmend: “Waar kan het ons daadwerkelijk brengen?” en Van der Grinten besluit: “Technologie is er – dat is een feit. Maar hoe willen we ermee omgaan? Dat is aan ons.”
Voor deze vier is legal tech dus allesbehalve een ongemakkelijke waarheid. Eerder is het een partner in een tango waarvan sommige stappen al zijn gezet, en andere nog moeten worden uitgevonden. Eén ding is zeker: het recht is constant in beweging.
