Inspraak bij technologische innovaties: de rol van alle stakeholders

AI-MAPS
Kruizinga focust in zijn onderzoek op Ethiek van AI in Publieke Veiligheid, als onderdeel van het onderzoeksproject AI-MAPS (AI in Multi-Agency Public Safety). In de context van dit onderzoek wordt samengewerkt met verschillende stakeholder groepen, waaronder de nationale politie, gemeenten, private bedrijven, lokale bevolkingen en ngo’s.  

Sociaal disruptieve innovaties

Soms wordt een nieuwe technologie geïntroduceerd die de wereld op zijn kop zet en de manier waarop we werken, wonen en zakendoen volledig transformeert, maar ook grote veranderingen teweegbrengt in sociale structuren, gedragingen en interacties binnen de samenleving. Denk bijvoorbeeld aan sociale media of Artificiële Intelligentie (AI). Zulke technologieën staan beter bekend als sociaal disruptieve innovaties.

In de literatuur over sociaal disruptieve technologieën wordt vaak gesproken over principes zoals democratisering, co-design en co-creatie. “Het idee hierachter, grofweg, is dat alle stakeholders die een technologie moeten gaan ontwikkelen, gebruiken, of die erdoor zullen worden beïnvloed, mee zouden moeten praten over hoe de technologie eruit gaat zien”, vertelt Kruizinga. Inspraak kan variëren van het bepalen welke technologie geschikt is voor een bepaalde situatie, het ontwerpen van een technologie, tot het vormgeven van de implementatie ervan. “Inspraak kan helpen zeker te stellen dat alle belangen bij een nieuwe technologische toepassing worden behartigd en overwogen, en dat de uiteindelijke implementatie van de technologie succesvol wordt. Er ligt echter een mogelijk knelpunt in de factor van expertise”, vertelt Kruizinga. 

Knelpunt

Een veelbesproken punt in discussies, zowel academisch als maatschappelijk, is of alle betrokken stakeholders genoeg expertise hebben om zinvol mee te praten over nieuwe technologieën. Kruizinga: “Het meest overheersende thema in dit opzicht is veelal de technische expertise: hebben de verschillende groepen de nodige technische kennis om intelligente, bewuste keuzes te maken over het ontwerp of gebruik van een nieuwe technologische toepassing – bijvoorbeeld een AI-systeem? Immers, als men niet weet wat een machine doet, hoe deze in elkaar zit, en op wat voor soort manieren het mogelijk is dat deze verkeerd zou gaan functioneren, lijkt het moeilijk voor hen om in te schatten wat de voordelen, nadelen, en risico’s van het gebruik van de machine zijn.”

Stakeholdergroep ‘de bewoner’

Kruizinga licht het hiervoor aangestipte probleem verder toe aan de hand van zijn eigen ervaring en inzicht uit het AI-MAPS onderzoek: “In de context van het onderzoeksproject AI-MAPS wordt onderzoek gedaan naar actuele en mogelijke AI-toepassingen voor publieke veiligheid in Nederland”. Hierbij zijn de belangrijkste belanghebbende groepen doorgaans de politie, de overheid (vaak gemeenten), de inwoners van Nederland, en private bedrijven die AI ontwikkelen of gebruiken. AI-toepassingen voor publieke veiligheid kunnen op landelijk niveau worden ontwikkeld en geïmplementeerd. “Maar vaak blijken vooral specifieke omgevingen, buurten, of andere veiligheidscontexten waarmee niet iedereen in Nederland van doen heeft, de grootste bron van interesse voor AI-toepassingen”, legt Kruizinga uit. Hij vervolgt: “Zo is de stakeholder groep van ‘bewoners’ vaak gevuld door ‘lokale bewoners’, of een andere sectie van de Nederlandse bevolking, en is hun inspraak gericht op een specifieke AI-toepassing in hun omgeving of hun context van leven. Denk bijvoorbeeld aan voetbalfans en mogelijke gezichtsherkenning in stadions, of bewoners van een wijk waarop risicoanalyse software losgelaten zou kunnen worden.”

Het is duidelijk dat deze groepen belang hebben bij het besluitvormingsproces over nieuwe technologieën. Maar als het gaat om het betrekken van alle belanghebbenden, wordt vaak gezegd dat ‘gewone’ bewoners niet genoeg kennis hebben over de technologie om zinvolle bijdragen te leveren aan het ontwerp of de wenselijkheid ervan. Hoewel het mogelijk is om bewoners uitleg te geven of ze op te leiden, kan dit het ontwikkelingsproces vertragen. “Op deze manier wordt in het debat rond inspraak het meenemen van bewoners al gauw meer een optie dan de standaard”, legt Kruizinga uit. “Technici zouden de meest zinnige input hebben, en deze bevinden zich – afhankelijk van het AI-project in kwestie – in de private sector, of onder de paraplu van de politie of de gemeente. De medezeggenschap van deze partijen is daarmee dus meteen meer verzekerd, waarbij ook nog komt kijken dat politie en overheid – als respectievelijk de handhavers en de vormgevers van publieke veiligheid – vaak automatisch al een rol spelen in het beslissings- en ontwerpproces rond publieke veiligheid technologie.” Zo lijken dus de factor van expertise, zowel als de maatschappelijke rol van politie en overheid, er samen voor te zorgen dat vooral de inspraak van ‘gewone’ bewoners als optioneel wordt gezien in deze context.

Ieder zijn eigen expertise

Wat hier vaak over het hoofd wordt gezien, volgens Kruizinga, is dat bij alle betrokken partijen – van overheid, tot bewoners, tot de private sector – bepaalde expertise ontbreekt die nodig is om zinvol mee te kunnen praten over een nieuwe technologie in een bepaalde context. En hierbij gaat het niet alleen om technische kennis: elke groep stakeholders heeft eigenlijk een eigen tekort aan kennis. Neem bijvoorbeeld het geval van AI voor publieke veiligheid in een bepaalde buurt. “Technici weten het meest over de AI zelf, maar relatief weinig over wat er zich in de wijk afspeelt”, stelt Kruizinga. “Beleidsmakers weten wellicht veel over wat legaal is, of wat praktisch is voor het gemeentelijk bestuur, maar missen mogelijk zowel technische als contextuele expertise. Bewoners missen technische expertise, maar vullen juist de contextuele expertise aan: over wat de problemen en mogelijke oplossingen voor veiligheid in de wijk eigenlijk zijn.” 

Het belang van inspraak bij nieuwe technologieën is dus niet alleen ethisch (dat alle stakeholders een stem verdienen) maar ook epistemologisch; dat alle partijen hun eigen kennis meebrengen en elkaar aanvullen om een volledig beeld van problemen en oplossingen te vormen. Inspraak zorgt er zo voor dat technologie die ontwikkeld of gebruikt wordt in een specifieke situatie ook daadwerkelijk succesvol is. “Succesvol, niet alleen omdat niemand zich wil verzetten tegen de technologie, maar ook omdat iedereen eraan heeft bijgedragen dat het middel het beoogde doel dient: namelijk het verbeteren van onze gezamenlijke levens.”

Hier zou mogelijk een verschuiving kunnen plaatsvinden in de gesprekken over inspraak bij technologische toepassingen, zowel in het geval van AI voor publieke veiligheid als in andere situaties. “Het is niet logisch om vooral te twijfelen aan de expertise van bewoners, en om vooral hun inspraak als optioneel te zien”, betoogt Kruizinga. “Hiermee wordt de expertise van bewoners, over bijvoorbeeld hun leefomgeving of hun problemen, ten onrechte ondergeschikt gemaakt aan de expertise van beleidsmakers, technici, handhavers, enzovoorts. Gezien ieder van deze groepen een gat in diens expertise heeft, zouden wij vanuit zowel ethisch als epistemologisch oogpunt alle stakeholders evenredig in overweging moeten nemen bij de besluitvorming rond nieuwe technologieën.”