Een nieuw interdisciplinair onderzoek onder leiding van dr. Aviv Barnoy (Erasmus School of History, Culture and Communication), samen met dr. Ori Freiman, prof. Arnon Keren en prof. Boaz Miller, introduceert een nieuwe manier om giftige online content te begrijpen en te modereren. Het onderzoek, gepubliceerd in Social Epistemology, is voortgekomen uit een samenwerking met OpenWeb, een groot platform voor community-engagement dat op zoek is naar betere tools om gezonde online discussies te ondersteunen.
Het team begon met het aanpakken van een fundamenteel probleem: hoewel ‘giftige content’ een veelgebruikte term is in debatten over moderatie en beleid, blijft de definitie ervan vaag. Hun studie stelt een duidelijker kader voor, waarin wordt aangetoond dat giftigheid het best kan worden begrepen als een schending van conversatienormen in plaats van als een enkele, allesomvattende categorie. Dit maakt het gemakkelijker om verschillende soorten schadelijke content van elkaar te onderscheiden en te beslissen hoe elke soort moet worden aangepakt.
De onderzoekers onderscheiden twee belangrijke soorten normovertredingen. De eerste is epistemisch giftige content. Dit schendt normen rond waarheid en verantwoord delen van informatie. Het omvat valse, misleidende of complottheorieën. De tweede normovertreding is civiel giftige content, dat normen schendt van respectvolle interactie, zoals haatzaaiende uitlatingen, doxxing, persoonlijke aanvallen, seksueel expliciete opmerkingen en bedreigingen.
Dit onderscheid is belangrijk voor moderatie. Civiel giftige content moet vaak snel worden verwijderd om gebruikers te beschermen. Epistemisch giftige content kan echter worden aangepakt met maatregelen zoals contextuele informatie, wrijving, tegenspraak of labels in plaats van verwijdering.
De auteurs merken op dat hun samenwerking met OpenWeb waardevolle inzichten heeft opgeleverd in de uitdagingen van moderatie in de praktijk. Ze bedanken ook hun peer reviewers voor hun hulp bij het aanscherpen van de argumenten in het artikel. Het volledige artikel, “Norm Violations in Online Discourse: Epistemic and Civil Foundations for Platform Design and Moderation” (Normschendingen in online discussies: epistemische en civiele grondslagen voor platformontwerp en moderatie), is vrij toegankelijk en bedoeld ter ondersteuning van onderzoekers, moderators en platformbeleidsteams die zich inzetten voor het verbeteren van online discussies.
- Onderzoeker
- Meer informatie
Je vindt de volledige publicatie hier.
