De zonnige toekomst van online platforms

Onze popcultuur staat bol van de verhalen over technologie en het internet. Veel van die verhalen hebben een dystopisch randje (of vaker dan alleen een randje: een sterk dystopische kern). Je hebt vast wel eens een aflevering van Black Mirror gezien, of een andere serie of film die de donkere kanten van technologische ontwikkeling laat zien. Of misschien heb je een van de talloze ‘tech-dystopische’ romans gelezen.

Zo zijn er de verhalen die spelen met het idee van ‘menselijke robots’, zoals de roman Klara And The Sun (rijke mensen kunnen een ‘Artificial Friend’—een robotmaatje—kopen), de film Ich Bin Dein Mensch (je ‘perfecte partner’ in robot-vorm!), of de roman Machines Like Me (een menselijke robot genaamd Adam zet een relatie op scherp). Andere verhalen gaan over de verwoesting die de zogenaamde technologische vooruitgang oplevert, zoals de recente film Leave The World Behind (na een cyberaanval ontspoort het leven rondom een gezin), of verhalen zoals Chernobyl of The Day After Tomorrow (over natuurrampen als gevolg van technologisch mismanagement of klimaatverandering).

Er zijn ook genoeg verhalen over de nare kanten van sociale media. Kortgeleden publiceerde Netflix de korte serie Adolescence, die op indringende wijze laat zien hoe kinderen en jonge pubers meegezogen worden in een harde online wereld. In The Circle wil een groot internetbedrijf letterlijk alles deelbaar maken en daarmee privacy afschaffen. In de roman No One Is Talking About This wordt een vrouw wiens leven volledig wordt bepaald door sociale media ineens uit haar online bubbel getrokken. De roman Fake Fish laat zien hoe deepfakes op online platforms ons idee van ‘waarheid’ op z’n kop zetten. En een film zoals The Social Network is niet direct een dystopie, maar laat duidelijk de negatieve kanten van de ontwikkeling van Facebook zien.

Toekomstscenario

De toekomstverhalen met betrekking tot dit laatste genre (de nare kanten van sociale media) worden alleen maar relevanter. Sinds de recente ontwikkelingen rondom contentmoderatie bij Meta (zoals ik eerder dit jaar al beschreef) worden vraagstukken over privacy en online veiligheid door de monopolie van bepaalde Big Techbedrijven steeds prominenter. Dit soort vraagstukken komen vaak voort uit een gevoel van angst en onvrede over hoe sociale mediaplatforms zich ontwikkelen. Dat is natuurlijk heel begrijpelijk, maar het is ook verfrissend als we ons juist eens focussen op gewenste toekomstscenario’s (utopieën) in plaats van op de zwarte doemscenario’s die we zo vaak horen. Naïef, wellicht, maar wel een leuk gedachte-experiment.

Laten we eens zo’n gedachte-experiment uitvoeren met betrekking tot het onderwerp van mijn promotieonderzoek: communicatie, conflict, en moderatie op online platforms. Laten we de volgende vraag onderzoeken: hoe ziet moderatie op online platforms eruit in een ideaal scenario?

Eerst een korte schets van de huidige situatie. Bijna alle online platforms doen aan (content) moderatie. Deze moderatie ziet er vaak als volgt uit: ongewenste content wordt verwijderd en ongewenste gebruikers (al dan niet tijdelijk) geblokkeerd. Iets is ‘ongewenst’ wanneer het a) feitelijk onjuist is, b) hatelijk van toon is, of c) illegaal of discriminatoir is.

Er zijn een aantal belangrijke problemen met deze manier van modereren. Feitenchecks werken bijvoorbeeld niet altijd. Ook is deze manier van modereren blind voor de bredere context waarin online gesprekken plaatsvinden. En wat ‘ongewenst’ is, is niet universeel. Bovendien worden op deze manier gesprekken afgekapt in plaats van bevorderd.

We zien dus dat er flink wat problemen zijn met de huidige situatie. En de boeken, series en films hierboven geven genoeg ideeën over hoe het zich allemaal verder kan ontwikkelen naar een nog donkerder scenario. Veel fantasie heb je er niet voor nodig. Tijd dus om eens te puzzelen op hoe een ideaal scenario eruit zou zien, zonder dat we sociale media direct helemaal afschaffen.

Utopie

Online platforms zijn een steeds groter en belangrijker onderdeel van onze publieke sfeer. Democratieën rusten ook sterk op deze publieke sfeer, waarin mensen maatschappelijk en politiek belangrijke zaken bespreken. Er is zeker een vorm van moderatie nodig om deze zaken in goede banen te leiden, maar hoe die er uit moet zien is anders dan de huidige situatie die ik hierboven beschrijf.

Ten eerste zouden er een heleboel kleinere platforms moeten zijn, in plaats van een aantal grote platforms (zoals de huidige Big Techmonopolie). Deze kleinere platforms zorgen er dan voor dat mensen elkaar beter leren kennen, en dat er een groter gevoel van menselijkheid en verantwoordelijkheid leeft. Misschien hebben deze platforms zelfs wel een ‘offline’ aspect, waarbij gesprekken, activiteiten of bijeenkomsten buiten het platform worden georganiseerd. Verder zouden op deze platforms menselijke moderatoren werken (eventueel geholpen door AI-bots of algoritmes, maar zeker niet overgenomen hierdoor). Deze moderatoren kennen de cultuur van een bepaald platform, de geschiedenis van gesprekken en discussies, en kunnen hun moderatiebeslissingen hierop baseren. 

Moderatoren zijn onderdeel van deze online community, en staan er niet buiten. Moderatie betekent dan ook méér dan alleen blokkeren en verwijderen. Moderatoren proberen om discussies te bevorderen en te faciliteren, in plaats van alleen stukken te verwijderen. Moderatoren brengen hierdoor mensen dichter bij elkaar.

In een ideale situatie zou zo’n nieuw platform- en moderatielandschap de publieke sfeer versterken. Mensen komen (zowel online als offline) meer met elkaar in aanraking. Ze begrijpen elkaars standpunten beter (ook als ze het niet met elkaar eens zijn). Ze zouden gedwongen worden om hun eigen standpunten beter te formuleren en bevragen. Dit alles versterkt de publieke sfeer—en dus de democratie— en het vermindert polarisatie.

Goed, tot zover mijn poging tot utopisch denken—niet bepaald een makkelijke exercitie! Als academicus word je vanaf je bachelor al getraind in kritisch denken, wat zo’n utopisch gedachteexperiment moeilijk maakt. Bij alles wat ik bedenk, klinkt er een stemmetje in mijn hoofd: denk ik niet veel te simplistisch?!? Daarnaast worden we door boeken, films en series al gauw de kant van dystopisch denken opgestuurd. Maar zoals ik ook hierboven schrijf: het is eigenlijk heel verfrissend om eens lekker utopisch te denken. Laten we zien of de makers van boeken, films en series dat binnenkort ook wat vaker gaan doen (zoals de roman The Dispossessed in 1974 al deed)! Probeer het gedachte-experiment ook eens zelf: hoe zou de toekomst rondom content moderatie er volgens jou uit kunnen/mogen/moeten zien?