‘Waarborg grondrechten in de digitale ruimte’

Een groot deel van haar tijd besteedt José van Dijck aan het bij elkaar brengen van andere wetenschappers van de Universiteit Utrecht die zich bezighouden met de toekomst van de digitale samenleving. Het gaat om een groep van veertig tot vijftig onderzoekers uit de rechten, mediawetenschappen, bestuurskunde, filosofie, taalkunde, sociale wetenschappen en informatica. De groep kijkt naar wetgeving, juridische en technische zaken, en sociale effecten van het internet. Doel is aanzet geven tot nieuw onderzoek en het bundelen van onderzoeken op het gebied van de digitale samenleving. “Met de bevindingen wordt van alles gedaan: van adviezen aan politie en overheidsinstanties tot publicaties voor een breed publiek”, vertelt Van Dijck, zelf hoogleraar media en digitale samenleving aan de Universiteit Utrecht.

Tijdens de overleggen staat de vraag centraal wat een verantwoord internet is. “Wij gaan uit van een internet met publieke waarden als privacy, veiligheid, accuraatheid, transparantie, soevereine gebruikers die hun eigen keuzes maken, en duurzaamheid. Ook moet democratische controle mogelijk zijn. Daarmee bedoelen we dat in de digitale ruimte, net als in onze fysieke ruimte, grondrechten moeten worden gewaarborgd. Dat is nu nog lang niet het geval”, aldus Van Dijck, die in 2021 de Spinozapremie won, de hoogste prijs in de Nederlandse wetenschap.

Nog maar drie

Van Dijck legt uit dat internet nu een grotendeels commercieel gedreven ruimte is, gedomineerd door een paar heel grote marktpartijen. Die worden volgens Van Dijck gedreven door ‘winst en datamacht’. “Terwijl het internet dat we nu kennen, ooit was bedoeld als neutrale infrastructuur, waarop iedereen eigen treintjes kon laten rijden.”

Dat heeft verstrekkende gevolgen, zo legt ze uit. De techbedrijven hebben de macht over informatie- en kennisuitwisseling. "X, voorheen Twitter, is een gecentraliseerd netwerk. Eén persoon, Elon Musk, is zelfs meerderheidsaandeelhouder van dit netwerk. Het is best gek dat die op eigen houtje kan bepalen wat er wel of niet op mag. Bijvoorbeeld of presidentskandidaat Donald Trump de ruimte krijgt of niet.”

Die machtsconcentratie neemt alleen maar toe door kunstmatige intelligentie, vreest Van Dijck. “Als het zo doorgaat, dan denk ik dat er in de toekomst nog maar drie bedrijven zijn die over genoeg geld en data beschikken. Dat komt doordat je chatbots en andere AI-toepassingen alleen kunt trainen met heel veel data. Er zijn maar een paar spelers die de ruimte en rekenkracht hebben om dit te kunnen doen: Google, Microsoft en Amazon. Heb je nu geen toegang tot genoeg data, dan ga je die in de toekomst ook niet meer krijgen.”

Onveilige situaties

“Ik zou juist een infrastructuur willen die open en neutraal is”, stelt Van Dijck. Sociale media moeten in haar ogen van grote mondiale netwerken als Facebook, Instagram, X en Tiktok veranderen in meer gedecentraliseerde netwerken, die op elkaar aangesloten kunnen worden. Als voorbeeld geeft ze Mastodon, een alternatief voor X. Dat netwerk is gedecentraliseerd: het kan nooit eigendom zijn van één persoon. In feite bestaat Mastodon uit heel veel verschillende, kleinere netwerken. “Binnen twee seconden kun je een Mastodon-groepje beginnen. De verantwoordelijkheid is belegd bij verschillende organisaties en mensen, die met elkaar de beleefdheden van hun netwerk inrichten. Dat maakt het opener en transparanter.”

Ook op Mastodon kunnen onveilige situaties ontstaan, doordat de ruimte wordt vervuild door haatdragende partijen. Maar de informatie verspreidt zich druppelsgewijs, in plaats van als een olievlek, denkt Van Dijck. “Fragmentatie zorgt aan de ene kant voor onveiligheid, omdat zo veel verschillende groepjes moeilijker zijn te controleren. Aan de andere kant kun je in de fysieke samenleving ook elk moment afspreken om dingen uit te voeren die niet door de beugel kunnen.” Het voordeel: het blijft bij dit groepje. “Het probleem met andere grote platforms is dat daar heel snel brokken desinformatie met enorme snelheid en zonder controle over grote groepen worden uitgestort.”

EU-regelgeving

Om de overstap naar netwerken als Mastodon te vergemakkelijken zou de EU in de ogen van Van Dijck regels moeten maken die ervoor zorgen dat systemen, partijen en individuen kunnen samenwerken en informatie kunnen uitwisselen. Ook zou het makkelijk moeten zijn om contacten mee te nemen van het ene platform naar het andere. "Dat kan je verplichten via wetgeving, net zoals jij je telefoonnummer mee kunt nemen naar een andere provider. Via de Digital Services Act (DSA) en de Digital Markets Act (DMA) wordt er op Europees niveau nu al gewerkt aan zulke regelgeving."

Ook op het gebied van desinformatie pleit Van Dijck voor EU-regelgeving. Dat moet leiden tot beter gecontroleerde informatiestromen. "Internet is door de jaren heen onveiliger geworden, vooral doordat informatieverspreiding via sociale media en bots (programma’s die snel mensentaken kunnen uitvoeren, red.) complex en niet transparant is. Er kunnen steeds meer anonieme uitingen worden gedaan en er zijn weinig regels, wat leidt tot vervelende situaties waar we geen grip op hebben."

Black box

Een ander probleem voor de journalistiek is de strijd met kunstmatige intelligentie (AI). Waar Google Search nog netjes verwijst naar een journalistieke bron, is bronverwijzing bij chatbots als ChatGPT niet gegarandeerd. “Veel auteurs en nieuwsmedia zijn daar boos over, omdat het raakt aan het auteursrecht.”

Van Dijck noemt AI ‘een black box die we niet kunnen controleren’. Ze bedoelt daarmee dat haast niemand zicht heeft op de trainingsmodellen voor generatieve AI en de data die worden gebruikt. Ook gaan de ontwikkelingen met AI zo snel dat zowel het onderwijs als wetgeving deze ‘per definitie niet bij kunnen houden’. “Bij uitvindingen als genetische modificatie en het vliegtuig konden we de veiligheid van mensen garanderen door direct met relevante regelgeving te komen. Het verschil is dat de AI-ontwikkelingen zo duizelingwekkend snel gaan dat de regelgeving daar automatisch achteraan holt.”

Kritische burgers

In al die jaren leerde Van Dijck ook dat technologische ontwikkelingen toch niet tegen te houden zijn. “En AI biedt ons ook veel. Je kunt efficiënter werken, omdat routinetaken veel beter door AI kunnen worden uitgevoerd dan door mensen. Met bepaalde AI-gestuurde toepassingen kun je bijvoorbeeld in korte tijd 100 duizend röntgenfoto's bestuderen om patronen te ontdekken die wijzen op borstkanker.”

De wetenschapper moet even nadenken over wat haar belangrijkste drijfveer is. “De belangrijkste is het opleiden van kritische burgers. Die moeten heel bewust zijn van wat informatie met ze doet, waar die vandaan komt en hoe ze zelf kunnen bijdragen aan het verbeteren van de digitale wereld. Zonder goed opgeleide, kritische burgers heb je geen gezonde democratische samenleving.”