‘Bescherm burgers tegen verslavende algoritmes’

Valerie Frissen is een duizendpoot. Ze is niet alleen directeur van het SIDN Fonds (dat projecten steunt die bijdragen aan een sterk en verantwoord internet) en bijzonder hoogleraar digitale technologie en sociale verandering aan de Universiteit van Leiden. Ze is ook adviseur of toezichthouder bij de politie, de Radboud Universiteit Nijmegen, het Radboud UMC, de Hogeschool van Amsterdam, de gemeente Eindhoven en NLDigital (branchevereniging van de digitale sector). “Het is minder heftig dan het lijkt, omdat ik dingen doe die ik leuk vind.”

Gezichtsherkenning

Als adviseur van de politie vergadert ze mee in de ethische commissie. “Het is een klankbordgroep met een sterke focus op technologie. Zo hebben we vorig jaar voor de politie meegedacht over het afwegingskader dat ze hebben gemaakt over hoe de politie gezichtsherkenning wil inzetten.” Zulke afwegingen zijn ‘niet altijd makkelijk’, vertelt Frissen. “Voor de politie is veiligheid de belangrijkste publieke waarde en zeker in de openbare ruimte staat dit voorop. Gezichtsherkenning helpt daarbij, maar botst weer met andere publieke belangen. Want wat doe je met al die mensen die je op video opneemt, maar niets te maken hebben met je onderzoek. Politiemensen hebben er vaak geen tijd voor om daar rustig bij stil te staan. Dat spanningsveld leidt tot goede discussies.”

Door kunstmatige intelligentie is de discussie bovendien opnieuw opgelaaid, ziet Frissen. In de AI-act, een set afspraken die de Europese Unie maakte over gebruik en ontwikkeling van kunstmatige intelligentie, wordt AI-gezichtsherkenning gezien als één van de meest risicovolle technologieën. “Zo risicovol dat het zou kunnen zijn dat er een verbod op komt. Innovaties kun je bij de politie nooit lostrekken van de ethische discussie van het moment.”

Ontspoord gedrag

De discussie over een verantwoord internet laait pas in de laatste jaren op, ziet Frissen. Zowel internet als social media werden voorheen veelal gezien als goede ontwikkelingen. “Bij social media had je berichtgeving over de bijdrage aan democratische revoluties in de Arabische wereld. En internet zou een vrijhaven zijn voor allerlei prachtig en idealistisch gedrag dat het gemeenschappelijk belang zou dienen.” Frissen zag het debat in tien jaar tijd veranderen. “Er waren altijd wel wat mensen die zich kwaad maakten over de negatieve kanten van het internet. Dat is nu veel meer een gedeeld perspectief geworden. Door incidenten en berichtgeving zien we dat internet een voedingsbodem kan zijn voor ontspoord gedrag, zowel door gebruikers als door de manier waarop grote platforms werken. Tegenwoordig zegt men: waar gaat dit allemaal naartoe, het verpest onze kinderen. De waarheid zal in het midden liggen. Goede wetenschappers kijken altijd kritisch naar voor- en nadelen, in plaats van mee te gaan in hypes.”

Frissen is om meerdere redenen wel blij met de toegenomen zorgen. “Golfbewegingen heb je nodig. Nu komt de negatieve impact meer dan ooit op tafel. Daardoor is er ook meer druk op de reguleringskant. Bij kunstmatige intelligentie worden daardoor misschien allerlei maatregelen al aan de voorkant genomen; let alleen al op het feit dat we in Europa nu al een AI-act hebben. In die discussie hebben ethische expertgroepen veel invloed op wetgeving gehad. Europa neemt daarin nu echt de voortrekkersrol. Bij de ontwikkeling van het internet is dat veel te laat gebeurd: internet werd te lang overgelaten aan een vrij spel der machten.”

Vloek en zegen

De voor- en nadelen van het internet werden volgens Frissen zelden zo duidelijk als tijdens de coronaperiode. “Alles is zo met technologie verweven dat we ons er niet eens meer bewust van zijn. Maar stel je voor dat de digitale technologie er niet was geweest. De economische en infrastructurele problemen waren dan nauwelijks te overzien geweest. De halve economie en het onderwijs zouden tot stilstand zijn gekomen. Onder meer door beeldbellen hebben we heel veel maatschappelijke risico’s redelijk opgevangen.”

Die afhankelijkheid leidt ook tot nadelen. Zo zag Frissen dat big tech tijdens corona meer invloed kreeg op het onderwijs en publieke diensten, bijvoorbeeld door het primaire onderwijs te helpen met hardware, software en educatieve content. “Een crisissituatie vergroot die afhankelijkheid. Idealiter ben je als land niet afhankelijk van grote commerciële partijen, die daarmee diep ingrijpen in het dagelijks leven en de maatschappelijke verantwoordelijkheid van de overheid deels overnemen.”

Dataproletariaat

Daarbij ‘verzamelen deze bedrijven permanent data, omdat die een verdienmodel zijn’. Frissen: “Ik heb wel eens beschreven dat wij, de eindgebruikers, een soort dataproletariaat zijn. We worden beloond met wat Marx vals bewustzijn noemde: er worden spiegeltjes en kraaltjes uitgedeeld in de vorm van allerlei mooie apps, in ruil voor onze data. Maatschappelijk gezien klopt dat niet: de daadwerkelijk waarde van die data komt niet bij ons als dataproducenten terecht. We moeten ons de fundamentele vraag stellen: van wie zijn die data eigenlijk? Ondertussen zijn we aan de digitale platforms gekluisterd en geven we onze data gewoon weg.”

De komende tijd komt er meer wetgeving om burgers te beschermen tegen de macht van die platforms, denkt Frissen. “Overigens zonder de illusie dat we de geest weer helemaal terugkrijgen in de fles. Wel is bijsturen noodzakelijk, bijvoorbeeld tegen die verslavende algoritmen.” Op nationaal niveau ziet ze dat het huidige, demissionaire kabinet redelijk wat aandacht had en heeft voor zulke zaken. “Er is voor het eerst een staatssecretaris voor digitale zaken. Dat helpt. En in de Eerste en Tweede Kamer zijn er commissies voor digitale zaken. Laten we hopen dat een nieuw kabinet die lijn doortrekt.”

Straatbeeld

Frissen adviseerde ook gemeenten, zoals Amsterdam. Wie tien minuten op de Berlagebrug gaat staan, een druk punt vlakbij het Amstelstation in de hoofdstad, ziet dat de digitale technologie is doorgedrongen tot het straatbeeld. Mannen en vrouwen op elektrische fietsen in oranje, blauwe en roze jassen bezorgen maaltijden en andere producten, die online zijn besteld. Dat laatste geldt ook voor de taxi’s die de Amstel oversteken via de brug. “Steden hebben in de loop der tijd ingezien dat ze moeten onderhandelen met de platformbedrijven die dit faciliteren, omdat deze ook op grote schaal data verzamelen van burgers en daarmee ingrijpen op hun leven. Amsterdam heeft inmiddels een digitale agenda en kwam als eerste met een algoritmeregister, dat transparant maakt welke algoritmen in de stad worden gebruikt.”

Lokale en internationale regelgeving over digitale technologie zijn zelfs belangrijker dan nationale, denkt Frissen. “Op lokaal niveau heeft technologie vaak het meeste invloed op de burger. En de Europese politiek houdt zich bezig met de grote technologische issues, zoals de invloed van big tech en big states op onze leefwereld. De landelijke politiek moet daar intelligent in meebewegen.”