Waarom het zo moeilijk is om inzicht te geven in algoritmen die jouw leven beïnvloeden

Algoritmen zijn overal om ons heen. Of het nu gaat om de suggesties die je ontvangt van ChatGPT, de gepersonaliseerde aanbevelingen op Netflix of de eindeloze stroom video’s op YouTube, algoritmen spelen een centrale rol. Maar wat als deze algoritmen betrokken zijn bij belangrijke beslissingen die jouw leven beïnvloeden?

20 juni 2023

Waarom word je bijvoorbeeld aangehouden door de politie, of waarom krijg maar je een bepaald bedrag aan studiefinanciering? Het is begrijpelijk dat je wilt weten hoe deze algoritmen tot deze uitkomsten komen. Inzicht in hoe algoritmen werken en hoe publieke organisaties ermee omgaan, is daarbij heel belangrijk.
Een algoritme is een reeks geordende instructies of regels die worden gevolgd om een bepaald probleem op te lossen of een taak uit te voeren. Het is als het ware een stappenplan dat door een computer of een ander systeem wordt gevolgd om een gewenst resultaat te bereiken.

Algoritmeregister: wat is dat?

In december 2022 lanceerde de overheid het landelijke Algoritmeregister. Verschillende gemeenten en overheidsorganisaties, zoals het UWV, maakten eveneens een eigen algoritmeregister. Belangrijk, want hierdoor begrijpen we beter welke algoritmen betrokken zijn bij belangrijke beslissingen en waarom. Met behulp van het register is het makkelijker om te zien waar, wanneer en waarom overheden gebruik maken van slimme computersystemen.

Het algoritme stuurt de kentekens naar een centrale database, waar wordt gecontroleerd of de auto daar wel mag parkeren en of er betaald is voor het parkeren.
Image by Freepik

Een voorbeeld is een algoritme dat de gemeente Amsterdam inzet bij parkeercontroles. In het algoritmeregister lees je hoe dit werkt: deze scanauto’s hebben camera’s en gebruiken een computerprogramma (algoritme) om kentekens van geparkeerde auto’s te herkennen. Het algoritme stuurt de kentekens naar een centrale database, dat controleert of de auto daar wel mag parkeren en of er betaald is voor het parkeren. Als er geen geldige reden is om daar te staan, krijg je een parkeerboete. Het register legt verder uit welke data verzameld en gebruikt wordt, en wat de rol van menselijke parkeercontroleurs in dit proces is.

Wat zijn de voordelen van zo’n register?

Het geven van informatie over algoritmen die publieke organisaties gebruiken heeft verschillende voordelen. Algoritmeregisters verstrekken informatie over welke algoritmen worden gebruikt en hoe ze functioneren. Dit stelt jou in staat om inzicht te krijgen in de besluitvormingsprocessen en de logica achter deze algoritmen.

Daarnaast dwingt een algoritmeregister publieke organisaties om hun algoritmen kritisch te evalueren en te verbeteren. Ze liggen namelijk onder een vergrootglas als ze openbaar gemaakt worden. Dit komt jou ten goede. Het vergroot namelijk de kwaliteit en betrouwbaarheid van de algoritmen die beslissingen beïnvloeden die weer impact op jou hebben, zoals bijvoorbeeld de hoogte van je studiefinanciering.

Een algoritmeregister dwingt publieke organisaties om hun algoritmen kritisch te evalueren en te verbeteren.
Image by Freepik

Een ander voordeel van zo’n register is dat het de mogelijkheid biedt aan toezichthouders, ngo’s en journalisten om de activiteiten van publieke organisaties te controleren en te beoordelen. Dit zorgt ervoor dat de algoritmen op een verantwoorde en ethische manier worden ingezet, wat jou beschermt tegen mogelijke risico’s en discriminatie.

Schijntransparantie?

Ondanks al deze voordelen zie ik in mijn onderzoek dat er ook risico’s kleven aan zo’n register. Algoritmeregisters kunnen je niet altijd het volledige plaatje laten zien. Soms kiezen organisaties ervoor om alleen bepaalde algoritmen openbaar te maken, waardoor je geen compleet beeld krijgt van hoe algoritmen jou beïnvloeden. Hierdoor blijft het onduidelijk en snap je niet goed hoe algoritmen jouw leven beïnvloeden.

Algoritmeregisters kunnen je niet altijd het volledige plaatje laten zien
Pixabay CC0

Bovendien, algoritmen zijn vaak ingewikkeld en moeilijk te begrijpen, zelfs als ze in een register staan. Het is soms lastig om de technische details te begrijpen als je niet veel technische of wiskundige kennis hebt. Hierdoor is het moeilijk om de informatie in het register te snappen en te weten wat de gevolgen zijn voor jouw leven.

/a>

Wat het ook moeilijk maakt, is het risico op ‘gaming the system’. Dit houdt in dat mensen een algoritme bewust kunnen misbruiken om oneerlijke voordelen te behalen. Stel je bijvoorbeeld voor dat er een algoritme wordt gebruikt door de belastingdienst om te bepalen hoeveel belasting je moet betalen. Als je precies weet hoe het algoritme werkt, bijvoorbeeld omdat dit uitgelegd wordt in een algoritmeregister, dan kan je proberen om je financiële situatie anders voor te stellen dan die in werkelijkheid is, waardoor je minder belasting hoeft te betalen dan eigenlijk zou moeten. Voor sommige algoritmen is het daarom lastig om precies te vertellen hoe ze werken.

Tot slot zijn er andere obstakels, zoals dat bijhouden van een algoritmeregister veel tijd en geld kost. Daarnaast speelt mee dat sommige algoritmen gemaakt worden door bedrijven en deze bedrijven niet willen dat de overheid hun product openbaar maakt omdat ze hier dan minder geld aan verdienen. Als een organisatie haar unieke algoritmen openbaar maakt, kunnen anderen vergelijkbare technologieën ontwikkelen en gebruiken zonder dezelfde inspanning en kosten.

Wat wil jij weten over algoritmen?

Ondanks de voordelen die een algoritmeregister met zich meebrengt, blijkt het moeilijk om volledig inzicht te geven in algoritmen die jouw leven beïnvloeden. Ik ben benieuwd naar wat jij wilt weten over de algoritmen die door de overheid worden gebruikt. Wat vind jij belangrijke informatie?