Vijf vragen over inclusieve algoritmes

Er zijn twee soorten algoritmes. Je hebt de traditionele AI, waarbij de regels direct overgenomen worden om beslissingen te maken. Deze uitkomsten zorgen vaak niet voor nieuwe inzichten. Maar er zijn ook zelflerende AI-systemen, die maken gaandeweg nieuwe regels en daarmee nieuwe beslissingen. Door deze systemen zie je vaak dat er een beslissing wordt genomen op een manier waarvan wij ons – als individu of als organisatie – helemaal niet bewust waren. Dat is de kracht van AI: het is een weerspiegeling van de beslissingen die we nemen. Sommige delen zijn bekend, maar sommige delen komen als een verrassing. Een algoritme kwantificeert als het ware de patronen binnen onze beslissingen.

In zekere zin doen algoritmes niet veel anders dan wij in ons brein en in onze samenleving doen. Ook wij maken vaak beslissingen op basis van gegevens, zonder dat we precies kunnen uitleggen waarom we die beslissing maken. Dat hoeft geen probleem te zijn, zolang je een gemaakte beslissing maar kan valideren. Ook bij AI is het zo dat het belangrijk blijft om te praten over de uitkomst. Dat is de enige manier waarop je een systeem kan valideren en verbeteren. Ik denk dat dat belangrijk is om te onthouden: AI en algoritmes staan niet los van ons.

Algoritmes werken met kennis die er al is, maar creëren ook nieuwe inzichten. Daar zit de grootste winst: met AI kunnen we voortbouwen op datgene wat we kennen, maar ook nieuwe stappen maken. AI kan zorgen voor nieuwe perspectieven die creatieve oplossingen inspireren. Om een voorbeeld te noemen: Binnen een stad kan een algoritme gebruikt worden om in kaart te brengen waar mensen dicht bij hun eigen huis blijven. Misschien blijkt later dat dat komt omdat ze beperkt toegang hebben tot openbaar vervoer. Deze inzichten kunnen vervolgens gebruikt worden om een stad anders in te richten. Algoritmes kunnen helpen om op een nieuwe manier naar je omgeving te kijken.

In de afgelopen tien jaar is privacy ontzettend belangrijk geweest in het debat over data en algoritmes. Persoonlijk denk ik dat andere waarden, zoals een eerlijke behandeling of kansengelijkheid, soms belangrijker zijn. Het is echter wel noodzakelijk om te laten zien welke data je waarvoor gebruikt. Pas dan kunnen mensen een eerlijke afweging maken. In delen van Amerika en in Zwitserland wordt er een algoritme gebruikt voor de huisvesting van vluchtelingen. Ze worden niet zomaar ingedeeld op capaciteit, maar er wordt echt gekeken naar een passende omgeving. Je ziet dat mensen er dan eerder voor kiezen om hun data delen, ze vinden een kansrijke omgeving belangrijker dan hun privacy.

Grote tech-bedrijven hebben er vaak profijt van als burgers denken dat AI heel complex is. Daarom is AI-onderwijs ook zo belangrijk. Hoe meer je doorhebt wat systemen doen, hoe beter je kritische vragen kan stellen. Je ziet nu dat er projecten ontstaan waarbinnen mensen meer kunnen leren over algoritmes en zelfs worden betrokken bij het ontwikkelen ervan. Daarnaast is het belangrijk om kritische vragen te stellen: hoe wordt precies bepaald of jij wel of niet een huis kan kopen bijvoorbeeld? Welke data of welk algoritme wordt daarvoor gebruikt? Verzamel informatie en neem eigenaarschap over het gebruik van je data!