Naar de content

Vijf vragen over inclusieve algoritmes

beantwoord door Sennay Ghebreab

pixabay

Kan een algoritme creatief zijn? En hoe krijg je inspraak op het gebruik van een algoritme? Tijdens een lezing in De Studio van NEMO gaf AI-wetenschapper Sennay Ghebreab antwoord op vragen over het inzetten van algoritmes voor een inclusievere samenleving.

20 oktober 2021

Er zijn steeds meer slimme technologieën die gebruikmaken van algoritmes. Ze bepalen wanneer je het beste kan gaan sporten of welke route je het beste kan nemen, maar ook of je een uitkering krijgt. Er wordt vaak verwacht dat algoritmes objectief zijn, maar is dat wel zo? Volgens AI-wetenschapper Sennay Ghebreab kunnen algoritmes ervoor zorgen dat bepaalde patronen in onze samenleving blijven bestaan of zelfs versterkt worden. Hij pleit daarom voor het ontwikkelen van algoritmes in samenwerking met burgers om zo tot een eerlijkere samenleving te komen. Tijdens een lezing in De Studio van NEMO vertelde hij hoe én gaf hij antwoord op verschillende vragen.

1. De regels waarmee een algoritme wordt opgebouwd, komen voort uit onze samenleving. Kan een algoritme dan wel zorgen voor vooruitgang?

Er zijn twee soorten algoritmes. Je hebt de traditionele AI, waarbij de regels direct overgenomen worden om beslissingen te maken. Deze uitkomsten zorgen vaak niet voor nieuwe inzichten. Maar er zijn ook zelflerende AI-systemen, die maken gaandeweg nieuwe regels en daarmee nieuwe beslissingen. Door deze systemen zie je vaak dat er een beslissing wordt genomen op een manier waarvan wij ons – als individu of als organisatie – helemaal niet bewust waren. Dat is de kracht van AI: het is een weerspiegeling van de beslissingen die we nemen. Sommige delen zijn bekend, maar sommige delen komen als een verrassing. Een algoritme kwantificeert als het ware de patronen binnen onze beslissingen.

2. Is het niet gevaarlijk om een systeem een beslissing te laten nemen, zonder dat we weten hoe die beslissing tot stand is gekomen?

In zekere zin doen algoritmes niet veel anders dan wij in ons brein en in onze samenleving doen. Ook wij maken vaak beslissingen op basis van gegevens, zonder dat we precies kunnen uitleggen waarom we die beslissing maken. Dat hoeft geen probleem te zijn, zolang je een gemaakte beslissing maar kan valideren. Ook bij AI is het zo dat het belangrijk blijft om te praten over de uitkomst. Dat is de enige manier waarop je een systeem kan valideren en verbeteren. Ik denk dat dat belangrijk is om te onthouden: AI en algoritmes staan niet los van ons.

3. Algoritmes maken in feite gebruik van kennis die er al is. Mis je dan niet een stuk creativiteit?

Algoritmes werken met kennis die er al is, maar creëren ook nieuwe inzichten. Daar zit de grootste winst: met AI kunnen we voortbouwen op datgene wat we kennen, maar ook nieuwe stappen maken. AI kan zorgen voor nieuwe perspectieven die creatieve oplossingen inspireren. Om een voorbeeld te noemen: Binnen een stad kan een algoritme gebruikt worden om in kaart te brengen waar mensen dicht bij hun eigen huis blijven. Misschien blijkt later dat dat komt omdat ze beperkt toegang hebben tot openbaar vervoer. Deze inzichten kunnen vervolgens gebruikt worden om een stad anders in te richten. Algoritmes kunnen helpen om op een nieuwe manier naar je omgeving te kijken.

4. Om algoritmes te gebruiken in sociale situaties, heb je data nodig van echte mensen. Is dat geen inbreuk op de privacy?

In de afgelopen tien jaar is privacy ontzettend belangrijk geweest in het debat over data en algoritmes. Persoonlijk denk ik dat andere waarden, zoals een eerlijke behandeling of kansengelijkheid, soms belangrijker zijn. Het is echter wel noodzakelijk om te laten zien welke data je waarvoor gebruikt. Pas dan kunnen mensen een eerlijke afweging maken. In delen van Amerika en in Zwitserland wordt er een algoritme gebruikt voor de huisvesting van vluchtelingen. Ze worden niet zomaar ingedeeld op capaciteit, maar er wordt echt gekeken naar een passende omgeving. Je ziet dat mensen er dan eerder voor kiezen om hun data delen, ze vinden een kansrijke omgeving belangrijker dan hun privacy.

5. Hoe kan je ervoor zorgen dat je inspraak hebt op het gebruik van data en algoritmes?

Grote tech-bedrijven hebben er vaak profijt van als burgers denken dat AI heel complex is. Daarom is AI-onderwijs ook zo belangrijk. Hoe meer je doorhebt wat systemen doen, hoe beter je kritische vragen kan stellen. Je ziet nu dat er projecten ontstaan waarbinnen mensen meer kunnen leren over algoritmes en zelfs worden betrokken bij het ontwikkelen ervan. Daarnaast is het belangrijk om kritische vragen te stellen: hoe wordt precies bepaald of jij wel of niet een huis kan kopen bijvoorbeeld? Welke data of welk algoritme wordt daarvoor gebruikt? Verzamel informatie en neem eigenaarschap over het gebruik van je data!

ReactiesReageer