Je leest:

Vijf vragen over inclusieve algoritmes

Vijf vragen over inclusieve algoritmes

beantwoord door Sennay Ghebreab

Auteur: | 20 oktober 2021
pixabay

Kan een algoritme creatief zijn? En hoe krijg je inspraak op het gebruik van een algoritme? Tijdens een lezing in De Studio van NEMO gaf AI-wetenschapper Sennay Ghebreab antwoord op vragen over het inzetten van algoritmes voor een inclusievere samenleving.

Sennay Ghebreab tijdens zijn lezing in NEMO over inclusieve algoritmes.

NEMO Kennslink

Er zijn steeds meer slimme technologieën die gebruikmaken van algoritmes. Ze bepalen wanneer je het beste kan gaan sporten of welke route je het beste kan nemen, maar ook of je een uitkering krijgt. Er wordt vaak verwacht dat algoritmes objectief zijn, maar is dat wel zo? Volgens AI-wetenschapper Sennay Ghebreab kunnen algoritmes ervoor zorgen dat bepaalde patronen in onze samenleving blijven bestaan of zelfs versterkt worden. Hij pleit daarom voor het ontwikkelen van algoritmes in samenwerking met burgers om zo tot een eerlijkere samenleving te komen. Tijdens een lezing in De Studio van NEMO vertelde hij hoe én gaf hij antwoord op verschillende vragen.

1. De regels waarmee een algoritme wordt opgebouwd, komen voort uit onze samenleving. Kan een algoritme dan wel zorgen voor vooruitgang?

Er zijn twee soorten algoritmes. Je hebt de traditionele AI, waarbij de regels direct overgenomen worden om beslissingen te maken. Deze uitkomsten zorgen vaak niet voor nieuwe inzichten. Maar er zijn ook zelflerende AI-systemen, die maken gaandeweg nieuwe regels en daarmee nieuwe beslissingen. Door deze systemen zie je vaak dat er een beslissing wordt genomen op een manier waarvan wij ons – als individu of als organisatie – helemaal niet bewust waren. Dat is de kracht van AI: het is een weerspiegeling van de beslissingen die we nemen. Sommige delen zijn bekend, maar sommige delen komen als een verrassing. Een algoritme kwantificeert als het ware de patronen binnen onze beslissingen.

Om te zorgen voor meer kansengelijkheid, is het belangrijk anders te gaan denken over AI. Volgens Sennay Ghebreab moeten we dan rekening houden met de vijf dimensies van verandering.

Slide

1/5

Waarom?
Wat is de intentie? AI is tot nu vaak gebruikt om processen te optimaliseren en om kosten te besparen. Een inclusieve samenleving draait juist om publieke waarden als gelijke behandeling, waarborgen van privacy en het tegengaan van discriminatie. De intentie van AI zou dus het optimaliseren van deze waarden moeten zijn.

Slide

1/5

Wie?
Wie ontwerpt en ontwikkelt AI? Er is vaak een mismatch tussen de opdrachtgevers en ontwikkelaars en de mensen die AI uiteindelijk gebruiken. Teams van mensen met verschillende persoonlijke achtergronden en vanuit verschillende disciplines zouden moeten samenwerken om AI te ontwikkelen. Alleen dan kan AI eerlijk en inclusief worden.

Slide

1/5

Wat?
Welke data wordt als basis gebruikt? Als AI getraind wordt met historische data, is het vaak niet meer representatief voor de groep mensen die de algoritmes gaan gebruiken. Bovendien kunnen er schadelijke vooroordelen in algoritmes terechtkomen. Volkomen representatieve data is nooit te bereiken, maar het zou wel continu nagestreefd moeten worden.

Slide

1/5

Hoe?
Hoe wordt AI ontwikkeld? Het is belangrijk om te zorgen voor openheid en het lef om verantwoording af te leggen over de ontwikkeling en toepassing van AI. Nu wordt er vaak geheimzinnig over gedaan. Daarnaast is het belangrijk om je te realiseren dat AI nooit perfect is – het is een constant leerproces. Eigenlijk net als onze samenleving.

Slide

1/5

Participatie
Dit is het belangrijkste maar ook het meest genegeerde onderdeel. Het is belangrijk om burgers te betrekken bij het ontwerp, de ontwikkeling en de toepassing van AI. Alleen dan kan je zorgen dat AI eerlijk en inclusief is. Het is niet makkelijk, maar met goed AI-onderwijs kan iedereen straks meepraten over de ontwikkeling van AI.

2. Is het niet gevaarlijk om een systeem een beslissing te laten nemen, zonder dat we weten hoe die beslissing tot stand is gekomen?

In zekere zin doen algoritmes niet veel anders dan wij in ons brein en in onze samenleving doen. Ook wij maken vaak beslissingen op basis van gegevens, zonder dat we precies kunnen uitleggen waarom we die beslissing maken. Dat hoeft geen probleem te zijn, zolang je een gemaakte beslissing maar kan valideren. Ook bij AI is het zo dat het belangrijk blijft om te praten over de uitkomst. Dat is de enige manier waarop je een systeem kan valideren en verbeteren. Ik denk dat dat belangrijk is om te onthouden: AI en algoritmes staan niet los van ons.

Uitgelicht door de redactie

Taalwetenschap
‘Mijn moedertaal voelt als thuis’

Taalwetenschap
Graven naar je weggezakte moedertaal

Geneeskunde
Muziek als medicijn

3. Algoritmes maken in feite gebruik van kennis die er al is. Mis je dan niet een stuk creativiteit?

Algoritmes werken met kennis die er al is, maar creëren ook nieuwe inzichten. Daar zit de grootste winst: met AI kunnen we voortbouwen op datgene wat we kennen, maar ook nieuwe stappen maken. AI kan zorgen voor nieuwe perspectieven die creatieve oplossingen inspireren. Om een voorbeeld te noemen: Binnen een stad kan een algoritme gebruikt worden om in kaart te brengen waar mensen dicht bij hun eigen huis blijven. Misschien blijkt later dat dat komt omdat ze beperkt toegang hebben tot openbaar vervoer. Deze inzichten kunnen vervolgens gebruikt worden om een stad anders in te richten. Algoritmes kunnen helpen om op een nieuwe manier naar je omgeving te kijken.

4. Om algoritmes te gebruiken in sociale situaties, heb je data nodig van echte mensen. Is dat geen inbreuk op de privacy?

In de afgelopen tien jaar is privacy ontzettend belangrijk geweest in het debat over data en algoritmes. Persoonlijk denk ik dat andere waarden, zoals een eerlijke behandeling of kansengelijkheid, soms belangrijker zijn. Het is echter wel noodzakelijk om te laten zien welke data je waarvoor gebruikt. Pas dan kunnen mensen een eerlijke afweging maken. In delen van Amerika en in Zwitserland wordt er een algoritme gebruikt voor de huisvesting van vluchtelingen. Ze worden niet zomaar ingedeeld op capaciteit, maar er wordt echt gekeken naar een passende omgeving. Je ziet dat mensen er dan eerder voor kiezen om hun data delen, ze vinden een kansrijke omgeving belangrijker dan hun privacy.

Eerder sprak NEMO Kennislink al met Sennay Ghebreab over discriminerende algoritmes.

5. Hoe kan je ervoor zorgen dat je inspraak hebt op het gebruik van data en algoritmes?

Grote tech-bedrijven hebben er vaak profijt van als burgers denken dat AI heel complex is. Daarom is AI-onderwijs ook zo belangrijk. Hoe meer je doorhebt wat systemen doen, hoe beter je kritische vragen kan stellen. Je ziet nu dat er projecten ontstaan waarbinnen mensen meer kunnen leren over algoritmes en zelfs worden betrokken bij het ontwikkelen ervan. Daarnaast is het belangrijk om kritische vragen te stellen: hoe wordt precies bepaald of jij wel of niet een huis kan kopen bijvoorbeeld? Welke data of welk algoritme wordt daarvoor gebruikt? Verzamel informatie en neem eigenaarschap over het gebruik van je data!

Luister hier naar de volledige lezing van Sennay Ghebreab over inclusieve algoritmes.

Speciaal voor volwassenen organiseerde NEMO verschillende activiteiten in De Studio op het Marineterrein. Op iedere donderdagavond in september, oktober en november was er een workshop, lezing of dialoog rondom het thema data. NEMO Kennislink schreef artikelen aan de hand van de lezingen over cybercriminaliteit en technologie in de zorg. Via deze artikelen zijn ook de lezingen terug te luisteren.

Dit artikel is een publicatie van NEMO Kennislink.
© NEMO Kennislink, sommige rechten voorbehouden
Dit artikel publiceerde NEMO Kennislink op 20 oktober 2021

Discussieer mee

0

Vragen, opmerkingen of bijdragen over dit artikel of het onderwerp? Neem deel aan de discussie.

Thema: Je data en jij

Melanie Kranenburg
Je data en jij
Ons leven wordt steeds digitaler. We delen zelf data en er worden steeds meer data over ons verzameld. Dat maakt ons leven leuker en makkelijker, maar het brengt ook risico’s met zich mee. Aan de hand van tien ervaringsverhalen duikt NEMO Kennislink in de wereld van data en algoritmes.
Bekijk het thema
NEMO Kennislink nieuwsbrief
Ontvang elke week onze nieuwsbrief met het laatste nieuws uit de wetenschap.