Wie meer wil weten over kunstmatige intelligentie en de impact daarvan op de maatschappij, leest ‘De AI-revolutie’ van Maarten Sukel.
Het moet voor een zwarte student bio-informatica aan de Vrije Universiteit Amsterdam een zeer pijnlijke ervaring zijn geweest. Tijdens de coronacrisis moest zij gebruikmaken van antispieksoftware op haar computer, maar de beeldherkenningssoftware herkende haar niet. ‘Face not found’ en ‘Room too dark ’verschenen in beeld. “De antispieksoftware maakte waarschijnlijk gebruik van algoritmen die hun oorsprong vinden in grote datasets met een onevenwichtige verdeling”, schrijft Maarten Sukel in zijn boek ‘De AI-revolutie’. De student diende een klacht in bij het College voor de Rechten van de Mens en werd in het gelijk gesteld. Sukel noemt het voorbeeld in zijn boek om te laten zien dat algoritmes last hebben van vooringenomenheid, in jargon bias.
Boom of struik
Sukel, promovendus aan de Universiteit van Amsterdam en datawetenschapper bij een online supermarkt, legt in zijn boek helder uit hoe die bias tot stand komt. Hij gebruikt daarbij het voorbeeld van het indelen van boomsoorten. Hoe leer je een algoritme het onderscheid te maken tussen een iep en een es? En tussen een boom en een struik? Daarbij maakt het veel uit of de bomen in een stad staan of in een bos, of het zomer is of winter, en of de bomen in Europa of Azië staan. Eigenlijk, zegt hij, zou je de data over de bomen moeten laten verzamelen door een groep experts, bijvoorbeeld boswachters, en die moeten dan ook goed verdeeld over de hele wereld zijn, en dus niet vooral uit het Westen komen. Anders raken bepaalde boomsoorten ondergesneeuwd, net zoals dat met groepen mensen het geval is.
Bias is dan ook een hardnekkig probleem, maar volgens Sukel is het wel degelijk op te lossen. Het is alleen ‘duur, tijdrovend, moeilijk en niet perfect, ook al omdat het een wereld weerspiegelt die zelf niet zonder vooroordelen is’. Want algoritmen zijn niet bewust discriminerend, dat zijn we zelf. Zo zegt Sukel dat de Belastingdienst ook vóór de toeslagenaffaire al discriminerend te werk ging. Het wekt alleen blijkbaar meer ergernis op als een systeem dat doet in plaats van een mens.
Ministerie van Digitale Zaken
Sukel neemt je in zijn boek mee langs de belangrijkste ontwikkelingen van de afgelopen jaren op het gebied van AI, en legt zeer kundig uit wat alle begrippen betekenen en hoe AI-systemen precies tot stand komen. Sukel maakt zich terecht veel zorgen over wat AI gaat betekenen voor de maatschappij. Hij benoemt de vele voordelen die AI zal hebben, bijvoorbeeld op het gebied van geneeskunde, maar ook de keerzijdes, zoals de zorgen over massasurveillance, het energieverbruik, de arbeidsmarkt en hoe het internet overspoeld zal worden door synthetische media – en hoe we dan nog echt van nep kunnen onderscheiden.
Hij ziet een belangrijke rol weggelegd voor controle en regelgeving. Een algoritmeregister, waarin organisaties hun algoritmes publiceren, is een eerste stap, maar eigenlijk zou er een veel strengere controle op het maken van algoritmes moeten komen, bijvoorbeeld in de vorm van audits, zegt hij. Overheden zijn nu nog nauwelijks in staat om kritisch over AI-systemen te oordelen, en dat zou in zijn ogen dan ook veel meer opgeschaald moeten worden. Hij pleit voor een ministerie van Digitale Zaken en een VN-afdeling die toezicht houdt op AI.
De macht van Google
AI werd in de beginfase vooral binnen universiteiten ontwikkeld, maar de laatste jaren heeft het bedrijfsleven dat bijna volledig overgenomen. Waar de modellen eerst open werden ontwikkeld, zodat iedereen er gebruik van kon maken, kiezen de grote techbedrijven er nu vaak voor om de werking van hun algoritmes geheim te houden. En dat is niet zonder risico’s, want de drijfveer van bedrijven (winst maken) is niet hetzelfde als van de gebruikers (betrouwbare informatie krijgen).
Overigens gaat Sukel daar af en toe (naar mijn mening) wel een beetje kort door de bocht, bijvoorbeeld door te stellen dat Googles zoekmachine te veel door advertentie-inkomsten wordt gedreven en daardoor suboptimale zoekresultaten geeft. Louche loodgieters blijven bijvoorbeeld bovenaan de zoekresultaten staan, omdat zij daarvoor betalen. Zelf denk ik eerder dat Google zijn hoge marktaandeel heeft kunnen behalen, omdát het zo’n goede zoekmachine is. Sukel schrijft ook dat bijna iedereen webbrowser Google Chrome gebruikt, maar met een marktaandeel van 64 procent valt dat best mee.
Googles zoekmachine wordt te veel door advertentie-inkomsten gedreven en geeft daardoor suboptimale zoekresultaten, stelt Sukel.
Gevoel van spionage
Intrigerend is zijn beschrijving van het beeldherkenningssysteem dat hij zelf maakte voor de gemeente Amsterdam, in coronatijd. In de stad werden camera’s opgehangen die met behulp van AI konden detecteren of mensen genoeg afstand hielden. Was dat niet het geval, dan zag de bezoeker op een groot scherm een rode smiley in beeld. De beelden werden niet opgeslagen, maar maakten toch veel protest los. Sukel zegt het wantrouwen te begrijpen, want je hebt als voorbijganger nooit de zekerheid over wat er met de beelden gebeurt. Hij wijst erop dat mensen in een register meer informatie over de werking van het algoritme konden vinden. De echte systemen waarover we ons zorgen moeten maken, zegt hij, zijn degene die ongemerkt en niet transparant van AI gebruikmaken. Denk bijvoorbeeld aan de Belastingdienst. Toch is het jammer dat Sukel zichzelf niet de vraag stelt of hij dat beeldherkenningssysteem niet beter helemaal achterwege had moeten laten. Je kunt best beargumenteren dat het gevoel van directe spionage niet opweegt tegen het indirecte voordeel van minder coronabesmettingen.
‘De AI-revolutie’ is een echte aanrader voor iedereen die in AI is geïnteresseerd, want met dit boek weet je precies wat kunstmatige intelligentie inhoudt en welke impact het gaat hebben. Het boek zou alleen nét iets sterker zijn als Sukel het wat meer als een neutrale observator had geschreven.