'Behandel AI als een stagiair'

Aan het begin van het nieuwe jaar zit Felienne Hermans in de studio van Radio 1. De redactie van het programma 'Spraakmakers' komt met een origineel idee en laat AI een bio maken van de AI-specialist zelf. Tot Hermans haar eigen verbazing hoort ze dat zij vroeger bij Google heeft gewerkt. Daar stond de hoogleraar aan de Vrije Universiteit Amsterdam echter nooit op de loonlijst. "Het is een mooi voorbeeld van het gevaar van AI. Stel dat deze fout op een pagina in Wikipedia zou worden gemaakt, dan zou iemand dit achteraf kunnen controleren en verbeteren. Bij AI werkt dat precies omgekeerd: het algoritme slurpt het op en spuugt het op een later moment weer uit. Het krijgt een zichzelf versterkend effect. Kunstmatige intelligentie maakt daarom bijna altijd fouten."  

Afbreukrisico

Een dag later is ze opnieuw op de radio, nu voor haar column bij BNR. Ze praat over een rechtszaak die de krant The New York Times recent aanspande tegen Open AI, een Amerikaans bedrijf dat onderzoek doet naar en producten ontwikkelt op het gebied van kunstmatige intelligentie. Een van die producten is de bekende chatbot ChatGTP, een geautomatiseerde gesprekspartner die als hedendaags orakel vragen beantwoordt. OpenAI zou het auteursrecht hebben geschonden, door miljoenen artikelen te gebruiken om software voor AI te trainen. "De krant zei: als jij (OpenAI, red.) onze content gebruikt, moet je betalen. ChatGTP publiceerde daarnaast informatie die niet klopte, met The New York Times als bron erbij. Zo ondermijn je de waarde van ons werk, vond de krant."

Hermans gaat nog een stap verder: AI ondermijnt niet alleen de geloofwaardigheid van kranten. Doordat foute info het web op wordt geslingerd, zorgt het ook voor afbreukrisico voor het internet, dat daardoor in zou boeten aan ‘waarheid en geldigheid’.

Stereotypering

De wetenschapper ziet nog een ander gevaar: AI ‘denkt’ nog veel meer in stereotypes dan mensen. Dat komt doordat de data waarop algoritmes zijn getraind, per definitie uit het verleden komen. "Er wordt met de bril van het verleden gekeken. Toen waren er bijvoorbeeld veel minder vrouwelijke wetenschappers dan mannelijke en er werd minder over ze geschreven. Als je daarom nu iets vraagt aan AI, zal in het antwoord eerder een Piet de Vries genoemd worden dan een vrouw van niet-westerse origine."

Sommige nieuwsmedia kiezen daarom bewust voor bronnen die afwijken van de norm. Zou AI zich dat ook niet kunnen aanleren? "Dat is lastig", vindt Hermans. "Een krantenredactie wil misschien in de beeldvorming de wereld afspiegelen zoals die nu is of zou moeten zijn, door mensen met verschillende achtergronden aan het woord te laten. Algoritmes kunnen niet anders dan de wereld portretteren zoals die was."

Marathon

De wetenschapper ziet wel wat mogelijkheden tot verbetering. Maar niet veel. "Ik heb ooit een interessante lezing gehoord van een andere programmeur, die het vergeleek met trainen voor een marathon. Je kan jezelf verbeteren, maar je wordt nooit zo snel als olympisch kampioen Eliud Kipchoge. Er zit een grens aan. Dat geldt ook voor AI."

Hermans ziet dat ‘media en beleidsmakers’ AI presenteren als beroepenvervanger. "Dat is een beeld dat Silicon Valley over ons uitstrooit." Hermans verwijst naar de regio in Californië waar enkele van de grootste techbedrijven ter wereld zijn gevestigd. "Dan lees ik dat de leraar vervangen kan worden door AI, bijvoorbeeld omdat AI zelf collegesheets kan maken en omdat er nakijkrobots zijn. Maar dat is een splintertje van het werk, waarmee je het beroep platslaat. Dat brengt echt risico’s met zich mee. Want als Pietje altijd achten haalt en nu ineens vieren, dan moet je daar wat mee als leraar. Dan ga je in de pauze een koekje met hem eten, in plaats van rücksichtslos cijfers uitdelen."

Hermans heeft wel een idee waar het vandaan komt. "Zorg en onderwijs staan qua personeel onder druk. Dat is een voedingsbodem om zaken efficiënter en goedkoper te doen. Als er genoeg leraren zijn, is dit minder een thema."

Eigen expertise eerst

Het betekent niet dat AI onzinnig is. Het kan zeker nuttig zijn voor veel sectoren, zolang er maar bewustzijn is over de beperkingen, doceert Hermans. Daarvoor is allereerst meer kennis nodig. "Het zou niet zo’n punt zijn als iedereen veel van computers zou weten. Maar zolang mensen niet goed snappen hoe het in elkaar zit, kunnen ze er niet veilig mee werken. Ik blijf oreren tegen de bullshit van Silicon Valley-achtige figuren, die zeggen dat de sky the limit is en AI alle problemen gaat oplossen."

Hermans trekt een ontnuchterende conclusie. "Behandel AI als een stagiair die net uit school komt, als iemand die alles misschien niet goed heeft begrepen of onthouden. Het kan wel nuttig zijn, omdat AI soms dingen weet die jij niet weet." De mens moet altijd ‘de leider in het proces en inspiratie zijn’. Ze geeft een voorbeeld: "Stel: je bent een wetenschapper die op zoek is naar 100 eiwitten die de spijsvertering in het lichaam ondersteunen. AI geeft je die 100 eiwitten, waarvan er 97 onbruikbaar zijn, omdat ze bij het specifieke proces uit elkaar zouden vallen. Maar er zitten ook 3 interessante eiwitten tussen. Zolang de wetenschapper de kennis heeft om de onbruikbare eiwitten te filteren, kan deze AI prima in een lab gebruiken voor onderzoek om de spijsvertering te ondersteunen. Maar plaats het systeem niet boven je eigen expertise. Als ik AI vraag om een lang stuk samen te vatten, heb ik geen garantie dat de belangrijkste conclusie erin zit."

Op Hedy kan programmeren inmiddels onder meer in het Arabisch, Bengaals, Hindi, Engels, Frans, Italiaans, Spaans, Portugees, Nederlands en Duits. En sinds kort is daar het Setswana, de taal van Botswana, aan toegevoegd. Dat kwam doordat Hermans op congressen (online en fysiek) een Botswaanse wetenschapper ontmoette die daar werkt op een universiteit. Die had wel interesse in het voor kinderen toegankelijke platform. "Zij vond het interessant dat we het zelfs in Setswana zouden kunnen aanbieden."

Feyenoord-logo

Het zaadje dat daar werd geplant, is uitgegroeid tot een initiatief in Botswana voor programmeeronderwijs, waarvan Hedy het fundament is. Docenten van vierduizend scholen in Botswana zijn inmiddels getraind en vanaf februari start het programma officieel. Hermans is ook betrokken. "Ik heb meegedacht over hoe we het lesmateriaal cultureel konden aanpassen. In Rotterdam worden kinderen enthousiast van een Feyenoord-logo, hippe Nederlandse liedjes en de McDonalds. In Botswana worden ze enthousiast van een lokale voetbalclub."

Het Afrikaanse programma is een voorbeeld van internet zoals Hermans het zou willen: open, transparant, niet-polariserend en gestoeld op leren van elkaar. "Als je erover nadenkt, is het magisch dat ik zonder vertraging op duizenden kilometers afstand even kan buurten bij dat project."