Je leest: Gesnapt vóór de daad

Gesnapt vóór de daad

Misdaad voorkomen met slimme software: moeten we dat willen?

Auteur: | 9 november 2017

Steeds meer politiekorpsen gebruiken misdaadvoorspellende software om (potentiële) criminelen te stoppen voor ze toeslaan. Nederland wil zelfs als eerste land zo’n programma nationaal gaan inzetten. Maar volgens de documentaire Pre-Crime belanden we zo in een Big Brother-staat.

Stel, je wandelt na een leuke avond bij vrienden door de stad naar huis. Plotseling stopt er een politieauto naast je. De agenten die uitstappen zeggen dat ze je graag even willen fouilleren en in je tas willen kijken. Uit hun computersysteem blijkt namelijk dat je enkele vrienden hebt die in staat zouden zijn misdrijven te plegen. Ook viel het de computer op dat je je nu alwéér in een buurt ophoudt die de laatste tijd geteisterd is door straatroven. Of je anders even mee kunt komen naar het bureau?

Dit klinkt als sciencefiction. Maar in steeds meer steden in de wereld houden politiemensen burgers preventief aan op basis van misdaadvoorspellende software.

Waar misdaadkaarten traditioneel weergeven waar bepaalde misdaden gepleegd zijn, laten geografische misdaadpreventiesystemen juist zien waar de politie die kan verwachten.

Criminaliteits Preventie Systeem

Ook in Nederland is deze trend zichtbaar. Sterker nog, na succesvolle experimenten in onder meer Amsterdam en Enschede wil ons kikkerland als eerste land al zijn politiekorpsen laten werken met software die misdaad kan voorspellen. Dat kan met het zogenaamde Criminaliteits Preventie Systeem, ook wel kortweg CPS genoemd.

CPS laat politiemensen op kaartjes zien waar er in hun stad inbraken, straatroof, zakkenrollerij of gewelddadigheden zullen plaatsvinden – en ze zich dus naartoe moeten spoeden. CPS voorspelt die misdrijven aan de hand van politiedata als geregistreerde inbraken en aangiftes (daders slaan vaak opnieuw toe in dezelfde buurt), gecombineerd met gegevens van het Centraal Planbureau. Hieronder vallen bijvoorbeeld data als de samenstellingen van gezinnen in een bepaalde wijk en wie er een uitkering ontvangt.

Politiecijfers laten zien dat het aantal misdrijven flink daalde in steden die al met het systeem werkten. Bij straatovervallen voorspelde de computer bijna zestig procent correct, vertelde René Melchers, landelijk projectleider Predictive Policing, eerder aan dagblad NRC.

Moeten we ons dus in de handen wrijven met de komst van deze slimme detectiesoftware? Niet per se. De documentaire Pre-Crime laat zien dat de opkomst van misdaadpreventiesoftware, en het preventieve politieoptreden dat erop volgt, onze burgerrechten kan uithollen.

De Duitse documentaire Pre-Crime wordt op 8, 9 en 10 november 2017 op het InScience filmfestival in Nijmegen vertoond. Om je mee te nemen in de wereld van preventief politieoptreden op basis van softwarevoorspellingen, voert Pre-Crime je mee naar steden die al met misdaadpreventiesoftware werken, van Berlijn tot Kent en van Parijs tot Chicago en Los Angeles.

Uitgelicht door de redactie

Geesteswetenschappen
Zintuigen werken samen in verwerking van taal

Biologie
Jacht speelt belangrijke rol in afname grote zoogdieren

Maatschappijwetenschappen
Hoe moeilijk is punten tellen bij het Songfestival?

Pre-crime zoemt overigens niet alleen in op plaatsgerichte software à la het Nederlandse CPS. De documentaire neemt ook persoonsgerichte software, zoals dat van de politie van Chicago, onder de loep. Dit type computerprogramma stelt op basis van allerlei Big Data criminaliteitsrisicoprofielen op van burgers, waarna het agenten attendeert op de ‘hoogst risicovolle’ personen.

Rechtstaat

Preventief politieoptreden is een vaag begrip, zo blijkt in de documentaire al snel. Omdat misdaaddetectiesoftware een nieuw fenomeen is, hebben veel landen er nog geen wettelijke richtlijnen voor. Hierdoor kan het allerlei vormen aannemen, laat Pre-Crime zien.

Zo krijgt een vermeend bendelid in Chicago een brief van de politie. De man wordt gesommeerd weg te blijven van bepaalde plekken en personen. Doet hij dat niet dan kan hij opgepakt worden, bijvoorbeeld als er misdaden gepleegd worden en hij niet ingreep. Dat hij echt een bendelid is, kan de politie echter niet aantonen. Zulke instructies botsen met het recht om je vrij te verplaatsen en om om te gaan met wie je wilt.

Onze digitale sporen vormen belangrijke input voor persoonsgerichte misdaadpreventiesystemen. Van likes op Facebook en (zoek)voorkeuren in Google tot de informatie die sensoren en chips in onze mobieltjes of auto’s doorgeven over ons bewegingspatroon.

Maar ook politieacties als het ‘slechts’ fouilleren van schijnbaar verdachte mensen die zich ophouden in een gebied waar hoogstwaarschijnlijk een misdrijf gaat plaatsvinden, zorgen voor een ongemakkelijk gevoel. Mag dit wel, vraag je je als kijker af. De benaderde personen ervaren de politie-inmenging duidelijk als erg stressvol en de mensen hiervoor uitgepikt worden zijn telkens etnische minderheden.

Big Brother

En dan is er nog de verdere toekomst. De politie gebruikt criminaliteitspreventiesoftware nu nog om vermeende criminelen op andere gedachten te brengen (en/of mogelijke slachtoffers te waarschuwen). Maar daar hoeft het natuurlijk niet bij te blijven. Geleidelijk aan zou de focus van de politiesoftware zich kunnen verbreden tot andere typen burgers die de staat liever niet ziet. Anti-regeringsprotestanten bijvoorbeeld, zo suggereert Pre-Crime bij beelden van een demonstratie in Frankrijk.

Wat dit scenario des te griezeliger maakt, is dat de technische kennis om ontelbare burgers te volgen en te classificeren op basis van allerlei criteria binnen handbereik is. China hoopt in 2020 zijn burgers punten toe te kennen op basis van een elektronisch surveillancesysteem – met alle consequenties van dien voor burgers die slecht scoren.

Nederland

Nu lijkt veelomvattende staatscontrole op het eerst oog een ver-van-mijn-bedshow. We leven in een democratische rechtstaat, waar de overheid zich überhaupt geen toegang mag verschaffen tot onze digitale sporen – tenzij er een reële kans is dat we terroristen of zware misdadigers zouden zijn. Daarbij gebruikt de politie hier een plekgericht misdaadpreventiesysteem, waarin alleen burgers die zich toevallig nabij een plek bevinden waar hoogstwaarschijnlijk een bepaalde misdaad plaatsvindt in het vizier van (patrouillerende) politieagenten komen. Niet echt een beginpunt voor een uitgebreide surveillancestaat.

Hoe ver mogen politieagenten gaan in hun pogingen criminaliteit te voorkomen? Of zijn ‘pre-crime’-achtige interventies überhaupt niet ethisch, omdat ze uitgaan van iets fictiefs?

Afgaande op Pre-Crime moeten we ons hierdoor echter niet in slaap laten sussen. Persoonsgerichte criminaliteitspreventiesoftware kan gemakkelijk geïntegreerd worden in plekgerichtesoftware, vertelt een Duitse deskundige op het gebied van data en privacy in de documentaire. “Technisch gezien is dat heel gemakkelijk.” Daarbij wil de Nederlandse overheid met de onlangs voorgestelde – en erg omstreden – Sleepwet zich wel degelijk toegang gaan verschaffen tot de digitale data van al zijn burgers, ook van degenen die helemaal nergens van verdacht worden.

Een verschuiving van potentiele criminelen naar een bredere ‘doelgroep’ kan bovendien geleidelijk gaan. Zo merkt een Britse professor in Pre-Crime fijntjes op dat de Kentse politie zijn criminaliteitspreventiesoftware binnenkort ook inzet bij grenscontroles. “Maar migranten zijn toch echt een andere groep dan criminelen.”

In extreme scenario’s, kunnen criminaliteitspreventiesystemen een opstapje zijn naar een staat die steeds meer aspecten van ons gedrag in het oog houdt – en eventueel ingrijpt.

Beperkingen

Al met al kleven er dus flinke nadelen aan de inzet van slimme software om misdaad of misdadigers-to-be te voorspellen. Een Duitse deskundige vraagt zich in de film dan ook hardop af “waarom we in vredesnaam dergelijke algoritmes zouden willen hebben”.

Die vraag is echter minder retorisch dan hij lijkt. Als je dankzij een computer een terroristische daad kunt voorkomen die honderden mensen doodt of verwondt, is het dan niet stom – of misschien zelfs misdadig – dat niet te doen?

Zelfs de houding van de documentairemakers van Pre-Crime is hier en daar ambigu. Ze proberen je er als kijker op allerlei manieren van te doordringen dat ‘preventive policing’, en daarmee samenhangend ons gebrek aan digitale privacy, ongewenst is. Irritante onheilspellende muziekjes en eindeloze shots van bewegende camera’s, schuwen ze daarbij niet.

Tegelijkertijd laat Pre-Crime je de voordelen van misdaadpreventiesystemen goed zien. Door als het ware over de schouders van politiemensen mee te kijken, snap je bijvoorbeeld dat het voor hun veiligheid belangrijk kan zijn te weten wie er in een bepaald gebouw huist, wat slimme software nu mogelijk maakt.

Daarbij is het de vraag of de opkomst van dergelijke systemen nog te stuiten is. De documentairemakers maken de vergelijking met camera’s in de publieke ruimte. Konden we ons vroeger niet voorstellen dat we daarmee akkoord zouden gaan, nu zijn ze niet meer weg te denken uit onze risicomijdende hightech-maatschappij. De grote vraag die we onszelf moeten stellen, is daarom niet of misdaadpreventiesystemen wenselijk zijn, maar eerder welke vorm ze moeten hebben – en welke beperkingen.

Bronnen

Dit artikel is een publicatie van NEMO Kennislink.
© NEMO Kennislink, sommige rechten voorbehouden
Dit artikel publiceerde NEMO Kennislink op 09 november 2017

Discussieer mee

0

Vragen, opmerkingen of bijdragen over dit artikel of het onderwerp? Neem deel aan de discussie.

NEMO Kennislink nieuwsbrief
Ontvang elke week onze nieuwsbrief met het laatste nieuws uit de wetenschap.