De Nederlandse politie moet een einde maken aan het gebruik van algoritmische systemen die leiden tot massasurveillance en etnisch profileren. Dat stelt Amnesty International in een vandaag verschenen rapport dat de mensenrechtenrisico’s van ‘predictive policing’ blootlegt.

Het rapport We Sense Trouble: Automated Discrimination and Mass Surveillance in Predictive Policing in the Netherlands beschrijft de gevaren van ‘predictive policing’, een werkwijze die steeds meer wordt gebruikt door de Nederlandse politie. De predictive policing-projecten, die de politie ‘proeftuinen’ noemt, gebruiken wiskundige modellen om het risico in te schatten dat door een bepaalde persoon of op een bepaalde locatie een strafbaar feit wordt gepleegd. De politie richt haar inzet vervolgens op de personen of locaties die aangemerkt worden als ‘hoog risico’.

Sensing-project in Roermond
Een van de voorbeelden is volgens Amnesty het Sensing-project in Roermond. Bij dit project probeert de politie mobiel banditisme in Roermond tegen te gaan door gegevens te registreren van alle voertuigen die in en rond de Limburgse stad rijden. De politie gebruikt de term ‘mobiel banditisme’ voor verschillende vermogensdelicten, waaronder ook zakkenrollerij en winkeldiefstal. Het zouden vooral mensen uit Oost-Europese landen zijn die zich hieraan schuldig maken. “Wat tot voor kort in sciencefiction-films te zien was, is werkelijkheid geworden voor miljoenen mensen in Nederland”, zegt Merel Koning, senior beleidsadviseur technologie en mensenrechten bij Amnesty International. “Dit predictive policing-project onderwerpt mensen aan massasurveillance. Dat is nooit gerechtvaardigd.”

Onvoldoende bescherming
Volgens de mensenrechtenorganisatie houdt de politie met camera’s en andere sensoren systematisch alle mensen in de gaten die in en rond Roermond rijden. Daarbij wordt informatie verzameld over de voertuigen en hun bewegingspatronen. Deze gegevens worden vervolgens verwerkt in een algoritmisch model dat een ‘risicoscore’ berekent voor ieder voertuig. De politie gelooft dat dit informatie geeft over de kans dat bepaalde bestuurders en inzittenden in de stad zijn om een strafbaar feit te plegen.
Als een voertuig als ‘hoog risico’ wordt aangemerkt, probeert de politie de auto staande te houden om de bestuurder en de inzittenden te controleren. De Nederlandse wet beschermt mensen onvoldoende tegen dit soort willekeurige en discriminerende politiecontroles, aldus Amnesty International.

Proefkonijnen
“De inwoners van Roermond en mensen die naar deze stad reizen, worden eigenlijk gebruikt als proefkonijn in een experiment waarvoor ze geen toestemming hebben gegeven. Het Sensing-project leidt tot een schending van hun recht op privacy, databescherming en non-discriminatie”, aldus Merel Koning.
Predictive policing-methodes worden vaak aangeprezen als ‘objectief’ en ‘neutraal’. Ook volgens de Nederlandse politie is het systeem neutraal en gebaseerd op objectieve criminaliteitscijfers. Dit klopt volgens Amnesty International echter niet. Vooroordelen en stereotypen beïnvloeden namelijk de modellen en algoritmes en dat leidt tot discriminerende uitkomsten met hogere risicoscores voor bepaalde maatschappelijke bevolkingsgroepen, zoals in dit geval mensen uit Oost-Europa. De mensenrechtenorganisatie wil daarom dat de sensing-experimenten gestaakt worden, zolang er nog geen verplichte, bindende mensenrechtentoets is voor het gebruik ervan.