D66 wil dat er regelgeving komt voor het gebruik van vergaande algoritmes en gezichtsherkenning door de overheid. Zolang die regelgeving er niet is, wil de partij dat gebruik van de technologie verboden wordt. Het gaat Kamerlid Kees Verhoeven onder andere om het omstreden programma SyRI.

De overheid gebruikt steeds meer slimme technologie om fraudeurs en andere criminelen te kunnen opsporen. Volgens Kees Verhoeven van D66 gaat dat ook ten koste van mensen die niet crimineel zijn, maar die toevallig in de ‘verkeerde buurt’ wonen. Drie weken geleden diende hier nog een rechtszaak over, omdat mensen vanwege hun postcode ten onrechte werden verdacht van bijstandsfraude. Pas in januari doet de rechter uitspraak. Dit is niet de enige kwestie, aldus Verhoeven. Afgelopen zomer kwam nog naar buiten dat veel overheden op eigen houtje voorspellende algoritmes blijken te gebruiken om fraude en criminaliteit op te sporen, in te schatten wat de kans is dat een leerling voortijdig zijn school verlaat of om te voorspellen wat voor zorg iemand nodig heeft. D66, maar ook CDA pleiten voor een algoritme-waakhond om de rechten van onschuldige mensen te beschermen.

Gezichtsherkenning
Verhoeven vreest ook voor een ongebreidelde groei van gezichtsherkenning. Hij zegt weliswaar nog geen aanwijzingen te hebben dat bijvoorbeeld de politie gezichtsherkenning aan beveiligingscamera’s koppelt, zodat verdachten op straat automatisch worden gesignaleerd. Maar hij vindt dat nu alvast nagedacht moet worden over de grenzen die we willen stellen. Hij refereert daarbij naar China, waar de regering gezichtsherkenning zou gebruiken om onderdrukte minderheden in de gaten te houden en mensen te bestraffen die herhaaldelijk het rode verkeerslicht negeren. Vandaag komt Verhoeven in de Tweede Kamer met een aantal voorstellen om het gebruik van gezichtsherkenning en slimme algoritmen te reguleren met wetgeving.

Strafrechtsketendatabank
De politie maakt sinds 2016 gebruik van speciale software om aangehouden verdachten te zoeken in de Strafrechtsketendatabank (SKDB) waarin de foto’s zijn opgeslagen van 1,3 miljoen personen die verdacht worden van een misdrijf waarop minimaal 4 jaar cel staat. Vorig jaar konden op deze manier 82 verdachten worden geïdentificeerd. In 2017 ging het nog om 93 personen, zo laat nu.nl weten. Sinds de ingebruikname is de software 1938 keer gebruikt, waarvan 175 keer met succes. Er worden ook beelden ingevoerd van verdachten die met bewakingscamera’s zijn gemaakt. Een politieambtenaar controleert altijd nog of de verdachte werkelijk degene is met wie een ‘match’ in de SKDB is aangetroffen. Voor zover bekend worden nog geen willekeurige passanten met de database vergeleken, ofschoon dat technisch wel zou kunnen.