Ondanks de toeslagenaffaire gebruiken nog altijd zeker 25 gemeenten voorspellende systemen en algoritmes om te kijken hoe groot de kans is dat iemand zal frauderen met bijvoorbeeld een bijstandsuitkering. Dat blijkt uit onderzoek door de NOS en enkele regionale omroepen.

De technologie wordt toegepast om sneller bijstandsfraude op te kunnen sporen, maar bijvoorbeeld ook om te voorspellen waar ondermijnende criminaliteit kan plaatsvinden. Dat lijkt handig en zinvol, maar deze vorm van risicoprofilering kan er ook toe leiden dat mensen ten onrechte worden verdacht. Daarom mocht het hiervoor ontwikkelde systeem SyRI niet langer worden gebruikt. Het gebruik van algoritmen heeft ook allerlei voordelen, zegt de Nederlandse Vereniging van Gemeenten. Maar ze moeten wel voldoen aan principes van zorgvuldigheid, transparantie en proportionaliteit en wat dat betreft kunnen gemeentes nog veel verbeteren, geeft de organisatie toe.

Fraudeur
Bij de 25 gemeenten worden de algoritmes ook gebruikt om de dienstverlening aan de burger te verbeteren. Soms gaat het nog om pilotprojecten. Maar er zijn ook gemeenten die de technologie inzetten om te berekenen hoe groot de kans is dat iemand fraudeert. Dat gebeurt onder andere in Brielle en Nissewaard en in Deventer op proef. Maastricht, Nederweert en Leudal gebruiken slimme algoritmen om ondermijnende criminaliteit op te sporen, terwijl daarmee in Dronten geëxperimenteerd wordt. De computers zijn hierbij in staat om vele verbanden te leggen en te onderzoeken, waardoor feiten veel sneller ontdekt worden, dan wanneer dergelijk onderzoek handmatig zou plaatsvinden. Aan de andere kant kan iemand die nog nooit gefraudeerd heeft, toch een hoog risicoprofiel krijgen en vaker worden gecontroleerd. Bijvoorbeeld vanwege een dubbele nationaliteit of een adres in de ‘verkeerde’ postcode. De gemeenten willen over het algemeen niets vertellen over de werking van de algoritmes. Daardoor is het lastig vast te stellen of er sprake is van discriminatie. Juristen vragen zich af of gemeenten zelf wel weten hoe de systemen werken, omdat zij die vaak van externe bedrijven betrekken. Bij de toeslagenaffaire werden veel mensen gestraft, nadat zij door technische systemen ten onrechte schuldig aan fraude waren bevonden.