De Amerikaanse mensenrechtenorganisatie ACLU heeft een klacht ingediend tegen de politie van Detroit. De reden is de arrestatie van een donkergekleurde man, die door gezichtsherkenningssoftware werd aangezien voor een crimineel. De fout werd pas de volgende dag ontdekt.

Het is al eens eerder vastgesteld dat gezichtsherkenningssoftware minder goed werkt bij mensen met een donkere huidskleur. Toch is een dergelijk incident niet eerder voorgekomen. De arrestatie van Robert Williams vond plaats in januari. Hij werd aangezien voor iemand die in 2018 een juwelierswinkel had overvallen. Het leverde hem een nacht in de politiecel op. Van de echte overvaller waren screenshots gemaakt met het camerasysteem van de juwelier. Deze werden opgeslagen in een database met nog 49 miljoen andere gezichten. Kennelijk had Williams sterke uiterlijke overeenkomsten met de overvaller, want het duurde 30 uur voordat de politie ervan overtuigd was dat er een vergissing in het spel was.
Volgens de mensenrechtenorganisatie had de politie niet blindelings af mogen gaan op het oordeel van de gezichtsherkenningssoftware. De methode is al verschillende keren in opspraak gekomen. Zo bleek het bedrijf ClearView op grote schaal van sociale media gekopieerde gezichten aan de politie te verkopen, waardoor ook onschuldige mensen in een database kwamen te staan. Bedrijven als Amazon, IBM en Microsoft besloten onlangs geen gezichtsherkenningssoftware meer aan de politie te leveren, zolang er geen goede waarborgen zijn voor bescherming van de rechten van betrokkenen.