Omdat technologie voor gezichtsherkenning kan worden misbruikt, is IBM gestopt met de ontwikkeling ervan. Dat maakt directeur Arvind Krishna bekend aan het Amerikaanse congres. Het bedrijf wil voorkomen dat haar producten gebruikt worden voor onder andere etnisch profileren en massasurveillance.

IBM verklaart een groot tegenstander te zijn van massasurveillance en etnisch profileren en hoopt met het gebaar aanleiding te geven voor een politieke discussie over de manier waarop overheden gebruik zouden moeten maken van gezichtsherkenning met behulp van bewakingscamera’s. Krishna erkent dat de technologie ook te gebruiken is om de maatschappij veiliger te maken, maar vindt dat kritisch gekeken moet worden naar de mogelijkheden om kunstmatige intelligentie te misbruiken. Zolang dat niet gebeurt wil IBM niet verder bijdragen aan de ontwikkeling van gezichtsherkenning.

Omstreden
Het gebaar van IBM zal niet geheel toevallig samenvallen met de grootschalige protesten tegen rassenhaat, die momenteel wereldwijd plaatsvinden. Gezichtsherkenning is echter al langere tijd omstreden. Zo wordt de Chinese regering ervan beschuldigd de technologie in te zetten om islamitische minderheden beter te kunnen onderdrukken. Reden voor de Amerikaanse regering om producten van Chinese camerafabrikanten te boycotten. Het is niet uit te sluiten dat het humanitaire beleid van IBM bedoeld is om een dergelijke boycot voor te blijven. Er is veel kritiek op handhaving met behulp van automatische gezichtsherkenning, omdat burgers hun recht op privacy verliezen en omdat door onnauwkeurigheid van de systemen mensen onterecht verdacht kunnen worden.

Clearview
Recent was er nog grote ophef over het bedrijf Clearview. Dat verzamelt foto’s en persoonsgegevens van internet en verkoopt die. Onder andere Amerikaanse politiediensten gebruiken de dienstverlening van Clearview om met behulp van bewakingscamera’s gezochte personen op te sporen. Als bijvangst kunnen echter ook mensen worden gevolgd die nergens van worden verdacht. Wat dat betreft is Amerika ten aanzien van de Chinezen een beetje de pot die de ketel verwijt dat deze zwart ziet. Ook IBM is een keer aardig de fout in gegaan. Om de software voor gezichtsherkenning te testen, had het zonder toestemming foto’s van de fotowebsite Flickr.com gebruikt.