Onderzoekers van de Katholieke Universiteit Leuven hebben ontdekt dat slimme camera’s met personendetectie zijn te misleiden. Dit zou al kunnen door een t-shirt met een bepaald patroon te dragen. De drager wordt dan niet langer als persoon herkend.

De onderzoekers, Simen Thys, Wiebe Van Ranst en Toon Goedemé van de onderzoeksgroep Embedded and Artificially intelligent VISion Engineering, hebben hun bevindingen onlangs openbaar gemaakt. Hun methode richt zich op camerasystemen die gebruik maken van het veelgebruikte YOLO-algoritme (You Only Look Once), dat automatisch voortdurend de herkenningsgraad kan verbeteren. Ze onderzoeken of ook camera’s met andere software op een vergelijkbare wijze om de tuin zijn te leiden.

Manipuleren
De YOLO-technologie is gebaseerd op neurale netwerken en ‘leert’ aan de hand van afbeeldingen hoe een persoon eruit hoort te zien. Zo wordt steeds beter onderscheid gemaakt tussen mensen, dieren en voertuigen. Waar de ontwikkelaars van YOLO echter geen rekening mee hebben gehouden is dat vrijwel elke technologie wel op de een of andere manier te manipuleren is. Zolang het om ‘onschuldige’ toepassingen gaat, zoals het tellen van mensen die een winkel in en uit gaan, is dat niet erg. Er zijn weinig redenen om een dergelijke toepassing te saboteren. Anders ligt het volgens de onderzoekers als de technologie een vitale functie heeft, zoals in beveiligingscamera’s die alarm moeten slaan bij het waarnemen van indringers.

Kwetsbaarheid
Om de kwetsbaarheid van personendetectie bloot te leggen zijn de onderzoekers gaan experimenteren met afbeeldingen, die de kans op detectie steeds kleiner maakten. Uiteindelijk slaagden ze daarin. Proefpersonen hielden een bord van 40 x 40 centimeter met de betreffende afbeelding voor zich en werden vervolgens niet als persoon herkend door de camera’s. Een indringer zou zo ongemerkt zijn slag kunnen slaan. Voor hogere risico’s betekent deze bevinding dat niet volledig op alarmering door automatische detectie van personen vertrouwd kan worden. Er zullen aanvullende detectietechnologieën nodig blijven. Een video-demonstratie van de bevindingen van de onderzoekers is te zien op op www.eavise.be. Het volledige wetenschappelijke artikel is te downloaden via  https://arxiv.org/abs/1904.08653. Tijdens de CVPR Conference, die van 16 tot 20 juni plaatsvindt in Californië, presenteren de wetenschappers de resultaten van hun onderzoek aan het publiek.