UvA en NFI doen onderzoek naar herkennen deepfakes

Het Nederlands Forensisch Instituut en de Universiteit van Amsterdam gaan onderzoek doen naar criminaliteit met deepfakes en verborgen berichten. Iemand kan bijvoorbeeld gechanteerd worden met pornobeelden, waarbij zijn of haar gezicht in de film is gemonteerd.

Gezichten van bekende Nederlanders of het gezicht van een onwelgevallige ex plakken op lichamen in pornofilms. Iemand afpersen door het tonen van gemanipuleerde beelden van een ontvoerd kind. Of met een verhulde boodschap in een foto laten weten in welke container cocaïne verstopt zit. De techniek om deepfakes of verborgen berichten te maken, blijft zich ontwikkelen. Ook criminelen maken hier gebruik van, waarschuwen politie en OM. Het Nederlands Forensisch Instituut (NFI) en de Universiteit van Amsterdam (UvA) hebben de handen ineengeslagen om gezamenlijk onderzoek te doen naar computermodellen om deepfakes en verborgen berichten te helpen herkennen.

Artificial Intelligence in forensische bewijsvoering
Dat onderzoek gaat plaatsvinden in een onderzoekslab bij het ICAI – Innovation Center for Artificial Intelligence. De UvA en het NFI ondertekenden afgelopen week een ‘Letter of Intent’. Het gezamenlijk onderzoek richt zich op de toepassing van Artificial Intelligence (AI) in forensische bewijsvoering. Zoals het ontwikkelen van computermodellen voor het herkennen van deepfakes en het doen van onderzoek naar de toepassing van AI bij het herkennen van verborgen berichten (steganography). Of de toepassing van AI bij spraakherkenning of het uitlezen van data uit auto’s. De samenwerking wordt de komende tijd verder uitgebouwd naar een zelfstandig forensisch onderzoekslab binnen het ICAI.

Deepfakes in kinderporno
Criminelen maken steeds vaker gebruik van deepfakes, signaleert prof. dr. Zeno Geradts, één van de initiatiefnemers van het lab en onderzoeker bij NFI en bijzonder hoogleraar Forensic Data Science aan de Faculteit der Natuurwetenschappen, Wiskunde en Informatica van de UvA: “Het wordt bijvoorbeeld toegepast om volwassenen in kinderpornofilms onherkenbaar te maken. Of om meningen te beïnvloeden met door de computer gecreëerde personen. Het is bijna onmogelijk om echte en deepfake video’s met het blote oog van elkaar te onderscheiden.” De huidige computermodellen kunnen deepfake in ongeveer acht op de tien video’s herkennen, aldus Geradts: “Dat is nog altijd in twee op de tien video’s niet, terwijl je eigenlijk zou willen dat minstens 99,5 procent van de deepfakes eruit worden gehaald.”

‘Meer onderzoek naar deepfakes nodig’
“Er is meer onderzoek nodig om deepfake video’s te kunnen onderscheiden van echte video’s”, vult Marcel Worring, hoogleraar Multimedia Analytics aan de UvA, Geradts aan: “90 procent van alle investeringen in deepfakes gaat naar het verbeteren van de techniek. Slechts 10 procent van de investeringen gaat naar onderzoek om deepfakes te herkennen en dan wordt er slechts heel beperkt gekeken naar de forensische bewijswaarde. Dat is echt veel te weinig.”

Herkennen verborgen boodschappen in video’s
Er is naast meer onderzoek naar deepfakes, ook meer onderzoek nodig naar steganography. Dat is het verbergen van boodschappen in foto’s en video’s. Criminelen kunnen gebruik maken van steganography, bijvoorbeeld over wanneer en waar een lading drugs aankomt. “Een ouderwets voorbeeld van een verborgen boodschap kan zijn dat de eerste letter van woorden in een zin gezamenlijk een nieuw woord vormen. Maar tegenwoordig maken ze ook video’s waar boodschappen digitaal in zijn verborgen”, zegt Geradts. “Het zou handig zijn wanneer computers kunnen helpen die berichten te herkennen. Met AI kan je computers leren om dit soort verborgen berichten te herkennen, door ze te trainen op bepaalde afwijkingen.”

Onderzoeken naar spraak, auto’s en mobiele telefoons
Een derde project gaat zich richten op het verbeteren van de bewijsvoering bij spraakherkenning, door het combineren van de herkenning met bijvoorbeeld locatiegegevens op de mobiele telefoon. De UvA en het NFI richten zich verder op het ontwikkelen van tools om nog beter informatie op bijvoorbeeld telefoons te kunnen doorzoeken. Daarnaast wordt er een promovendus aangesteld die in samenwerking met de politie onderzoek gaat doen naar informatie die auto’s kunnen opleveren. Auto’s bevatten bijvoorbeeld steeds meer sensoren. Die kunnen interessante informatie opleveren voor bewijsvoering in strafzaken.

Kruisbestuiving wetenschap en forensische praktijk
De focus van het wetenschappelijk onderzoek is de bewijswaarde in digitaal forensisch onderzoek. Dus wat zeggen de data, gerelateerd aan de onzekere relatie tussen de aangetroffen digitale sporen en (het handelen van) een verdachte, ook gezien de anti-forensic software die steeds meer voorhanden is. De onderzoeken vinden plaats in afstemming met de politie, het Openbaar Ministerie en de rechtspraak. Dr. Annemieke de Vries, directeur wetenschap en technologie bij het NFI is groot voorstander van samenwerking tussen het NFI met universiteiten. “De bedoeling is dat er een soort kruisbestuiving komt. Het NFI heeft veel forensische kennis uit de praktijk. Onderzoekers van de UvA hebben vaak kennis hebben van de nieuwste methodes, die kunnen worden toegepast op de praktijk. Het NFI wil ook de meest nieuwe ontwikkelingen kunnen gebruiken in strafrechtelijke onderzoeken van politie en OM. Je hebt elkaars kennis en expertise nodig om de forensische vraag van nu en de toekomst te kunnen beantwoorden.” Prof. dr. Peter van Tienderen, decaan van de bètafaculteit van de UvA sluit zich daarbij aan: “De samenwerking binnen een lab met het NFI past uitstekend bij de Amsterdamse visie AI Technology for People: met onze partners ontwikkelen we digitale technologieën die misbruik voorkomen en ten goede komen aan de maatschappij.”

Bron: NFI.

Gedeeld

Geef een antwoord