Een boekhouder die door de directeur wordt gebeld met het verzoek om een hoog bedrag over te maken, kan er niet meer zeker van zijn dat hij ook werkelijk zijn directeur aan de lijn heeft. Met kunstmatige intelligentie zijn stemmen tegenwoordig perfect na te bootsen.

Het nieuwe fenomeen heet voice cloning. In de Verenigde Staten is dit inmiddels een serieus probleem geworden en de kans is groot dat deze oplichtingsmethode snel naar Europa overwaait. Vaak gaat het om de zogenoemde ‘kind in nood’-fraude. Ouders denken hun kind aan de telefoon te hebben dat iets ergs heeft meegemaakt en dringend geld nodig heeft. De Nederlandse politie verwacht dat dit ook snel in Nederland een groot probleem gaat worden, nu kunstmatige intelligentie een razendsnelle opmars maakt en er diensten komen die de technische uitdagingen van voice cloning uit handen nemen.

Niet bij te benen
Jan Struijs, voorzitter van de Nederlandse Politiebond, zegt tegenover het AD al verontrustende signalen van rechercheurs te krijgen. De politie kan volgens hem de technische ontwikkelingen niet bijbenen en heeft dringend behoefte aan extra digitale rechercheurs en analisten. Ook de Fraudehelpdesk waarschuwt dat het steeds moeilijker zal worden om te onderscheiden wat echt en wat nep is. Het advies is om codewoorden af te spreken of een vraag te stellen die alleen de persoon aan de andere kant van de lijn kan beantwoorden. Maar deskundigen waarschuwen dat criminelen daar al op voorbereid zijn en het slachtoffer zodanig onder druk zetten, dat dit niet aan codewoorden of controlevragen zal denken. AI-deskundige Henk van Ess pleit voor een meer fundamentele oplossing, zoals slimme techniek om een stem te verifiëren. Ook zouden commerciële diensten die stemmen clonen verplicht moeten worden om na te gaan of hun klant bonafide is. Dave Maasland, ceo van het beveiligingsbedrijf ESET, pleit in het AD voor invoering van digitale geletterdheid op scholen, zodat kinderen al worden voorbereid op de uitdagingen van moderne criminaliteit.