Beveiligingnieuws Logo

Onze partners

Akuvox

Paxton

Regio Control Veldt

Brivo

VEB

Avigilon Alta

20face

Bydemes

Seris

NetworxConnect

Centurion

i-Pro

ARAS

G4S

ASSA ABLOY

Eagle Eye Networks

Milestone

De Beveiligingsjurist

Eizo

Service Centrale Nederland

Multiwacht

HD Security

CSL

PG Security Systems

Sequrix

SmartCell

SOBA

ADI

CDVI

SmartSD

Crown Security Services

Securitas

Secusoft

Traka ASSA ABLOY

Nenova

RoSecure

Bosch Security Systems

Oribi ID Solutions

JMB Groep

VVNL

Kiwa

Top Security

Add Secure

IDIS

Advancis

Connect Security

Seagate

Nimo Dog Security

SMC Alarmcentrale

Dero Security Products

Nimo Drone Security

Hikvision

VAIBS

Uniview

NIBHV

Explicate

Trigion

HID

Alarm Meldnet

BHVcertificaat.online

Unii

CardAccess

DZ Technologies

EAL

Gold-IP

Lobeco

VideoGuard

Masset Solutions

Hanwha Vision Europe

Optex

VBN

Ajax Systems

ASIS

2N

OSEC

Paraat

GFT

Alphatronics

Genetec

Deep fakes en taalmodellen steeds grotere dreiging

16 mei 2024
Redactie
10:17

In een steeds veranderend digitaal landschap en met de opkomst van gebruiksklare kunstmatige intelligentie (AI) wordt het steeds moeilijker om online scams te stoppen of te herkennen. Volgens cijfers van het CBS zijn er jaarlijks al 2,2 miljoen Nederlanders slachtoffer van online criminaliteit. Criminelen worden steeds innovatiever en gebruiken technologieën zoals deepfakes en grote taalmodellen (LLM’s) om mensen op te lichten. Rob Vink, Country Manager Benelux bij Biocatch, legt uit hoe criminelen deze technologieën gebruiken en hoe we dit probleem kunnen herkennen en aanpakken.

Hedendaagse technologieën als chatbots en GenAI zijn als een speelterrein voor criminelen. Met deze technologieën kunnen ze bijna perfecte imitaties van vertrouwde personen en organisaties creëren, waardoor oplichtingen een punt bereiken waarop detectie zonder externe hulp praktisch onmogelijk is. Door zich voor te doen als betrouwbare bron of autoriteit, weten oplichters mensen te misleiden om zo hun geld, persoonlijke informatie of digitale bezittingen te verkrijgen. Ze gebruiken verschillende tactieken zoals mogelijk interessante investeringen, aanbiedingen voor een baan, datingfraude en neppe technische ondersteuning.

Deepfakes en LLM’s
Naarmate technologieën vorderen, maken oplichters gebruik van opkomende tools zoals deepfakes en Large Language Models (LLM’s) om slachtoffers te manipuleren. Deepfakes gebruiken AI om beelden, video’s of audio te manipuleren en fictieve, maar overtuigende content te creëren. Ze kunnen neppe nieuwsberichten, interviews, aanbevelingen of bewijsmateriaal maken, vaak niet te onderscheiden van de realiteit. Zo wisten fraudeurs eerder dit jaar succesvol 24 miljoen euro te stelen door zich voor te doen als de financieel directeur van een internationaal bedrijf tijdens een videomeeting, maar waarbij alle deelnemers deepfakes waren.
Ook LLM’s kunnen natuurlijke teksten generen en bootsen specifieke stijlen of tonen na. Met deze technologieën kunnen criminelen op maat gemaakte scams opzetten om specifieke individuen of groepen te benaderen, waardoor de grens tussen echte en frauduleuze communicatie vervaagt.

Laagdrempelige tooling
Met toegankelijke tools zoals FraudGPT of WormGPT wordt het voor oplichters steeds gemakkelijker om aan de slag te gaan. Deze tools identificeren doelwitten efficiënt door specifieke criteria op te geven. Zo is het bijvoorbeeld mogelijk om een lijst van 100 senior executives in cybersecurity op te stellen, inclusief hun beschikbare gegevens. Verder kunnen ze kennissen in de persoonlijke kringen van slachtoffers identificeren, bijvoorbeeld door alle bekende familieleden op te sommen, en zijn de tools in staat om de relatie van het slachtoffer met vertrouwde contacten te onderzoeken door alle beschikbare communicatie te analyseren, inclusief die op sociale media.
Dat is nog niet alles. Deze tools kunnen zelfs geld vragen aan slachtoffers, bijvoorbeeld door een video van 30 seconden te tonen waarin ze worden aangemoedigd om een laptop te kopen van een aangewezen website. Tot slot zijn ze in staat een website op te zetten om betalingsgegevens te verzamelen, zoals een e-commerce platform voor laptops dat enkel betalingen met creditcards of bankkaarten accepteert. Naarmate LLM’s vorderen, wordt deze alles-in-één, laagdrempelige oplichtingspraktijk onvermijdelijk, wat de dringende behoefte aan verbeterde privacy- en beveiligingsmaatregelen benadrukt.

Wat is er tegen te doen?
Gezien de toenemende dreiging van deepfakes en LLM’s moeten zowel consumenten als bedrijven zich wapenen met innovatieve oplossingen. Door technologie te omarmen en samen te werken met belanghebbenden, kunnen bedrijven de capaciteit om toekomstige risico’s te identificeren en te bestrijden maximaliseren. Voor consumenten helpen watermerken, fact-checking tools en timestamps om authenticiteit vast te stellen. Zo kan een timestamp bijvoorbeeld aantonen wanneer een bepaald document precies is gemaakt of ondertekend.
Bovendien tonen gedragsbiometrische data ook veelbelovende resultaten om manipulatief gedrag en illegale betrokkenheid op te sporen. Met de toenemende complexiteit van oplichtingspraktijken zijn proactieve maatregelen noodzakelijk. Door alert te blijven en innovatieve oplossingen te gebruiken, kunnen we deze veranderende bedreigingen voor zijn.

Deel dit artikel via:

Vlog 6

Premium partners

Seagate

Suricat

Videoguard

Wordt een partner