Cybersecurity-experts van SoSafe waarschuwen dat AI betere phishing-mails kan schrijven dan mensen. Onderzoek van SoSafe toont aan dat deze dreiging inmiddels de realiteit is. Uit de resultaten blijkt dat AI-gegenereerde phishing-mails door 78 procent van de mensen geopend wordt en dat 21 procent op schadelijke links in de mails klikt.

Daarnaast werd zelfs 65 procent van de ontvangers van de met kunstmatige intelligentie (AI) gegenereerde mails verleid tot het invoeren van persoonlijke gegevens op invulvelden van de gelinkte websites. Door mensen opgestelde phishing-mails worden door eenzelfde percentage geopend. En hoewel de clickrate bij handmatige phishing iets hoger ligt (27 procent), is er bij deze mails minder interactie (60 procent) in de vorm van het geven van aanvullende (persoonlijke) gegevens. Deze cijfers laten zien dat mensen door AI-gegenereerde phishing-mails niet kunnen onderscheiden van handmatige phishingaanvallen.

Nog gevaarlijker
Dr. Niklas Hellemann, CEO en mede-oprichter van SoSafe: “De resultaten zijn opvallend omdat we de mails hebben opgesteld met het ChatGPT-3.5 model, met algemene thema’s en onderwerpen. Zelfs met deze basis AI-gegenereerde phishing-sjablonen blijkt uit onze gegevens dat mensen moeite hebben met het herkennen van AI-gegenereerde phishing-aanvallen. Naarmate de technologie vordert met geavanceerdere modellen zoals Chat GPT-4 en geschaalde personalisatie, verwachten we dat aanvallen nog gevaarlijker worden, want het grootste gevaar schuilt in de potentiële schaalgrootte.”

Sneller hoogwaardige phishing-mails versturen
Uit het onderzoek van het SoSafe-social engineering-team blijkt dat hackersgroepen phishing-mails minstens 40 procent sneller kunnen samenstellen met generatieve AI-tools. Dit houdt in dat cybercriminelen zelfs met eenvoudige tools hun succespercentage aanzienlijk kunnen verhogen. Tegelijkertijd wordt het door generatieve AI makkelijker om op grote schaal spear phishing-aanvallen uit te voeren. Door AI-tools te voeden met persoonlijke informatie wordt het mogelijk spear phishing-aanvallen van hoge kwaliteit uit te voeren, zelfs in grote aantallen. Bovendien kunnen generatieve AI-tools cybercriminelen ook helpen bij het bedenken van nieuwe ideeën. Hackers kunnen hierdoor veel sneller dan voorheen grote hoeveelheden hoogwaardige phishing e-mails in meerdere talen versturen. Grootschalige phishingaanvallen worden zo dus efficiënter en effectiever.

Technologie blijft zich ontwikkelen
“De opkomst van AI-aangedreven ‘large language-modellen’ en potentiële schaalgroottes die daarbij komen kijken, intensiveert het landschap van cyberdreigingen”, aldus Hellemann. “De eerste studies laten zien dat AI nu al betere phishing-mails schrijft dan mensen. Onze data illustreren de gevolgen daarvan met 1 op de 5 mensen die nu al vallen voor AI-gegenereerde phishing-aanvallen.”
Helleman geeft aan dat dit zelfs nog maar het begin is. “De technologie zal zich blijven ontwikkelen en cybercriminelen steeds meer mogelijkheden bieden. De overgang van Chat GPT-3 naar Chat GPT-4 heeft de mogelijkheden voor personalisering in grote aantallen sterk vergroot. We testen deze technologie momenteel en verwachten binnenkort verdere resultaten daarvan. Het is essentieel dat organisaties gelijke tred houden met deze ontwikkeling en hun werknemers bewuster maken van cyberdreigingen, de impact van nieuwe technologieën om deze te detecteren, en aanvallen op te merken en te rapporteren.”

Over het onderzoek
Responsgegevens van het SoSafe Awareness Platform dat in maart 2023 anoniem ongeveer 1.500 gesimuleerde phishingaanvallen heeft geëvalueerd en de kans op succes van door AI gegenereerde phishing-sjablonen (n= 747) heeft geanalyseerd in vergelijking met door mensen gegenereerde phishing-sjablonen (n= 746). De AI-gegenereerde phishingsjablonen zijn gebouwd met behulp van het Chat GPT-3.5-model zonder gepersonaliseerde elementen. SoSafe werkt momenteel aan verder onderzoek met behulp van geavanceerde technologieën zoals Chat GPT-4. De open rate is het gemiddelde percentage geopende e-mails op basis van afgeleverde e-mails. Het klikpercentage is het gemiddelde percentage van het aantal afgeleverde e-mails waar op inhoud, zoals links of bijlagen, werd geklikt. Het interactiepercentage beschrijft het percentage mensen dat verdere informatie (bv. wachtwoorden) vrijgaf in invoervelden op een gekoppelde website.