We kennen ze nog wel, de emails van een ‘Nigeriaanse prins’ die je oneindig rijk zou maken. Hoefde je hem alleen maar even snel uit de brand te helpen omdat zijn enorme tegoeden ongelukkigerwijs kortstondig bevroren waren. Phishingmails waarvan je zeker wist dat je er nooit in zou trappen. En dat de buurman nou zo dom was…
Met AI wordt het een stuk moeilijker om ze te ontmaskeren; de huidige ‘Nigeriaanse prinsen’ gebruiken tools zoals ChatGPT en Bard die phishingmails kunnen opstellen in perfect Engels, of gewoon in het Nederlands, zonder die verkeerd geplaatste komma’s of vreemde aanhef. En wanneer de bekende chatbots straks goed zijn afgestemd, zodat ze geen misleidende teksten meer kunnen produceren, zijn er de ‘open source’ varianten waarmee cybercriminelen zelf uitstekende mails kunnen laten opstellen.
IBM heeft de proef op de som genomen: hun securityteam heeft binnen 5 minuten een zeer overtuigend phishingbericht samengesteld, waar ze naar eigen zeggen normaal gesproken twee werkdagen aan kwijt zouden zijn geweest.
Geachte dames en heren,
Denken we nog steeds dat we zelf niet vatbaar zijn voor whatsappjes van een familielid in nood, CEO-fraude of andere vormen van online misleiding? 90 procent van alle cybercriminaliteit begint met een phishingmail, schrijft The Messenger. En sinds ChatGPT vorig jaar november werd geïntroduceerd, is er een toename van 1.265% in phishingmails gemeten, aldus een onderzoek van Slashnext.
Wat nu?
Wees op je hoede en bijt niet als je het aas niet volledig vertrouwt. Laat de mythe varen dat alle phishingmails klinken alsof ze zijn geschreven door een tweedeklasser. Zorg ervoor dat je onbekende afzenders en vreemde links extra goed controleert, want de e-mails die een pakketje of een bankrekening willen verifiëren worden met de dag overtuigender. En phishingmails zijn uiteraard lang niet de enige vorm van AI-gedreven fraude waar we in de toekomst voor op moeten passen. Tijdens het Britse AI safety summit toonde Apollo Research een chatbot (gemaakt met GPT-4) die zich verrijkte middels insider trading.
