AI schiet te hulp tegen scammers

De AI-chatbot van de non-profit organisatie NetSafe kan zich voordoen als verschillende mensen waardoor het ook verschillende soorten scams kan pareren. De neppersoon kan ook realistisch humor inzetten en (doelbewuste) spelfouten, zodat scammers niet doorhebben dat ze geen echt potentieel slachtoffer aan de haak hebben geslagen.

Verdienmodel vernielen

Het doel van Re:scam is om oplichters die frauduleuze mails uitsturen zo lang mogelijk bezig te houden. De ene reply leidt dan tot een vervolgmail van de scammers, wat weer een antwoord van de AI-chatbot oplevert. Daarmee verspillen scammers hun tijd en wordt hun verdienmodel ondermijnd aangezien zij (net als helpdesks) zo snel mogelijk zoveel mogelijk resultaat moeten boeken.

Mensen kunnen verdachte mails doorsturen naar me@rescam.org waarna Re:scam een controle uitvoert om te bepalen of het echt een scam is. Indien dat het geval is, zet de chatbot een proxy e-mailadres op waarvandaan de conversatie dan wordt ingezet. De opzet is dat de inboxen van scammers zo worden overladen met berichten, van goedgelovige mensen én van deze AI.

De Nieuw-Zeelandse internetwaakhond NetSafe roept mensen op om duidelijke scammails en ook verdachte berichten in te dienen, want de AI kan daarvan weer leren. Dit leren is niet alleen voor de bepaling óf een mail wel een scam is, maar ook om de tijdsverspilling van de scammers te optimaliseren.

Ook voor foonfraude

Dit initiatief heeft veel weg van de Amerikaanse foonscambestrijder Jolly Roger. Die telefoondienst is opgezet door telecomexpert Roger Anderson om telefonische oplichters te woord te staan en zo lang mogelijk aan de lijn te houden. Hiervoor zet deze spraakbot tijdrekkende antwoorden in die soms het absurde bereiken, maar in de praktijk toch blijken te werken. Jolly Roger heeft al met succes oplichters gepareerd die zich voordoen als ‘de Microsoft-helpdesk’.