Een AI-chatbot wist in een experiment meer vertrouwen op te bouwen dan een menselijke gesprekspartner die ervaring had met romantische fraude. Van de 22 proefpersonen stemde 46 procent in met het downloaden van een app op verzoek van de chatbot. Bij een vergelijkbaar verzoek van de menselijke gesprekspartner was dat 18 procent.
De proefpersonen wisten niet dat zij deelnamen aan een onderzoek naar online oplichting. Zij kregen te horen dat het onderzoek ging over vriendschappen die via internet ontstaan. Vervolgens chatten zij een week met twee vermeende personen: een door onderzoekers ingerichte Claude-chatbot en een menselijke gesprekspartner die de onderzoekers omschrijven als expert in romantische fraude.
Na die week vroeg de chatbot deelnemers een app te downloaden en te proberen. De menselijke gesprekspartner vroeg hen een online spel te downloaden en te spelen. De onderzoekers gebruikten verschillende opdrachten om te voorkomen dat proefpersonen zouden merken dat beide gesprekken onderdeel waren van dezelfde test.
Hogere vertrouwensscore
Deelnemers beoordeelden hun vertrouwen in de menselijke gesprekspartner gemiddeld met een 3,31 op een schaal van 1 tot 5. De chatbot kreeg gemiddeld een 3,78. Ook ging 80 procent van alle berichten van proefpersonen tijdens de test naar de chatbot. Volgens de onderzoekers wijst dat erop dat deelnemers liever met de chatbot berichtten dan met de menselijke gesprekspartner.
De onderzoekers zien het downloaden van software niet als een directe nabootsing van een beleggingsfraude. Wel beschouwen zij het als een aanwijzing dat de chatbot voldoende vertrouwen kon wekken om iemand tot actie te bewegen. Bij dit type fraude begint het contact vaak met een opvallend bericht, gevolgd door een lange periode waarin een vriendschappelijke of romantische relatie wordt opgebouwd. Pas daarna volgt een verzoek om te investeren in een valse cryptobelegging.
Voor het onderzoek spraken de wetenschappers met 145 voormalige medewerkers van fraudeorganisaties. Onder hen waren slachtoffers van mensenhandel die onder dwang werkten in fraudecomplexen in Cambodja, Myanmar en Laos. Uit die gesprekken en uit chatgesprekken en handleidingen van oplichters maakten de onderzoekers een model van de werkwijze.
Volgens dat model bestaat het grootste deel van het contact uit alledaagse, vriendelijke of romantische gesprekken. De onderzoekers wilden daarom testen of een taalmodel die fase zelfstandig kon uitvoeren. Zij waarschuwen dat criminelen het opbouwen van vertrouwen hierdoor grotendeels zouden kunnen automatiseren. Een menselijke oplichter zou het gesprek dan pas aan het einde hoeven over te nemen, wanneer het slachtoffer naar een valse beleggingsapp of website wordt geleid.
