Een statistische indruk van begrip
Grote taalmodellen zijn volgens de analyse geen kunstmatige hersenen. Ze verwerken tekst als reeksen tokens en berekenen welke woorden waarschijnlijk volgen op de invoer. Daarmee kunnen ze overtuigende antwoorden formuleren, maar dat bewijst niet dat ze denken, redeneren of de gebruiker werkelijk begrijpen.
De indruk van intelligentie zou vooral bij de gebruiker ontstaan. De auteur ziet daarvoor twee mogelijke verklaringen: de technologie heeft onverwacht een geheel nieuw soort geest voortgebracht, of mensen schrijven intelligentie toe aan een systeem dat daar zelf niet over beschikt. De analyse kiest duidelijk voor die tweede verklaring.
De vergelijking wordt gemaakt met cold reading, een techniek die onder meer door waarzeggers en mentalisten wordt gebruikt. Zij doen uitspraken die persoonlijk en precies klinken, maar in werkelijkheid op grote groepen mensen van toepassing zijn. Wanneer iemand daarop reageert, kan de uitvoerder de daaropvolgende vragen en beweringen steeds verder aanpassen.
Bij chatbots werkt dat volgens dezelfde analyse op een geautomatiseerde manier. Het systeem gebruikt zogenoemde validatiestatements: formuleringen die herkenbaar en specifiek lijken, maar statistisch gezien algemeen zijn. De gebruiker herkent zichzelf in zo'n antwoord en interpreteert die herkenning als bewijs dat de chatbot de situatie goed doorgrondt.
De rol van de gebruiker
Ook de omstandigheden beïnvloeden die indruk. Mensen die enthousiast zijn over nieuwe AI-toepassingen stellen zich volgens de analyse eerder open voor de mogelijkheid dat er echte intelligentie achter de antwoorden zit. Eerdere ervaringen met chatbots, media-aandacht en verwachtingen over AI kunnen vervolgens bepalen hoe dubbelzinnige antwoorden worden geïnterpreteerd.
Bij een optreden van een mentalist verloopt het proces in verschillende stappen. Eerst wordt een ontvankelijk publiek geselecteerd en voorbereid. Daarna volgt een brede uitspraak, waarop iemand reageert. De mentalist stelt vervolgens vragen die specifiek lijken, maar mede zijn gebaseerd op de eerdere reactie. Zo ontstaat een bevestigingslus waarin iedere nieuwe aanwijzing de indruk van een geslaagde ‘lezing’ versterkt.
Een chatbot hoeft daarvoor geen publiek te onderzoeken of zichtbare reacties af te wachten. De tekst van de gebruiker biedt al informatie over onderwerp, toon en verwachtingen. Het model kan daarop direct een antwoord produceren dat persoonlijk en zelfverzekerd klinkt.
De analyse trekt daaruit een scherpe conclusie over sommige toepassingen van generatieve AI. Volgens de auteur kan de overtuigingskracht van zulke systemen gemakkelijk worden verward met inzicht of redeneervermogen. Dat betekent niet dat chatbots geen praktisch nut hebben, maar wel dat gebruikers hun vloeiende antwoorden niet zonder meer als bewijs van begrip of intelligentie moeten beschouwen.
