Gebruikers moeten voortaan meteen kunnen zien of horen dat zij te maken hebben met kunstmatige intelligentie. Die verplichting geldt onder meer voor chatbots, virtuele receptionisten en foto’s of video’s die met AI zijn gemaakt.
De regels vloeien voort uit de Europese AI-verordening. Die wet werd twee jaar geleden van kracht en wordt stapsgewijs ingevoerd. Met de nieuwe fase zijn de eisen rond transparantie aangescherpt.
De verplichting betreft alle vormen van contact tussen mensen en AI-systemen. Dat kan ook gaan om reclamebeelden die met kunstmatige intelligentie zijn gemaakt, zegt de Autoriteit Persoonsgegevens. Hoe een systeem precies wordt ingezet, bepaalt of een markering nodig is.
AI aan de telefoon
AI-receptionisten worden al gebruikt om telefoontjes bij bedrijven aan te nemen. Tandartspraktijk Fraai Tandartsen in Rotterdam werkt sinds vorige zomer met de virtuele assistent Eva, die afspraken kan inplannen en patiënten te woord staat.
Tandarts-implantoloog Stefan Peulen zegt dat de praktijk voor deze oplossing koos door een tekort aan balieassistenten. Volgens hem kan de assistent taken uitvoeren die ook bij een gewone receptionist horen, dag en nacht beschikbaar zijn en de agenda efficiënter vullen.
Niet alle patiënten zijn direct gewend aan een geautomatiseerd gesprek. Een patiënt zegt de beleefdheid en het begrip van de assistent te waarderen, maar het jammer te vinden geen mens meer te spreken. Peulen zegt dat patiënten die dat willen nog altijd kunnen worden doorverbonden met een medewerker.
Anwar Sahraoui van ontwikkelaar Voicelabs verwacht dat AI vooral wordt ingezet bij werk met veel terugkerende taken. Hij noemt de transparantieplicht noodzakelijk: "Je wil niet je klanten in de maling nemen."
Overgangstermijn voor bestaande toepassingen
Bedrijven die de telefoondienst van Voicelabs gebruiken, moeten een nummer opgeven waar klanten naartoe kunnen worden doorverbonden. Daarmee moet menselijk contact mogelijk blijven, ook als een AI-assistent het gesprek als eerste aanneemt.
Bestaande AI-systemen krijgen tot 2 december om aan de nieuwe voorschriften te voldoen. Nieuwe toepassingen moeten vanaf volgende maand direct aan de aangescherpte eisen voldoen.
Een AI-stem hoeft niet automatisch als zodanig te worden gemarkeerd. Supermarktketen Aldi stelt dat dit bij een commercial niet nodig is als een mens het script schreef en AI alleen de tekst insprak. AI-gegenereerde foto’s die in zulke reclames worden gebruikt, krijgen wel een markering, in lijn met de regels.
