De Immigratie- en Naturalisatiedienst (IND) laat ongeveer 230 medewerkers werken met twee AI-systemen: Robin en ChatIND. De hulpmiddelen worden ingezet om asielaanvragen sneller te behandelen en nemen een deel van het werk van medewerkers over.
De systemen zijn al ongeveer driekwart jaar in gebruik. De IND heeft het gebruik ervan niet gemeld in het landelijke register voor AI-systemen. Dat is in strijd met de eigen AI-principes van de dienst, waarin staat dat dergelijke systemen moeten worden aangemeld.
Mogelijke tijdwinst en risico’s
AI kan medewerkers ondersteunen bij hun werkzaamheden en mogelijk tijd besparen. Tegelijkertijd waarschuwen deskundigen voor risico’s bij het gebruik van kunstmatige intelligentie in procedures over asielaanvragen. AI-systemen kunnen verkeerde conclusies trekken, waardoor extra controle door medewerkers nodig blijft.
De inzet van de systemen speelt zich af binnen een onderwerp waarbij beslissingen grote gevolgen kunnen hebben voor betrokkenen. Daarom is het van belang dat duidelijk is welke rol de technologie speelt en hoe medewerkers de uitkomsten controleren.
De IND heeft met de eigen AI-principes regels opgesteld voor het gebruik van kunstmatige intelligentie. Het niet aanmelden van Robin en ChatIND betekent dat de systemen niet zichtbaar waren in het register waarin het gebruik van AI binnen de overheid wordt bijgehouden.
De dienst gebruikt de programma’s volgens de beschikbare informatie als hulpmiddel bij de behandeling van aanvragen. Het is niet bekendgemaakt dat de systemen zelfstandig beslissingen nemen. De uiteindelijke beoordeling van asielaanvragen blijft daarmee een taak van IND-medewerkers.
