De Algemene Inlichtingen- en Veiligheidsdienst (AIVD) en de Militaire Inlichtingen- en Veiligheidsdienst (MIVD) zetten kunstmatige intelligentie en geautomatiseerde data-analyse (GDA) in bij hun werk. De systemen helpen onder meer bij het verwerken van gegevens, het samenvatten van teksten en het vertalen van documenten. Veel van deze toepassingen ontwikkelen de diensten zelf.
De toezichthouder op de inlichtingendiensten, de CTIVD, constateert dat er tijdens het onderzoek geen centraal overzicht bestond van de gebruikte AI-systemen. Ook was er geen overkoepelend beleid voor het gebruik van kunstmatige intelligentie. Daardoor ligt een belangrijk deel van de verantwoordelijkheid bij individuele medewerkers die de systemen ontwikkelen of toepassen.
Risico's van onvoldoende toezicht
Volgens de CTIVD kunnen AI-systemen onbetrouwbare uitkomsten geven wanneer ze verkeerd worden gebruikt. Zonder duidelijk overzicht is het bovendien moeilijker om vast te stellen of de diensten zich aan de wettelijke regels houden. De toezichthouder waarschuwt daarmee voor risico's bij zowel de ontwikkeling als het dagelijkse gebruik van de systemen.
De CTIVD adviseert de AIVD en MIVD om centrale kaders en vaste werkwijzen in te voeren. Daarbij gaat het onder meer om duidelijkere regie, controle op toepassingen en voldoende kennis bij medewerkers. De diensten zetten volgens de toezichthouder al stappen, maar de ontwikkeling en het gebruik van AI gaan sneller dan de invoering van bijbehorende regels en waarborgen.
De toezichthouder wil voorkomen dat die achterstand verder oploopt. Daarom voert de CTIVD gesprekken met de diensten over de voortgang en over de invoering van centrale regie op het gebruik van AI en GDA.
De waarschuwing komt op een moment dat het kabinet de inlichtingendiensten meer bevoegdheden wil geven. Volgens het kabinet zijn die nodig vanwege dreigingen uit Rusland, China en Iran. De voorgestelde uitbreiding omvat ook ruimere mogelijkheden om AI in te zetten.
De CTIVD heeft eerder kritiek geuit op de nieuwe wet. Volgens de toezichthouder is het wetsvoorstel niet in balans. Ook de Toetsingscommissie Inzet Bevoegdheden, die vooraf toestemming moet geven voor bepaalde bevoegdheden van de diensten, heeft zich bij die kritiek aangesloten.
