De Verenigde Naties willen de ontwikkeling en inzet van volledig autonome wapensystemen aan banden leggen. Het gaat om wapens die zelfstandig doelen kunnen kiezen of geweld kunnen gebruiken, zonder dat een mens iedere stap controleert. Landen praten daar komende week in Genève opnieuw over.
VN-secretaris-generaal António Guterres waarschuwde dat de wereld dicht bij een morele grens komt. “We bevinden ons nu gevaarlijk dicht bij het overschrijden van een morele rode lijn: het autonome richten op mensen door machines”, schreef hij.
Autonome wapens bestaan al langer. Landmijnen ontploffen bijvoorbeeld zonder dat iemand op het moment zelf een schot hoeft te lossen. Ook Nederland gebruikt sinds de jaren 80 het Goalkeeper-systeem, dat automatisch vijandelijke vliegtuigen en raketten uit de lucht moet halen.
AI versnelt besluitvorming
Door kunstmatige intelligentie zijn de mogelijkheden van militaire systemen sterk uitgebreid. AI kan grote hoeveelheden informatie snel analyseren en op basis daarvan mogelijke doelen aanwijzen. Israël gebruikt daarvoor onder meer de systemen Lavender en Gospel in Gaza. De Verenigde Staten zetten in de oorlog met Iran verschillende AI-programma’s voor doelbepaling in. Daarbij werd onder meer een school geraakt.
Ook in Oekraïne zijn aanwijzingen gevonden voor het gebruik van AI in drones. Bij een Russische aanval op Zaporizhzhia kwamen drie mensen om het leven. Een drone leek zelfstandig tankstations als doelwit te hebben geselecteerd.
Voorstanders wijzen erop dat AI sneller kan reageren en mogelijk nauwkeuriger is dan traditionele wapens. Marijn Hoijtink, hoofddocent internationale betrekkingen aan de Universiteit van Antwerpen, zegt dat militairen vooral snelheid als voordeel zien. Door besluitvorming te automatiseren, zouden zij een voorsprong op de tegenstander kunnen krijgen.
Of AI daadwerkelijk tot minder schade leidt, is volgens Hoijtink onzeker. Dat hangt volgens haar af van de manier waarop de systemen worden gebruikt. Jessica Dorsey, deskundige op het gebied van oorlogsrecht aan de Universiteit Utrecht, benadrukt dat door AI aangedragen informatie nog altijd gecontroleerd moet worden.
Een aanval moet volgens Dorsey zorgvuldig worden beoordeeld, ook als een systeem die beslissing versnelt. Bij een volledig autonome drone kan een menselijke controle ontbreken nadat het wapen is gelanceerd. Daardoor is het mogelijk moeilijk om een aanval nog af te breken als burgers in beeld komen.
Verdrag nog niet in zicht
Landen praten al ruim tien jaar over autonome wapens, maar zijn het nog niet eens over een definitie. De VN wil in elk geval wapens verbieden die zelfstandig geweld gebruiken zonder dat mensen het gedrag kunnen voorspellen. Ook systemen die zich rechtstreeks op mensen richten, zouden niet moeten worden toegestaan.
In november moet duidelijk worden of landen überhaupt willen onderhandelen over de inhoud van een internationaal verdrag. Als overeenstemming uitblijft, willen landen die strengere regels steunen op een andere manier internationale afspraken maken.
