Een onjuist inlichtingenrapport heeft het Amerikaanse leger dit voorjaar bijna aangezet tot een operatie tegen een Chinees schip in het Midden-Oosten. In het rapport stond dat het vaartuig onderdelen voor een kernwapenprogramma vervoerde. De informatie werd verspreid tijdens de oorlog met Iran.
Het Amerikaanse leger bereidde daarop een onderschepping voor. Volgens bronnen maakten gewapende militairen zich klaar om het schip te enteren en waren militaire vliegtuigen onderweg. Pas kort voor de geplande actie onderzochten functionarissen het rapport verder. Toen bleek dat een analist van het Special Operations Command bij het opstellen ervan kunstmatige intelligentie had gebruikt.
De chatbot had de lading van het schip verkeerd geïnterpreteerd. Welke goederen daadwerkelijk aan boord waren, is niet bekend. Een ingewijde noemde het rapport volledig onjuist en zei dat de situatie bijna tot een oorlog had geleid. Een Amerikaanse actie tegen een Chinees schip had kunnen uitmonden in een gewapend conflict tussen de twee landen.
AI in militaire besluitvorming
De analist had een chatbot bevraagd over inlichtingen over de scheepslading. Die informatie kwam van het Amerikaanse Special Operations Command Pacific, dat in Hawaï is gevestigd. Het systeem combineerde openbare informatie met geheime signal intelligence uit overheidsdatabases. Daarna gebruikte de analist opnieuw AI om de bevindingen in de vorm van een standaardrapport te gieten.
Het is niet duidelijk of de chatbot een commercieel product was of door de Amerikaanse overheid was ontwikkeld. Een voormalige hoge Amerikaanse functionaris zei dat interne systemen vaak weinig meer zijn dan commerciële toepassingen met een eigen uiterlijk. Het Special Operations Command Pacific en het Pentagon hebben niet gereageerd op vragen over de kwestie.
Het Amerikaanse ministerie van Defensie wil AI op grote schaal inzetten, onder meer voor het analyseren van inlichtingen, het kiezen van doelen en logistieke planning. Defensieminister Pete Hegseth kondigde in januari een strategie aan om het gebruik van AI te versnellen. „We zullen experimenten mogelijk maken, bureaucratische barrières wegnemen en onze investeringen richten”, zei hij.
De invoering verloopt echter versnipperd. Verschillende onderdelen van het leger en de inlichtingendiensten gebruiken uiteenlopende systemen, veiligheidsregels en controleprocedures. Er is geen uniforme standaard voor het verifiëren van door AI gegenereerde informatie.
Militaire functionarissen waarschuwen daarom voor fouten bij doelbepaling. Een ingewijde zei dat AI daarbij steeds vaker wordt ingezet, terwijl er nog onvoldoende richtlijnen zijn om burgerslachtoffers of aanvallen op eigen troepen te voorkomen. Volgens betrokkenen kunnen vooral jonge analisten de systemen te gemakkelijk vertrouwen. „AI zorgt ervoor dat je sneller bij een slecht idee uitkomt”, zei een van hen.
