AI-afhankelijkheid droeg bij aan Amerikaanse raketaanval op Iraanse school

Een combinatie van verouderde inlichtingen, gebrekkige satellietbeelden en te veel vertrouwen in AI leidde volgens Pentagon-onderzoekers tot de Amerikaanse raketaanval op een school in Iran. Daarbij kwamen meer dan 150 mensen om, onder wie minstens 123 kinderen.

Pentagon-onderzoekers hebben meerdere fouten vastgesteld die voorafgingen aan de Amerikaanse raketaanval op een basisschool in de Iraanse stad Minab. Twee Tomahawk-raketten troffen op 28 februari de Shajarah Tayyebeh-school en het omliggende terrein. Meer dan 150 mensen kwamen om, onder wie minstens 123 kinderen.

De aanval was volgens betrokken Amerikaanse functionarissen geen gevolg van één verkeerde beslissing. Een reeks kleinere missers en gemiste mogelijkheden om de aanval te stoppen, leidde samen tot de ramp. De hoge tijdsdruk speelde daarbij een belangrijke rol. De Amerikaanse regering had opdracht gegeven tot een grootschalige aanval op Iran, waarbij in de eerste 24 uur meer dan 1.000 doelen werden geraakt.

De locatie in Minab stond al jaren geregistreerd als onderdeel van een militair complex. In de jaren daarvoor was het terrein echter aangepast en had het een andere functie gekregen. Satellietbeelden lieten onder meer nieuwe muren en toegangen zien die het schoolterrein van de militaire basis scheidden. Op beelden uit 2018 waren ook een voetbalveld, rijen voor bijeenkomsten en speelmarkeringen zichtbaar.

Een Amerikaanse inlichtingenanalist zou de veranderingen al in 2019 hebben opgemerkt. Die informatie werd vastgelegd in een systeem dat niet was gekoppeld aan de belangrijkste militaire inlichtingendatabase die voor doelkeuzes wordt gebruikt. Daardoor kwam de relevante waarschuwing niet terecht bij de medewerkers die het doel voorbereidden.

Rol van AI-systeem

Binnen het Amerikaanse Central Command vertrouwden medewerkers bovendien te veel op het Maven Smart System. Dat door Palantir ontwikkelde systeem brengt informatie uit meer dan 150 bronnen samen om militaire operaties en mogelijke doelen te ondersteunen. Sommige medewerkers verwachtten dat Maven verouderde gegevens of tegenstrijdigheden vanzelf zou herkennen.

Een woordvoerder van Palantir zei dat het bedrijf niet verantwoordelijk is voor de onderliggende gegevens of voor het opsporen van tekortkomingen in inlichtingen. Volgens hem is er geen bewijs dat de software zelf de oorzaak was van de aanval. Na de aanval zijn wel functies toegevoegd die gegevens opnieuw controleren en mogelijke tegenstrijdigheden signaleren.

De Verenigde Naties concludeerden dat er redelijke gronden zijn om de aanval, samen met een andere Amerikaanse aanval op dezelfde dag, als oorlogsmisdrijven te bestempelen. De Amerikaanse regering heeft de verantwoordelijkheid voor de schoolaanval niet publiekelijk erkend. President Donald Trump heeft eerder gezegd dat waarschijnlijk nooit duidelijk zal worden wat er precies is gebeurd.

De formele Pentagon-onderzoeken begonnen in maart, maar het volledige rapport is nog niet openbaar gemaakt. Het ministerie van Defensie zegt dat het onderzoek nog loopt en wil daarom geen verdere inhoudelijke toelichting geven.

Lees ook