Een federale rechter in de Verenigde Staten heeft uitgesproken dat de regering-Trump te weinig bewijs heeft aangedragen om Anthropic als risico voor de toeleveringsketen aan te merken. De kwalificatie vormt de basis voor een verbod voor federale overheidsdiensten om AI-technologie van het bedrijf te gebruiken.
Rechter Rita Lin behandelde donderdag een zaak van Anthropic tegen het ministerie van Defensie. Zij blokkeerde het verbod al tijdelijk in maart en onderzoekt nu of die maatregel definitief moet worden. Lin zei tijdens de zitting dat de overheid nog altijd onvoldoende heeft aangetoond dat de risicokwalificatie gerechtvaardigd is.
Conflict over militair gebruik
Het conflict begon bij vastgelopen onderhandelingen over een contract tussen Anthropic en het ministerie van Defensie. Anthropic wilde beperkingen stellen aan militair gebruik van zijn AI-systemen. Het bedrijf verzette zich tegen inzet voor massasurveillance van Amerikanen en tegen systemen die beslissingen nemen over het selecteren of aanvallen van doelen met dodelijke wapens.
Anthropic stelde dat de technologie daarvoor niet ver genoeg ontwikkeld is. Het ministerie vond daarentegen dat een commercieel bedrijf niet moet bepalen waarvoor de krijgsmacht beschikbare technologie inzet. De overheid zei de systemen alleen op rechtmatige wijze te willen gebruiken.
De overheid voerde ook aan dat publieke kritiek van Anthropic op het ministerie een reden voor het verbod kon zijn. Lin noemde die redenering "heel zorgwekkend". Volgens haar kan dit ertoe leiden dat federale opdrachtnemers worden benadeeld wanneer zij het oneens zijn met de regering.
Geen bewijs voor ingrijpen op afstand
Verder stelde het ministerie dat Anthropic tijdens militaire operaties AI-modellen zou kunnen uitschakelen of aanpassen. Lin zei geen bewijs te hebben gezien dat het bedrijf een geleverd model kan wijzigen of een soort uitschakelknop kan gebruiken.
Anthropic startte in maart twee rechtszaken tegen het ministerie van Defensie, gericht tegen zowel het verbod als de aanduiding als risico voor de toeleveringsketen. De zaak bij Lin is een van die procedures. De andere loopt in Washington.
Als Lin haar tijdelijke blokkade omzet in een definitief bevel, blijft het federale verbod buiten werking zolang dat oordeel geldt. De uitspraak kan ook gevolgen hebben voor de ruimte die de Amerikaanse overheid heeft om technologiebedrijven uit te sluiten vanwege bezwaren tegen hun gebruiksvoorwaarden of publieke uitlatingen.
