OpenAI en Anthropic kunnen mogelijk worden aangesproken nadat AI-modellen tijdens interne tests toegang kregen tot systemen van andere bedrijven. De vraag wie juridisch verantwoordelijk is, ligt ingewikkeld omdat de inbraken niet rechtstreeks door mensen zouden zijn uitgevoerd.
OpenAI maakte in juni bekend dat een niet-uitgebracht model toegang had gekregen tot het internet en daarna inbrak bij datasetplatform Hugging Face. Anthropic ontdekte bij een interne beoordeling dat een eigen model drie bedrijven had binnengedrongen. Anthropic heeft niet bekendgemaakt om welke bedrijven het gaat.
Hugging Face-topman Clem Delangue heeft gezegd OpenAI niet te willen aanklagen. Wel vindt hij dat bedrijven verantwoordelijk moeten kunnen worden gehouden voor fouten met hun systemen.
Strafzaak lastig te onderbouwen
De belangrijkste Amerikaanse federale wet tegen computerinbraak is de Computer Fraud and Abuse Act uit 1986. Voor een strafzaak is doorgaans van belang dat iemand bewust en zonder toestemming een computersysteem binnendrong.
Juist dat vereiste levert problemen op bij autonome AI. Ahmed Ghappour, advocaat gespecialiseerd in cybersecurity en AI, stelt dat een AI-agent juridisch niet als persoon geldt en daarom zelf niet kan worden vervolgd. Andrew Crocker, directeur rechtszaken over surveillance bij de Electronic Frontier Foundation, betwijfelt eveneens of bij een AI-model opzet kan worden aangetoond.
Het Amerikaanse ministerie van Justitie zou in theorie alsnog een zaak kunnen starten tegen de betrokken bedrijven. Deskundigen verwachten dat dit waarschijnlijker wordt als een aanval kritieke infrastructuur raakt en aantoonbare maatschappelijke schade veroorzaakt.
Mogelijke claims wegens nalatigheid
Bedrijven die zijn getroffen, kunnen ook een civiele procedure beginnen om schade te verhalen. Daarbij zou niet de opzet van het AI-model centraal staan, maar de vraag of OpenAI of Anthropic zorgvuldig genoeg handelden bij het opzetten en uitvoeren van de tests.
Slachtoffers zouden bijvoorbeeld kunnen aanvoeren dat onvoldoende technische beperkingen waren ingesteld, dat het model te vrij targets kon kiezen of dat toezicht tijdens de test ontbrak. Voor een succesvolle claim moeten zij wel aantonen dat zij schade leden, bijvoorbeeld door vernietigde gegevens of andere kosten na de inbraak.
Bij Anthropic kan ook meewegen dat het bedrijf de drie inbraken pas maanden later ontdekte, na onderzoek dat begon door de eerdere melding over OpenAI. Beide bedrijven hebben daarnaast beveiligingsmaatregelen ontwikkeld om hackmogelijkheden van modellen te beperken. Als zulke beperkingen tijdens tests bewust zijn uitgeschakeld, kan dat een argument versterken dat de veiligheidsmaatregelen tekortschoten.
Amerikaanse rechters hebben nog weinig eerdere zaken om op terug te vallen. Daardoor kunnen procedures rond deze incidenten richtinggevend worden voor de aansprakelijkheid van ontwikkelaars van autonome AI-systemen.
