Een Amerikaanse vrouw heeft xAI, het bedrijf van Elon Musk, aangeklaagd omdat chatbot Grok volgens haar is getraind met materiaal van seksueel misbruik van kinderen. De aanklacht stelt dat het gaat om zowel echte beelden als afbeeldingen die met kunstmatige intelligentie zijn gemaakt.
De vrouw, die in de procedure Jane Doe wordt genoemd, was als jong kind slachtoffer van seksueel geweld. De daders maakten destijds beelden om die online te verkopen. Haar afbeeldingen zijn later opgenomen in hash-lijsten van onder meer het National Center for Missing and Exploited Children en het Canadian Centre for Child Protection. Met zulke digitale vingerafdrukken kunnen organisaties bekende beelden herkennen zonder ze opnieuw te verspreiden.
Ook nieuwe AI-beelden zouden haar tonen
Jane Doe kreeg bericht dat een Canadese kinderbeschermingsorganisatie AI-gegenereerde beelden had gevonden waarop zij herkenbaar zou zijn. Dat leidde volgens de aanklacht tot nieuwe psychische schade. Op online fora zouden gebruikers bovendien hebben besproken hoe ze AI-beelden konden maken van haar en andere bekende slachtoffers.
De vrouw vreest dat xAI de door Grok gemaakte afbeeldingen bewaart en gebruikt om het model verder te trainen. Volgens haar algemene voorwaarden kunnen openbare berichten op X en uitkomsten van Grok standaard worden gebruikt voor training en verbetering van de systemen. De voorwaarden zouden niet duidelijk maken of materiaal van seksueel misbruik van kinderen, niet-consensuele intieme beelden en ander seksueel beeldmateriaal daarvan zijn uitgesloten.
De aanklacht beweert verder dat verwijdering van beelden niet automatisch betekent dat hun invloed uit een al getraind model verdwijnt. Als het materiaal eerder in de training is verwerkt, kan het volgens de indiener de resultaten van Grok blijven beïnvloeden.
Dit is de eerste rechtszaak waarin xAI specifiek wordt beschuldigd van training met materiaal van seksueel misbruik van kinderen. De aanklacht geeft daarover minder details dan over de beschuldigingen rond AI-gegenereerde beelden. Een advocaat stelt dat xAI zich schuldig zou hebben gemaakt aan productie, bezit en verspreiding, maar de rechter moet die claims nog beoordelen.
Jane Doe wil namens een voorgestelde groep slachtoffers optreden. Ze vraagt om een verbod op het genereren van dergelijk materiaal, vernietiging van opgeslagen AI-beelden en een schadevergoeding voor slachtoffers die kunnen aantonen dat Grok beelden op basis van hun foto’s heeft gemaakt. X heeft niet gereageerd op een verzoek om commentaar.
