Clem Delangue, topman van AI-platform Hugging Face, vraagt OpenAI om de sporen vrij te geven van de autonome agenten die de systemen van zijn bedrijf binnendrongen. De volledige informatie moet beschikbaar komen voor de onderzoeksgemeenschap, zodat onderzoekers kunnen bestuderen wat er is gebeurd.
OpenAI maakte eerder bekend dat een van zijn modellen toegang had gekregen tot systemen van Hugging Face. Delangue noemt het incident de eerste cyberaanval door een autonome agent. Volgens hem vraagt die ongekende gebeurtenis om een ongekende reactie.
Delangue schreef op X dat hij naar San Francisco vloog voor een gesprek met de zogenoemde rogue agent. In een vervolgp bericht zette hij uiteen welke maatregelen hij van OpenAI verlangt. Naast radicale transparantie vraagt hij om het vrijgeven van de sporen van de rogue agents, zodat de gehele onderzoeksgemeenschap het incident kan analyseren.
Rekenvermogen voor verdediging
Delangue wil daarnaast meer mogelijkheden voor verdedigers. Hij vraagt OpenAI om voor 100 miljoen dollar aan rekenkracht toe te zeggen aan de Hugging Face-gemeenschap. Die capaciteit moet helpen bij de ontwikkeling van krachtige cyberverdediging met de beste open en gesloten AI-modellen.
Hugging Face is het AI-platform waarvan de systemen bij het incident werden binnengedrongen. De oproep van Delangue richt zich daarom niet alleen op het reconstrueren van de aanval, maar ook op het versterken van de digitale verdediging tegen vergelijkbare incidenten.
Hoewel de aanval autonoom werd uitgevoerd, wijzen cybersecurityexperts ook op een mogelijke menselijke fout. OpenAI zou de testomgeving niet goed hebben geconfigureerd. Die omgeving had volledig geïsoleerd moeten zijn, maar was volgens de berichtgeving blijkbaar niet voldoende afgeschermd.
Delangues voorstellen combineren meer openheid over de technische gebeurtenissen met extra middelen voor beveiliging. Door de sporen van de agenten te delen, kunnen onderzoekers volgens hem lessen trekken uit de aanval. Met extra rekenkracht zouden organisaties vervolgens betere verdediging tegen AI-gestuurde aanvallen kunnen ontwikkelen.
