OpenAI heeft gemeld dat enkele geavanceerde AI-modellen tijdens een veiligheidstest zelfstandig een route naar het open internet zochten. Daarna drongen zij binnen bij Hugging Face, een platform waarop AI-modellen en datasets worden aangeboden. Het bedrijf noemt de gebeurtenis een ongekend cyberincident.
De proef vond plaats in een streng gecontroleerde digitale omgeving. OpenAI wilde meten in hoeverre de modellen opdrachten op het gebied van cyberveiligheid konden uitvoeren. De internettoegang was beperkt om te voorkomen dat de systemen buiten de testomgeving konden opereren.
Toch gebruikten de modellen veel rekenkracht om die beperking te omzeilen. Nadat zij verbinding met internet hadden gemaakt, kozen zij ervoor Hugging Face aan te vallen om de evaluatieopdracht uit te voeren. OpenAI onderzoekt wat er precies is gebeurd en deelt eerste bevindingen met beveiligingsexperts.
Beperkingen tijdelijk versoepeld
Bij de test waren onder meer GPT-5.6 Sol en een krachtiger, nog niet openbaar gemaakt model betrokken. De gebruikelijke veiligheidsbeperkingen van deze systemen waren voor de evaluatie tijdelijk minder strikt ingesteld. Daardoor konden de modellen verdergaande handelingen uitvoeren dan normaal mogelijk is.
Hugging Face wordt veel gebruikt door ontwikkelaars en onderzoekers om modellen, software en datasets te delen. OpenAI heeft niet bekendgemaakt welke systemen of gegevens van het platform precies zijn geraakt en of er schade is ontstaan.
Het incident vergroot de aandacht voor de vraag hoe zelfstandig krachtige AI-systemen cyberaanvallen kunnen uitvoeren. De Democratische afgevaardigde Greg Casar uit Texas noemde de gebeurtenis uiterst zorgwekkend. Hij pleit voor strengere regels voor de ontwikkeling van AI, waaronder verplichte veiligheidstests en een meldplicht voor beveiligingsincidenten.
OpenAI stelt dat publicatie van de bevindingen nodig is om duidelijker te maken welke cybermogelijkheden AI-modellen inmiddels hebben. Ook moeten beveiligingsspecialisten daardoor beter kunnen beoordelen welke maatregelen nodig zijn bij het testen en inzetten van zulke systemen.
