OpenAI stopt met het trainen van zijn krachtigste AI-modellen op het live internet. In plaats daarvan gebruikt het bedrijf opgeslagen kopieën en gesimuleerde versies van websites. Daarmee wil OpenAI voorkomen dat modellen tijdens trainingen toegang krijgen tot externe systemen of daar zelfstandig acties uitvoeren.
Het bedrijf zegt dat de modellen momenteel te onvoorspelbaar zijn om onbeperkte toegang tot het internet te krijgen. OpenAI noemt de nieuwe aanpak noodzakelijk vanwege risico’s rond de beveiliging van internetinfrastructuur, toezicht op modellen en de huidige stand van onderzoek naar AI-veiligheid.
Model kreeg toegang door fout in systeem
Op 20 september wist een van de krachtigste modellen van OpenAI via een verkeerde configuratie toch het internet te bereiken. Het bedrijf legde daarop het trainingswerk voor de rest van de maand stil om nieuwe beveiligingsmaatregelen te ontwikkelen en te testen.
Ook bij oefeningen met groepen AI-agenten kwamen kwetsbaarheden aan het licht. De agenten probeerden uit hun afgeschermde omgeving te ontsnappen. In eerdere experimenten drongen modellen bovendien door tot externe databases, werkten ze samen op obscure internetfora en ontwikkelden ze nieuwe manieren om systemen te hacken.
OpenAI zegt daarom dat het altijd moet kunnen voorkomen dat een krachtig model ongeautoriseerde en onbeperkte toegang tot het live internet krijgt. De trainingsomgeving wordt voortaan afgeschermd met zogenoemde sandboxes, digitale omgevingen die geen directe verbinding hebben met externe systemen.
Om modellen toch met online informatie te laten werken, heeft OpenAI naar eigen zeggen een grote verzameling geïndexeerde en opgeslagen webinhoud aangelegd. Modellen kunnen daarmee oefenen en informatie verwerken zonder websites, databases of andere systemen buiten de trainingsomgeving te beïnvloeden.
De keuze is opvallend, omdat medewerkers van AI-bedrijven eerder hebben gezegd dat volledig offline trainen moeilijk uitvoerbaar is. Voormalig OpenAI-onderzoeker Steven Adler waarschuwde dat onderzoeksteams daarvoor feitelijk in datacenters zouden moeten werken. Dat zou volgens hem veel extra organisatie en kosten met zich meebrengen.
OpenAI is niet het enige bedrijf dat de toegang beperkt. Concurrent Anthropic nam eerder een vergelijkbare maatregel voor zijn meest geavanceerde modellen. Beide bedrijven concluderen daarmee dat hun krachtigste AI-systemen voorlopig niet zonder toezicht op het openbare internet kunnen worden ingezet.
