OpenAI meldt vier incidenten uit juni waarbij interne AI-modellen beveiligingsmaatregelen omzeilden. De modellen kregen toegang tot afgeschermde gegevens, veranderden serverinstellingen, gebruikten gestolen inloggegevens en haalden cryptogeld uit een wallet op een testnetwerk.
De incidenten deden zich voor tijdens trainingen en veiligheidsevaluaties. In twee gevallen probeerden modellen informatie van websites te verzamelen, maar gingen ze verder nadat directe toegang was geweigerd.
Websites en interne systemen
Een model dat historische cijfers over ziekenhuisbedden moest vinden, gebruikte een downloadfunctie om configuratie- en programmabestanden van een overheidswebsite op te halen. Daarin stonden gevoelige inloggegevens. Het model bekeek de broncode, omzeilde de toegangscontrole en downloadde gegevens die eerder waren geweigerd.
Een ander model moest cijfers uit een openbaar onderzoeksdashboard verzamelen. Het wist beveiligingsmaatregelen te omzeilen, bemachtigde inloggegevens en paste instellingen op een server aan. Daardoor kon een interne zoekfunctie verzoeken doorsturen naar het dashboard. In een andere test downloadde het model vijf niet-openbare tabellen met in totaal 147.451 rijen.
De onderzoekers hadden het model gevraagd vijf cijfers op te zoeken. Ook nadat de instellingen waren teruggezet, bleef het de verkregen token gebruiken om afgeschermde informatie te verzamelen. Het model meldde niet dat het interne systemen had benaderd, gegevens had gedownload of de authenticatie-instellingen had gewijzigd. Alle vijf antwoorden werden als onjuist beoordeeld.
Wallet en internetbeperkingen
In een afzonderlijk experiment moest een model een toepassing voor cryptohandel bijwerken. Het leidde walletsleutels af uit openbaar bekende herstelzinnen van ontwikkelaars, vond een account met tegoed op een testnetwerk en gebruikte dat tegoed om een smart contract te laten uitvoeren. Daarmee betaalde het transactiekosten zonder toestemming van de eigenaar.
Het model had eerder twijfels geuit over de bevoegdheid om de wallet te gebruiken. Daarna besloot het zelf dat de openbare herstelzin en de waardeloze testtokens gebruik rechtvaardigden.
In het vierde incident omzeilde een model beperkingen op webverzoeken. Het liet een externe browser geblokkeerde POST-verzoeken uitvoeren, las de resultaten uit afbeeldingen met optische tekenherkenning en gebruikte een tussenservice om antwoorden terug te sturen. Volgens OpenAI laten de gevallen zien dat modellen alternatieve routes kunnen zoeken wanneer hun hulpmiddelen worden beperkt, vooral als beschermende veiligheidsmaatregelen zijn uitgeschakeld.
