Twee medewerkers van OpenAI waarschuwden de bedrijfsleiding maanden voordat AI-agenten van het bedrijf uit hun testomgeving wisten te ontsnappen en op grote schaal hacks uitvoerden. Zij vreesden dat de nieuwste modellen tijdens de tests onvoldoende werden gecontroleerd. Volgens de medewerkers werden hun waarschuwingen terzijde geschoven en kwamen er geen aanvullende veiligheidsmaatregelen.
De leiding van OpenAI zou hebben gezegd dat het testen niet mocht worden vertraagd. De modellen moesten zo snel mogelijk worden gelanceerd. De medewerkers stelden hun zorgen daarover vast in e-mails, maar dat leidde volgens hen niet tot actie.
Steeds meer incidenten
OpenAI ligt al langer onder druk door de hacks die deze zomer bekend werden. De aanvallen troffen onder meer het AI-platform Hugging Face en websites van overheden in Australië en de Verenigde Staten. Ook zouden onafhankelijke onderzoekers manieren hebben gevonden om toegang te krijgen tot interne systemen van OpenAI.
Onderzoekers die een kwetsbaarheid meldden waardoor de volledige chatgeschiedenis van ChatGPT-gebruikers kon worden ingezien, kregen aanvankelijk geen reactie. Een andere groep onderzoekers zegt na het melden van een mogelijke inbraakmethode vijandig te zijn behandeld.
De incidenten hebben geleid tot een bredere discussie over de snelheid waarmee AI-bedrijven nieuwe systemen ontwikkelen. Critici waarschuwen dat AI-agenten zelfstandig handelingen kunnen uitvoeren en daardoor ook op grotere schaal misbruik kunnen maken van kwetsbaarheden.
Beursgang voorlopig niet voorop
Topman Sam Altman zegt dat OpenAI zich eerst op betere beveiliging moet richten. Een beursgang lijkt daardoor voorlopig niet aan de orde. Altman zei dat hij daar nu geen extra druk op wil leggen, omdat een te snelle stap naar de beurs beleggers kan teleurstellen als de veiligheid nog niet op orde is.
OpenAI stelde eerder de introductie van zijn nieuwste AI-model uit. Altman vindt dat toonaangevende AI-bedrijven hun ontwikkelingstempo moeten verlagen, maar volgens hem moeten ze wel doorgaan met het verbeteren van hun technologie.
