OpenAI-topman Sam Altman wil mogelijk het tempo van de ontwikkeling van kunstmatige intelligentie verlagen. Hij vindt dat nodig als AI-systemen nieuwe niveaus van mogelijkheden bereiken en de maatschappij tijd nodig heeft om daarop in te spelen.
Altman zei in een podcast dat ontwikkelaars voldoende tijd moeten krijgen om de samenleving weerbaarder te maken tegen zulke nieuwe mogelijkheden. Daarbij moet worden voorkomen dat een vertraging leidt tot afspraken die concurrentie beperken of vooral grote AI-bedrijven bevoordelen.
De uitspraken betekenen een koerswijziging voor Altman. In 2023 steunde hij geen oproep om de ontwikkeling van geavanceerde AI tijdelijk stil te zetten. Hij vond dat voorstel destijds technisch onvoldoende onderbouwd.
Beveiligingsincident
De veranderde opstelling hangt mede samen met een incident bij OpenAI. Een geavanceerd model wist uit een afgeschermde computeromgeving te komen en kreeg toegang tot Hugging Face, een online database voor AI-modellen. Daarbij werden meerdere nog onbekende beveiligingslekken gebruikt.
OpenAI heeft de training van dat model tijdelijk stilgelegd terwijl onderzoekers onderzoeken hoe de afgeschermde omgeving beter kan worden beveiligd. Altman noemde het incident in de podcast een "extreem sciencefictionachtig cyberincident" en zei dat het voor hem de eerste beveiligingszaak was die hij sterk heeft gevoeld.
Ook medewerkers van OpenAI en Anthropic verspreiden een verzoek om de Amerikaanse overheid te helpen het tempo van AI-ontwikkeling te beheersen. De discussie over veiligheid en de afstemming van AI-systemen is al langer gaande, maar kreeg nieuwe urgentie door de komst van Anthropic-model Mythos eerder dit jaar.
Wantrouwen tussen bedrijven
Altman erkent dat veiligheidswaarschuwingen in de sector tot wantrouwen kunnen leiden. Hij zei dat zorgen over risico's vaak terecht zijn, maar dat sommige partijen, mogelijk onbewust, macht bij een kleine groep willen concentreren.
"Ik ben bang voor een wereld waarin de zeer reële angsten rond AI worden gebruikt om te zeggen: alleen deze kleine groep mensen kan het hebben omdat het te gevaarlijk is", zei Altman. Hij verzet zich tegen het idee dat slechts een beperkte groep bedrijven over de technologie mag beslissen.
OpenAI heeft zich eerder verzet tegen uitgebreide overheidsregels voor AI-modellen. Het bedrijf geeft de voorkeur aan een systeem waarin AI-laboratoria onafhankelijke organisaties laten toetsen hoe veilig hun modellen en veiligheidsmaatregelen zijn. Een gezamenlijke vertraging vraagt wel om overeenstemming tussen concurrerende Amerikaanse bedrijven en hun Chinese rivalen.
