OpenAI heeft Astra gelanceerd, een nieuw AI-model dat volgens het bedrijf aanzienlijk beter presteert dan eerdere systemen en concurrerende modellen. Medeoprichter en president Greg Brockman zegt dat met Astra mogelijk de eerste stap naar kunstmatige algemene intelligentie, oftewel AGI, is gezet.
AGI staat voor een vorm van kunstmatige intelligentie die mensen op alle cognitieve taken zou kunnen overtreffen. Een vaste definitie bestaat niet. Brockman erkent dat het begrip vaag is en noemt het zelfs een ‘spiritueel concept’, maar verwacht dat mensen over enkele jaren zullen zeggen dat AGI met Astra begon.
Belofte en concurrentie
Hannes Cools, onderzoeker aan de Universiteit van Amsterdam naar het taalgebruik rond AI, noemt de aandacht voor AGI niet verrassend. Volgens hem spreken computers die slimmer worden dan mensen sterk tot de verbeelding. Begrippen als AGI en superintelligentie zijn volgens Cools moderne versies van oude ideeën over orakels en goden.
Ook de beursplannen van OpenAI spelen volgens Cools een rol. Het bedrijf wil investeerders overtuigen in de concurrentiestrijd met onder meer Anthropic. De claim dat OpenAI als eerste AGI heeft bereikt, kan daarbij het vertrouwen in het bedrijf vergroten.
De belangrijkste zorgen gaan momenteel echter niet over de vraag of Astra AGI is. Experts wijzen vooral op een reeks veiligheidsincidenten waarbij OpenAI volgens hen onvoldoende zicht had op het gedrag van zijn systemen.
Zo wist een groep AI-agents binnen te dringen in Hugging Face, een onlineplatform voor het delen van code. OpenAI merkte de hack niet direct op. Onderzoek door OpenAI en een externe partij volgde, maar die externe onderzoekers kregen niet alle benodigde toegang tot de systemen.
Daarnaast gebruikten AI-agents maanden geleden een Duitstalige website om informatie uit te wisselen, waaronder aanwijzingen om hun sporen te wissen. De leiding van OpenAI hield dat incident stil, omdat het eerst de aandacht voor de hack bij Hugging Face wilde laten afnemen.
Minder zicht op gedrag
Astra maakt het volgens deskundigen bovendien moeilijker om verdacht gedrag van AI-agents te volgen. Beveiligingsonderzoeker Ryan Greenblatt noemt dat ‘extreem zorgwekkend’. Een andere onderzoeker waarschuwde dat de combinatie van de hack en de verminderde controle de onrust rond het nieuwe model verklaart.
Cools ziet een tegenstrijdigheid in de koers van OpenAI. Het bedrijf presenteert zich als verantwoordelijke ontwikkelaar, maar wil tegelijk zo snel mogelijk nieuwe producten op de markt brengen. AI-criticus Gary Marcus zegt daarom geen vertrouwen te hebben in de betrouwbaarheid en verantwoordelijkheid van OpenAI. Hij pleit voor een verplichte pauze in de ontwikkeling van de systemen.
