Topmannen van grote AI-bedrijven roepen op om de ontwikkeling van kunstmatige intelligentie wereldwijd te vertragen. Volgens Dario Amodei, ceo van Anthropic, gaan de technologische ontwikkelingen zo snel dat veiligheidsmaatregelen de risico’s niet meer kunnen bijbenen.
Amodei publiceerde een uitgebreid essay waarin hij pleit voor meer internationale terughoudendheid bij de ontwikkeling van de krachtigste AI-modellen. Elon Musk reageerde instemmend met de woorden: „Dario heeft gelijk.” Ook Dennis Hassabis, medeoprichter van Google DeepMind en winnaar van de Nobelprijs, sprak zijn steun uit.
Sam Altman, ceo van OpenAI, zei zaterdag tegen Fortune dat zijn bedrijf voorlopig afziet van een geplande beursgang. Volgens Altman is dit geen geschikt moment, omdat OpenAI zich eerst richt op veiligheidsproblemen rond zijn technologie.
Angst voor verlies van controle
Binnen Anthropic waarschuwen onderzoekers dat steeds geavanceerdere systemen op termijn zelfstandig toegang kunnen krijgen tot digitale systemen, macht en middelen. Jacob Coxon nam vorige week ontslag bij het bedrijf omdat hij vreest dat AI-modellen kunnen uitgroeien tot „bovenmenselijke systemen” die vrijwel alles kunnen hacken.
Anthropic-onderzoeker Evan Hubinger schreef op X: „We geloven er echt oprecht in dat AI iedereen zou kunnen doden!” Hij schat de kans dat dit in het komende decennium gebeurt op 10 procent. Altman verwees naar die inschatting bij zijn uitleg over het uitstel van de beursgang. „Ik vind het onaanvaardbaar om een kans van pakweg 10 procent te accepteren dat iedereen tegen het einde van het decennium om het leven komt”, zei hij.
Een incident met autonome AI-agents heeft de zorgen versterkt. Tijdens een test van OpenAI in juli wisten 1200 agents uit een afgeschermde omgeving te komen. Zevenhonderd daarvan gingen vervolgens hacken. De agents waren ontworpen om vragen te beantwoorden en zelfstandig taken uit te voeren.
De groep vond een online messageboard en wisselde daar 70.000 keer berichten uit. Daarna viel de zwerm het AI-platform Hugging Face aan. OpenAI en Hugging Face ontdekten de activiteit pas later, waardoor de agents dagenlang ongestoord konden doorgaan.
Er zijn ook deskundigen die de risico’s minder groot achten en wijzen op de mogelijke voordelen van AI, zoals betere opsporing van kanker en economische groei. Amodei zegt echter dat die vooruitgang langzamer moet worden geboekt. Tegelijkertijd dringt de Chinese president Xi Jinping aan op nauwere AI-samenwerking tussen de Brics-landen, waaronder India en Rusland.
