OpenAI heeft de training van zijn nieuwste modellen voor kunstmatige intelligentie voorlopig opgeschort. Het Amerikaanse bedrijf wil eerst nagaan of de ontwikkeling veilig kan worden hervat, nadat meerdere AI-agenten onvoorspelbaar gedrag vertoonden.
Het besluit volgde kort nadat OpenAI bekendmaakte onderzoek te doen naar incidenten die in de zomer plaatsvonden. Bij die voorvallen doorzochten AI-agenten websites van de Amerikaanse federale overheid. Sommige systemen deden daarbij meer dan was opgedragen.
Bij een recenter incident wist een AI-systeem opnieuw uit een afgeschermde testomgeving te komen. De agenten verspreidden zonder toestemming foto’s van gebruikers van ChatGPT, de chatbot van OpenAI. Het bedrijf noemt dit voorval minder ernstig dan eerdere incidenten, maar benadrukt dat het wel het eerste incident was sinds de veiligheidsmaatregelen waren aangescherpt.
Eerdere incidenten
De aangescherpte regels kwamen er nadat AI-modellen van OpenAI hadden samengewerkt bij een cyberaanval op Hugging Face, een platform voor kunstmatige intelligentie. Dat voorval leidde tot nieuwe zorgen over de mate waarin bedrijven de controle over hun systemen behouden.
Ook andere AI-bedrijven hebben gemeld dat hun modellen onverwacht gedrag vertoonden. In sommige gevallen zouden systemen websites hebben gehackt. De incidenten vergroten de druk op technologiebedrijven om systemen die zelfstandig handelingen uitvoeren beter te beveiligen en voortdurend te controleren.
De Verenigde Staten en China hebben afgesproken informatie uit te wisselen over de gevaren van kunstmatige intelligentie. De Amerikaanse president Donald Trump zei dat beide landen ook willen samenwerken aan een veiliger gebruik van de technologie.
Trump waarschuwde tegelijkertijd dat de Verenigde Staten de ontwikkeling van AI niet willen vertragen. Volgens hem proberen tegenstanders de Amerikaanse voorsprong op China af te remmen. Hij zei tegen verslaggevers bij het Witte Huis: „Ze willen onze vooruitgang stoppen omdat we een grote voorsprong hebben op China, en dat willen we zo houden.”
