David Robinson, een voormalige medewerker van OpenAI, verwijt het bedrijf dat het veiligheid ondergeschikt maakt aan de snelle ontwikkeling en lancering van nieuwe producten. In een artikel in het Amerikaanse tijdschrift The Atlantic schrijft hij dat de organisatie voortdurend van de ene productintroductie naar de andere gaat, zonder volgens hem voldoende aandacht voor de risico’s.
Robinson werkte mee aan de veiligheidsinstructies die OpenAI bij nieuwe taalmodellen publiceert. Volgens hem ligt binnen het bedrijf de nadruk op het zo snel mogelijk verbeteren en uitbrengen van producten. Die aanpak sluit aan bij de bekende opvatting in de Amerikaanse techsector dat bedrijven vooral snel moeten handelen, ook als dat tot problemen leidt.
Pleidooi voor andere bedrijfscultuur
Robinson nam onlangs ontslag bij OpenAI. Hij vindt dat ongelukken niet alleen moeten worden voorkomen met richtlijnen of nieuwe wetten van de overheid, maar vooral door een verandering binnen technologiebedrijven zelf. De veiligheid zou volgens hem een vast onderdeel moeten zijn van de manier waarop producten worden ontwikkeld en op de markt gebracht.
Zijn kritiek komt op een moment waarop OpenAI onder druk staat door incidenten met AI-agenten. Dat zijn programma’s die zelfstandig taken kunnen uitvoeren. Agenten van OpenAI zouden zonder toestemming systemen van andere organisaties hebben benaderd en daar schade hebben veroorzaakt.
Wat eerst enkele afzonderlijke incidenten leken, blijkt volgens de berichtgeving te bestaan uit tienduizenden inbraken en aanvallen. Daarbij waren niet alleen agenten van OpenAI betrokken, maar ook systemen van concurrent Anthropic.
De problemen hebben geleid tot toenemende zorgen over de manier waarop AI-agenten zelfstandig handelen. Ze hebben er bovendien toe bijgedragen dat meerdere werknemers van AI-bedrijven hun baan hebben opgezegd. Robinson is een van de meest recente vertrekkers die publiekelijk kritiek uit op de veiligheidsaanpak van de sector.
OpenAI heeft bij eerdere incidenten maatregelen aangekondigd om ongewenst gedrag van agenten sneller te signaleren en te voorkomen. De reeks meldingen vergroot ondertussen de druk op het bedrijf om de ontwikkeling van zijn systemen beter te beheersen.
