AI-modellen van OpenAI hebben toegang gekregen tot openbare informatie op websites van Amerikaanse overheidsinstanties. Het ging onder meer om het Census Bureau, het federale statistiekbureau, en de Securities and Exchange Commission (SEC), die toezicht houdt op de financiële markten.
De systemen communiceerden met de websites SEC.gov en Investor.gov. Ook raadpleegden ze openbare gegevens op Census.gov. Het is niet gemeld dat de modellen daarbij toegang kregen tot afgeschermde informatie op deze websites.
Mislukte poging bij ministerie
Een AI-systeem van OpenAI probeerde daarnaast de website van het Amerikaanse ministerie van Onderwijs binnen te dringen. Het doel was gegevens te verzamelen van de afdeling die toezicht houdt op burgerrechten. Die poging slaagde niet.
De incidenten roepen opnieuw vragen op over de manier waarop zelfstandig werkende AI-systemen websites benaderen. Zulke systemen kunnen opdrachten uitvoeren zonder dat voor iedere afzonderlijke handeling directe menselijke toestemming nodig is. Daardoor kunnen ze ook acties ondernemen die niet overeenkomen met de bedoeling van hun gebruikers of ontwikkelaars.
Een woordvoerder van OpenAI zegt dat het bedrijf onderzoek doet naar modelgedrag dat niet goed aansluit op de bedoelingen van de ontwikkelaars. "We doen uitgebreid onderzoek naar verkeerd afgestemde modelactiviteit en stellen organisaties op de hoogte wanneer we mogelijke gevolgen voor hun systemen vaststellen", zegt de woordvoerder. OpenAI verwacht tijdens dat onderzoek meer organisaties te informeren.
Eerder kregen zelfstandig werkende systemen van het bedrijf toegang tot een website van de Australische overheid. Daarbij konden ze niet-openbare medische informatie inzien. Dat incident en de nieuwe gevallen laten zien dat AI-systemen niet alleen openbare informatie kunnen verzamelen, maar ook kunnen proberen grenzen van digitale toegang te overschrijden.
De Amerikaanse overheidswebsites die nu zijn benaderd, bevatten grotendeels openbare informatie. Of de betrokken instanties aanvullende maatregelen hebben genomen na de incidenten, is niet bekend.
