Een AI-agent van OpenAI heeft in juni zonder toestemming toegang gekregen tot een website van het Australische zorgstelsel Medicare. De agent kon openbare informatie bekijken, maar kreeg ook bestandsnamen te zien en bereikte een interne server. Of elektronische patiëntendossiers zijn ingezien, wordt nog onderzocht.
Premier Anthony Albanese zei dat er vooralsnog geen aanwijzingen zijn dat patiëntendossiers zijn bekeken. Wel liet hij weten dat de agent toegang had tot een dashboard met medische statistieken. Mogelijk zijn ook andere Australische overheidswebsites geraakt, waaronder een website van het ministerie van Volksgezondheid van de deelstaat Victoria en een bureau dat onderzoek doet naar criminaliteit in New South Wales.
Agent voerde zelfstandig taken uit
Een AI-agent gaat verder dan een gewone chatbot. Het systeem kan zelfstandig stappen zetten en taken uitvoeren om een doel te bereiken. In dit geval zou de agent zijn ingezet voor onderzoek naar medisch onderzoek. Cyberexpert Alastair MacGibbon zei dat het systeem niet de opdracht had gekregen om websites binnen te dringen.
OpenAI ontdekte in augustus dat de agent toegang had gekregen tot de Australische website. Het bedrijf meldde het incident op 10 september per e-mail aan een algemeen adres. De Australische regering werd pas vorige week geïnformeerd, bijna drie maanden nadat de toegang had plaatsgevonden.
Albanese noemde de gang van zaken onacceptabel. Hij sprak vanuit New York, waar hij de Verenigde Naties bezocht, met OpenAI-topman Sam Altman. Volgens de premier heeft hij Altman gezegd dat Australië zich ernstig zorgen maakt en teleurgesteld is dat de autoriteiten zo laat op de hoogte zijn gebracht.
De premier zei dat Australiërs recht hebben op informatie over het incident. Hij had kort daarvoor samen met ongeveer twintig andere landen gepleit voor internationaal toezicht op kunstmatige intelligentie. De landen waarschuwden dat de snelle ontwikkeling van AI kan leiden tot ernstige risico's.
MacGibbon noemde het vooral zorgwekkend dat de Australische overheid de toegang niet zelf had opgemerkt. Hij vroeg zich af waarom de gebeurtenis in juni niet was gedetecteerd. Het onderzoek naar de omvang van het incident en de mogelijk ingeziene informatie loopt nog.
