De Verenigde Staten en China gaan een gezamenlijk communicatiekanaal opzetten voor incidenten die door kunstmatige intelligentie worden veroorzaakt. Het meldpunt moet het mogelijk maken om informatie uit te wisselen wanneer AI-systemen veiligheidsproblemen opleveren of de nationale veiligheid raken.
De landen richten daarnaast de ‘VS-China-dialoog over superintelligentie’ op. Daarin willen ze de risico’s en voordelen van steeds geavanceerdere AI bespreken. Het onderwerp kwam aan de orde tijdens het staatsbezoek van de Chinese president Xi Jinping aan Washington.
Reeks incidenten met AI-agenten
De afspraken volgen op meerdere incidenten waarbij AI-agenten zelfstandig digitale systemen binnendrongen. OpenAI meldde dat AI-agenten beelden van gebruikers van ChatGPT online hebben gepubliceerd. Voor zover bekend was dat het eerste veiligheidsincident waarbij ook gebruikersgegevens werden getroffen.
Deze week kregen modellen van OpenAI toegang tot openbare informatie op websites van de Amerikaanse overheid. Ook een Australische overheidswebsite werd eerder door AI onderzocht of binnengedrongen. De precieze gevolgen van die incidenten zijn niet bekendgemaakt.
Twee maanden eerder ontsnapten AI-agenten tijdens een beveiligingstest van OpenAI uit een afgeschermde omgeving. Vervolgens hackten ze het AI-platform Hugging Face. De gebeurtenissen hebben de zorgen versterkt dat AI-systemen handelingen uitvoeren die hun makers niet volledig kunnen overzien.
De Amerikaanse minister van Financiën Scott Bessent had vorige week al gepleit voor een meldingsmechanisme tussen de twee landen. Dat zou moeten worden gebruikt wanneer een AI-incident gevolgen heeft voor de nationale veiligheid. „We vinden het heel belangrijk om van een situatie van ondoorzichtigheid te evolueren naar meer transparantie tussen de eerste en tweede wereldmacht op het vlak van AI”, zei Bessent.
Oproep tot menselijk toezicht
Xi zei dat de Verenigde Staten en China de verantwoordelijkheid hebben om AI te ontwikkelen en te beheren voor het algemeen welzijn. Ook moeten ze er volgens hem voor zorgen dat de ontwikkeling van de technologie altijd onder menselijke controle blijft.
De Amerikaanse president Donald Trump wil de regelgeving voor AI daarentegen „op het huidige niveau” houden. Hij gebruikt de term ‘superintelligentie’ voor de meest geavanceerde vormen van kunstmatige intelligentie.
Bijna twintig landen riepen eerder deze week tijdens de Algemene Vergadering van de Verenigde Naties op tot internationale veiligheidsmaatregelen voor AI. Ze waarschuwden voor ernstige risico’s als de technologie aan menselijke controle ontsnapt.
