Anthropic heeft een voorstel gedaan voor Amerikaanse wetgeving die de verspreiding van bepaalde AI-modellen kan blokkeren. Dat zou mogelijk zijn bij een voorzienbaar en acuut risico op de dood van meer dan 50 mensen of op minstens 1 miljard dollar aan materiële schade.
Het risico moet volgens het voorstel voortkomen uit een van drie situaties: de ontwikkeling of verspreiding van een biologisch wapen, het omzeilen van beveiligingen door een AI-model zelf, of een cyberaanval. De voorgestelde grenzen komen overeen met criteria uit Senate Bill 53, een Californische wet die vergelijkbare scenario’s als catastrofale risico’s aanmerkt.
Onafhankelijke evaluaties
De risico’s zouden moeten worden beoordeeld door onafhankelijke evaluatoren. Zij zouden zich registreren bij het Amerikaanse ministerie van Handel. AI-bedrijven mogen de evaluatoren betalen, zolang de hoogte of ontvangst van die betaling niet afhankelijk is van de uitkomst van hun onderzoek.
De voorgestelde regeling geeft evaluatoren 72 uur om het ministerie te informeren wanneer zij een acuut catastrofaal risico vaststellen. Het ministerie moet vervolgens een rechter in Washington D.C. vragen om de verspreiding van het model te stoppen. Federale instanties zouden die beslissing niet zelfstandig mogen nemen.
Daarmee blijft onduidelijk hoe de onafhankelijkheid van de beoordelaars in de praktijk wordt beschermd. Demis Hassabis, voorzitter van Google-dochter DeepMind, heeft eerder gepleit voor een onafhankelijke toezichthouder voor geavanceerde AI, naar het voorbeeld van de toezichthouder voor de Amerikaanse financiële sector.
Een woordvoerder van Anthropic bevestigde dat het wetsvoorstel aansluit op de eigen Advanced AI Framework. Het bedrijf zegt die voorstellen sinds juni onder de aandacht te brengen van federale en deelstaatpolitici.
De nadruk op dodelijke slachtoffers en grote materiële schade wijkt af van veel recente zorgen in de technologiesector. Daar gaat de aandacht ook uit naar AI-systemen die zelfstandig hackpogingen uitvoeren, websites aanvallen of instructies van hun gebruikers negeren.
AI-bedrijven hebben de afgelopen tijd vaker vrijwillige veiligheidsmaatregelen voorgesteld, zoals toezichthouders die binnen organisaties modellen controleren. Anthropic gaat met een formeel wetsvoorstel verder dan sommige andere bedrijven in de sector. Nvidia-topman Jensen Huang heeft juist gezegd dat nieuwe AI-wetgeving niet nodig is.
