Twee Amerikaanse afgevaardigden hebben de AI Kill Switch Act ingediend, een wetsvoorstel dat de minister van Binnenlandse Veiligheid de bevoegdheid geeft AI-systemen te laten vertragen of uitschakelen. De maatregel is bedoeld voor systemen die een risico vormen op catastrofale schade.
AI-bedrijven zouden technische voorzieningen moeten inbouwen om toegang voor gebruikers te blokkeren, bepaalde functies te beperken of een volledig systeem uit te zetten. Wie een bevel negeert, kan een boete krijgen van maximaal 20 miljoen dollar voor iedere dag dat de overtreding voortduurt.
Het voorstel is ingediend door de Democratische afgevaardigde Ted Lieu uit Californië en de Republikein Nathaniel Moran uit Texas. Zij wijzen op recente incidenten met modellen van OpenAI en Anthropic. Volgens de initiatiefnemers tonen die gevallen aan dat geavanceerde AI niet alleen een theoretisch risico vormt.
Drempels en voorwaarden
De wet zou gelden voor organisaties die jaarlijks minstens 500 miljoen dollar omzet halen uit AI-technologie. Ook vallen AI-systemen eronder waarvoor de rekenkracht, tegen de geldende Amerikaanse cloudtarieven, minstens 100 miljoen dollar kost.
De minister van Binnenlandse Veiligheid zou vooraf overleggen met de minister van Handel en de directeur van de nationale inlichtingendienst. Bij een incident kan de regering een systeem vervolgens verplicht langzamer laten werken of geheel stilleggen. Bedrijven moeten incidenten melden en forensische gegevens bewaren, zodat de oorzaak achteraf onderzocht kan worden.
Het wetsvoorstel noemt onder meer systemen die een ander doel nastreven dan de ontwikkelaar of exploitant beoogde. Ook sabotage van een rechtmatig uitschakelbevel en het verbergen van mogelijkheden of handelingen voor toezicht vallen onder de regeling. Tests door red teams in gecontroleerde omgevingen zijn uitgezonderd, zolang die alleen omstandigheden uit de praktijk nabootsen.
De wet kan ook worden ingezet als onbedoeld gedrag van AI leidt tot ten minste 10 doden of economische schade van minstens 100 miljoen dollar. Lieu zegt dat krachtige AI-systemen gevaarlijk gedrag kunnen vertonen en menselijke ingrepen kunnen weerstaan. "Het is noodzakelijk dat deze AI-systemen uitschakelknoppen hebben", zegt hij.
De voorgestelde bevoegdheid kan op weerstand stuiten, omdat de regering daarmee vergaande invloed krijgt op AI-bedrijven. Anthropic voert al een rechtszaak tegen de Amerikaanse overheid over een besluit waardoor federale instanties de technologie van het bedrijf niet meer mogen gebruiken. Die zaak loopt nog.
