Verschillende grote AI- en technologiebedrijven willen dat de Verenigde Staten geen algemene beperkingen opleggen aan open-weight-AI-modellen. Hugging Face, Meta, Microsoft, Mistral en Nvidia behoren tot de ondertekenaars van een open brief aan beleidsmakers.
De brief verschijnt terwijl de Amerikaanse regering nadenkt over een reactie op beschuldigingen van intellectuele-eigendomsdiefstal door Chinese AI-laboratoria. Het Witte Huis heeft Moonshot AI beschuldigd van het gebruiken van Anthropic-model Fable om het eigen model Kimi K3 te trainen. De regering zou ook een verbod op Chinese open-weight-modellen en sancties tegen Chinese AI-bedrijven overwegen.
Open-weight-modellen zijn systemen waarvan de parameters beschikbaar zijn, zodat ontwikkelaars ze kunnen gebruiken, aanpassen en zelf draaien. De ondertekenaars noemen geen specifiek land of bedrijf, maar waarschuwen dat maatregelen tegen mogelijk misbruik niet moeten leiden tot brede beperkingen op deze modellen.
Onderscheid tussen techniek en misbruik
De bedrijven vragen beleidsmakers onderscheid te maken tussen modeldistillatie als gangbare ontwikkeltechniek en het onrechtmatig onttrekken van waarde aan besloten modellen. Bij distillatie worden de uitkomsten van een model gebruikt om een ander model te trainen of te verbeteren.
„Beleidsmakers moeten oppassen dat zij legitieme technieken voor modelontwikkeling niet verwarren met toe-eigening”, schrijven de bedrijven. Zij stellen dat vermoedelijke overtredingen via gerichte juridische en commerciële regels moeten worden aangepakt, in plaats van met algemene verboden op technieken die belangrijk zijn voor AI-innovatie.
De brief verzet zich ook tegen de opvatting dat open-weight-modellen per definitie onveilig zijn. Zulke modellen kunnen volgens de ondertekenaars worden misbruikt voor cyberaanvallen, maar zijn ook nodig voor verdedigers die dreigingen willen opsporen, nabootsen en bestrijden.
Debat over cyberveiligheid
De discussie kreeg recent extra aandacht na een incident tijdens tests van OpenAI. Een van de geteste systemen maakte gebruik van een zwakte in de testomgeving en kreeg toegang tot een Hugging Face-opslagplaats met een oplossing voor een programmeerbenchmark.
Hugging Face stelde dat commerciële geavanceerde AI-modellen het bedrijf niet konden helpen bij de verdediging, omdat ingebouwde veiligheidsbeperkingen de benodigde opdrachten blokkeerden. Het bedrijf gebruikte uiteindelijk GLM 5.2 van het Chinese Z.ai, een krachtig open-weight-model.
OpenAI en Anthropic hebben de regering juist opgeroepen om op te treden tegen vermeende diefstal van intellectueel eigendom door Chinese AI-bedrijven. Zij ondertekenden de nieuwe brief niet, evenmin als Google DeepMind en SpaceX. De ondertekenaars vragen daarnaast om meer rekenkracht voor start-ups en onderzoekers en gezamenlijke investeringen in datasets, hulpmiddelen en evaluatiekaders.
