Het Amerikaanse AI-bedrijf Arcee ziet geen reden om Chinese open-weight AI-modellen als vanzelfsprekend onveilig te beschouwen. Chief technology officer Lucas Atkins zegt dat organisaties deze modellen op dezelfde manier kunnen beoordelen als andere open software die zij in hun eigen systemen gebruiken.
De discussie over Chinese modellen is toegenomen nu modellen als Kimi K3 van Moonshot AI en Qwen van Alibaba breder worden ingezet. Ze kunnen AI-taken uitvoeren tegen lagere kosten per token dan gesloten modellen van grote Amerikaanse aanbieders. In de Verenigde Staten wordt gesproken over mogelijke beperkingen voor zulke modellen.
Arcee ontwikkelt zelf open modellen als alternatief voor Chinese technologie en zou commercieel kunnen profiteren van een verbod. Toch stelt Atkins dat een modelmaker niet zomaar toegang kan krijgen tot een model dat een klant op de eigen infrastructuur draait. "Er is echt geen manier waarop een Arcee of een Alibaba een model kan maken, iemand het in zijn eigen omgeving kan laten draaien en wij daar vervolgens toegang toe hebben", zegt hij.
Controle vooraf blijft nodig
Open-weight modellen zijn niet volledig open source, omdat de trainingsdata en trainingsmethoden doorgaans niet openbaar zijn. De software die nodig is om het model op servers te draaien, is bij downloads via platforms als Hugging Face vaak wel zichtbaar en te controleren.
Atkins adviseert grote organisaties om modellen eerst aan eigen beveiligingsonderzoek te onderwerpen. Bedrijven kunnen modellen bovendien verder trainen voor hun eigen toepassing en ze testen op onder meer vooroordelen, schadelijke antwoorden, hallucinaties en gevoeligheid voor bepaalde onderwerpen.
Een theoretisch risico is dat een model voor programmeerwerk alleen onder specifieke omstandigheden schadelijke code of een achterdeur produceert. Atkins acht dat moeilijk uitvoerbaar. Taalmodellen leveren door hun variabele en creatieve werking volgens hem niet betrouwbaar dezelfde malware op na een vooraf bepaalde combinatie van context en opdracht. Ook is het niet waarschijnlijk dat een bedrijf zulke code zonder controle overneemt.
Concurrentie via betere modellen
Arcee stelt dat Amerikaanse ontwikkelaars beter kunnen concurreren door sterke open modellen te bouwen dan door Chinese modellen te weren. De beschikbaarheid van Chinese modellen helpt het bedrijf ook om technische keuzes van concurrenten te bestuderen en daarop voort te bouwen.
Daarnaast bouwen ondernemingen hun AI-toepassingen steeds vaker zo dat zij meerdere modellen kunnen gebruiken. Daardoor zijn zij niet blijvend afhankelijk van één Chinese of Amerikaanse aanbieder, ook als een bepaald model op dit moment de beste prijs-prestatieverhouding biedt.
