Y Combinator-topman Garry Tan wil dat Amerikaanse ontwikkelaars van open-weight AI-modellen toegang krijgen tot dezelfde distillatietechnieken die Chinese AI-labs zouden gebruiken. Volgens Tan moeten kleinere Amerikaanse bedrijven frontier-modellen kunnen bevragen om kennis en redeneerpatronen over te nemen, zolang zij dat legaal en openlijk doen.
Bij distillatie wordt een AI-model uitgebreid bevraagd door een ander model. De antwoorden en redeneerstappen worden vervolgens gebruikt om een nieuw model te trainen. De techniek wordt vaker en op zichzelf legitiem toegepast bij de ontwikkeling van AI-systemen.
Discussie over toezicht
De oproep van Tan komt op een moment dat de discussie over distillatie is opgelaaid. Anthropic beschuldigde Chinese AI-bedrijven onlangs van zogenoemde illegale distillatieaanvallen. Die bedrijven zouden hun identiteit verbergen, frauduleus handelen en gestolen inloggegevens gebruiken om zonder toestemming toegang te krijgen tot modellen.
Anthropic-topman Dario Amodei heeft Amerikaanse toezichthouders eerder opgeroepen om strenger tegen zulke praktijken op te treden. Tan vindt juist dat Amerikaanse labs de mogelijkheid moeten krijgen om frontier-modellen via de voordeur te distilleren. Hij pleit dus niet voor het gebruik van gestolen accounts of andere vormen van fraude.
Tan noemt het te vergaand als AI-bedrijven bepalen wat klanten met de informatie uit API-aanroepen mogen doen. Volgens hem zijn de modellen getraind met grote hoeveelheden publiek beschikbare menselijke kennis. Daarom zou ook de toegang tot de uit die kennis voortgekomen intelligentie meer als een publiek goed moeten worden behandeld, in plaats van volledig achter beperkende gebruiksvoorwaarden te verdwijnen.
Tegelijkertijd wil Tan dat bedrijven die de krachtigste modellen ontwikkelen geld kunnen blijven verdienen. Hij zegt dat frontier-labs de technologische vooruitgang aanjagen en daarom een houdbaar bedrijfsmodel nodig hebben. Open modellen moeten daarnaast zorgen voor meer vrijheid en toegang voor gebruikers.
Volgens Tan ontstaat het grootste risico als alle geavanceerde AI in handen komt van één commerciële aanbieder. Zo'n bedrijf zou door een voorsprong in kapitaal en onderzoekers steeds verder kunnen uitlopen, waardoor een vrijwel onaantastbare machtspositie ontstaat. Een bredere groep Amerikaanse open-modelbedrijven kan die ontwikkeling volgens hem helpen voorkomen.
