DeepSeek presenteert met DeepSeek Elastic Compute, afgekort DSec, een infrastructuur voor het trainen en evalueren van AI-agenten op grote schaal. Het platform biedt één software development kit voor verschillende soorten sandboxen: functieaanroepen, containers, microVM's en volledige virtuele machines.
AI-agenten moeten tijdens hun training vaak bestanden doorzoeken, programma's uitvoeren, hulpmiddelen aanroepen en verbinding maken met diensten die bij een specifieke taak horen. Daarvoor zijn geïsoleerde werkomgevingen nodig die hun toestand tijdens langere interacties bewaren. Volgens de beschrijving van DSec kunnen zulke omgevingen in korte tijd in grote aantallen worden aangemaakt en stellen ze uiteenlopende eisen aan functies en beveiliging.
Eén platform voor verschillende werkomgevingen
DSec regelt binnen een cluster waar een sandbox wordt uitgevoerd en beheert ook de levenscyclus ervan. Omgevingen worden opgebouwd uit afzonderlijke lagen die onafhankelijk van elkaar kunnen worden bijgewerkt. Daardoor kunnen onderdelen van een omgeving worden hergebruikt of vervangen zonder dat het volledige geheel opnieuw hoeft te worden samengesteld.
Het platform combineert geheugendeling met het vrijmaken van niet langer gebruikte bronnen en met planning van processortijd. Die combinatie moet een hoge dichtheid aan gelijktijdige uitvoeringen mogelijk maken. De infrastructuur gebruikt daarnaast beeldbestanden die op aanvraag worden geladen uit het Fire-Flyer File System, een gedistribueerd bestandssysteem dat door meerdere machines in een cluster kan worden gebruikt.
De aanpak is afgestemd op een framework voor reinforcement learning. DSec houdt de uitvoering van zogenoemde rollouts, waarin een model taken doorloopt en interacties uitvoert, gescheiden van de training op GPU's. Die trainingscapaciteit kan daardoor tijdelijk worden onderbroken of opnieuw worden toegewezen, terwijl lopende uitvoeringen hun toestand behouden.
De beschreven opzet richt zich daarmee niet op één vast type runtime, maar op een combinatie van uitvoeringsomgevingen die afhankelijk van de taak kan worden ingezet. Het platform is bedoeld voor systemen waarin grote aantallen AI-agenten zelfstandig handelingen uitvoeren en waarbij de benodigde infrastructuur sterk kan wisselen gedurende het trainingsproces.
