Nebius neemt Inferize over, een bedrijf dat technologie ontwikkelt voor het sneller opstarten van AI-modellen. Het op de Nasdaq genoteerde AI-cloudbedrijf voegt de technologie en het team direct toe aan Token Factory, zijn beheerde platform voor productie-inferentie. Financiële details over de transactie zijn niet bekendgemaakt.
Bij het uitvoeren van AI-modellen vormt de zogenoemde cold start een belangrijk knelpunt. Dat is de tijd die een model nodig heeft om te laden voordat het verzoeken kan verwerken. Dit kan leiden tot vertragingen en hogere kosten, omdat GPU's tijdens het opstarten, bij pieken in de vraag of bij het bijwerken van modelgewichten onbenut blijven.
Minder ongebruikte capaciteit
Om aan afgesproken serviceniveaus te voldoen, houden platforms vaak extra GPU-capaciteit beschikbaar. Die reserve maakt het mogelijk om snel op te schalen, maar verhoogt ook de kosten wanneer de capaciteit niet wordt gebruikt. De technologie van Inferize moet ervoor zorgen dat beschikbare capaciteit sneller meebeweegt met het werkelijke gebruik. Daardoor kunnen GPU's een groter deel van de tijd actief zijn.
"Het goed laten draaien van inferentie vereist meer dan alleen snelle GPU's en geoptimaliseerde modellen," zegt Danila Shtan, chief technology officer van Nebius. "Het gehele systeem moet kunnen reageren op veranderende vraag, inclusief de snelheid waarmee extra capaciteit paraat is. Inferize brengt technologie én een team met diepgaande expertise in GPU-systemen. We zetten beide in om Token Factory reactiever te maken en meer werk uit onze infrastructuur te halen."
Inferize werd opgericht in januari 2026 en ontwikkelde binnen drie maanden een werkend prototype. Met de overname haalt Nebius aanvullende kennis in huis op het gebied van systeemtechniek en GPU-systemen.
Verdere uitbreiding van het platform
De overname volgt op eerdere uitbreidingen van Nebius op het gebied van productie-inferentie. Het bedrijf voegde eerder met Eigen AI optimalisaties toe op model-, kernel- en systeemniveau. Ook bracht het team van Clarifai technologie voor orkestratie op systeemniveau binnen.
"Het aanhouden van reserve-GPU's is de prijs die je betaalt om klaar te zijn voor pieken in de vraag," zegt Guy Bortnikov, medeoprichter en CEO van Inferize. "Het elimineren van die kosten is exact waarvoor we Inferize hebben gebouwd. Bij Nebius kan deze technologie direct op platformniveau worden toegepast om meer werk uit elke GPU te halen."
