Infinity heeft een investeringsronde van 15 miljoen dollar afgerond bij een waardering van 100 miljoen dollar. Touring Capital en Principal VC behoren tot de investeerders, net als onderzoekers die werken bij onder meer OpenAI en Anthropic.
De start-up ontwikkelt software voor het uitvoeren van AI-modellen, ook wel inference genoemd. Die software moet het eenvoudiger maken om chips van verschillende fabrikanten te gebruiken voor AI-toepassingen.
Nvidia heeft een sterke positie in de markt, mede door CUDA, de softwarelaag waarmee ontwikkelaars toepassingen voor de grafische chips van het bedrijf kunnen bouwen. Grote AI-frameworks zoals PyTorch en TensorFlow sluiten daar op aan, waardoor veel software standaard op Nvidia-chips draait.
Alternatief voor bestaande chipsoftware
Infinity wil een vergelijkbare laag ontwikkelen die niet aan één type hardware is gebonden. De software moet onder meer kunnen werken met GPU's, chips voor telefoons, SRAM-geheugen en systolische arrays, een type gespecialiseerde rekenhardware.
Het bedrijf zet daarvoor onderzoeksagent Ignition in. Die schrijft laag-niveaucode die nodig is om AI-inference op alternatieve chips uit te voeren. Vervolgens test en controleert de agent de code, meet hij de prestaties en past hij de programmatuur aan als een betere uitvoering mogelijk is.
Oprichter Jeremy Nixon zegt dat het systeem zich aan verschillende chiparchitecturen kan aanpassen, ook wanneer die propriëtaire onderdelen bevatten. Mensen geven daarbij de hoofdlijnen aan, terwijl de agent een groot deel van het programmeer-, test- en optimalisatiewerk uitvoert.
Infinity stelt in een praktijkonderzoek dat het proces hierdoor kan worden teruggebracht van maanden of jaren naar uren of dagen. Die prestatieclaim is nog niet onafhankelijk bevestigd.
Verdienmodel op basis van betere prestaties
Chipmaker D-Matrix gebruikt de technologie van Infinity al. Het bedrijf voert daarnaast gesprekken met andere grote chip- en cloudbedrijven, aldus Nixon.
Infinity vraagt geen licentievergoeding vooraf. In plaats daarvan ontvangt het bedrijf een deel van de prestatieverbetering en kostenbesparing die klanten met de software realiseren. Daarbij kijkt het naar veranderingen in het aantal tokens dat per seconde verwerkt kan worden.
Infinity werd vorig jaar opgericht door Nixon, die eerder onderzoeker was bij Google Brain en AGI House opzette, een netwerk voor hackers en AI-onderzoekers. De start-up heeft 26 werknemers in ontwerp, bedrijfsvoering en techniek.
