MacPaw werkt samen met Liquid AI aan AI-modellen die lokaal op apparaten kunnen draaien. De Oekraïense ontwikkelaar wil de techniek inzetten voor zijn eigen producten, waaronder de AI-assistent Eney, en deze later aanbieden aan makers van apps voor de abonnementsdienst Setapp.
Liquid AI ontwikkelt voor MacPaw een systeem voor AI-verwerking op het apparaat, Elix genoemd. Daarnaast bouwen de bedrijven aan een lokaal geheugensysteem. Daardoor hoeven gegevens voor bepaalde AI-taken niet naar externe servers te worden verstuurd.
Liquid AI kiest vooraf een modelarchitectuur die aansluit op de gebruikte hardware, zegt medeoprichter en topman Ramin Hasani. „Dat stelt ons in staat de meest efficiënte versie van intelligentie te maken die rechtstreeks op het apparaat draait, met voordelen zoals privacy en beveiliging.”
Eney ook zonder internet
MacPaw presenteerde Eney vorig jaar en werkt nu aan een versie die lokaal functioneert. Topman Oleksandr Kosovan zegt dat lokaal draaiende modellen gebruikers ook de mogelijkheid geven om assistenten en geautomatiseerde taken zonder internetverbinding te gebruiken.
Apple biedt ontwikkelaars al eigen lokale AI-modellen aan. Liquid AI zegt zich te willen onderscheiden met modellen die zijn afgestemd op prestaties bij verschillende taken. Het bedrijf werkt ook aan een systeem waarmee modellen zich met input van gebruikers kunnen aanpassen en in de loop van de tijd beter kunnen presteren.
Setapp telt meer dan 150.000 betalende gebruikers en MacPaw wil de dienst nadrukkelijker richten op AI-apps. De appwinkel werkt met een abonnement, waarbij gebruikers toegang krijgen tot een verzameling software.
Credits voor AI-taken
MacPaw test in Setapp al een prijsmodel met credits. Gebruikers kunnen daarmee een bepaald aantal AI-handelingen uitvoeren. Hoeveel credits een taak kost, hangt af van de complexiteit ervan.
Als de technische opzet voor lokale verwerking met Liquid AI gereed is, wil MacPaw die beschikbaar stellen aan ontwikkelaars. Zij moeten daarmee AI-verwerking op apparaten in hun eigen apps kunnen inbouwen.
Het platform moet ontwikkelaars daarnaast toegang bieden tot cloudmodellen van andere bedrijven, waaronder Google. MacPaw wil zo één omgeving aanbieden waarin ontwikkelaars kunnen kiezen tussen lokale AI en modellen die via de cloud werken.
