Meta har lanserat Muse Glimmer, en AI-modell med 30 miljarder parametrar som är byggd för lokala AI-agenter. Modellen kan hantera längre uppgifter i flera steg, använda verktyg och tolka både text och bilder utan att vara beroende av en molntjänst.
Det här är inte samma produkt som Muse Code, som Meta släppte i beta den 5 augusti och som Nördigt redan har skrivit om. Muse Code är en färdig kodagent som körs från terminalen och drivs av Muse Spark 1.2. Muse Glimmer är i stället själva AI-modellen, som utvecklare kan ladda ned och använda för att bygga egna lokala agenter.
Muse Glimmer har tränats genom så kallad destillering från Muse Spark. Det innebär förenklat att den mindre modellen har fått lära sig från svar och resonemang som skapats av den större modellen.
Meta har bland annat tränat Glimmer för att planera uppgifter, anropa olika verktyg och försöka igen när ett verktyg misslyckas. Modellen kan även analysera skärmbilder, diagram och dokument, vilket gör den användbar för mer än enbart programmering.
Modellvikterna finns nu på Hugging Face och släpps under licensen Apache 2.0. Det betyder att utvecklare får ladda ned, anpassa och bygga vidare på modellen.
Lokal AI betyder dock inte att Muse Glimmer fungerar bra på vilken bärbar dator som helst. I full precision kräver modellen mer än 55 GB minne. Metas komprimerade version är mindre än 20 GB och är anpassad för system med omkring 24 eller 32 GB tillgängligt minne.
