Meta выпустила Muse Glimmer, открытую агентную модель, которую можно запускать прямо на компьютере

Meta выпустила Muse Glimmer, открытую агентную модель, которую можно запускать прямо на компьютере

В модели 30 млрд параметров и рассчитана на устройства с 24 или 32 ГБ памяти, включая Mac и ПК с одной потребительской видеокартой.

Glimmer специально обучали не просто отвечать на вопросы, а работать как агент. Она умеет вызывать инструменты, выполнять длинные цепочки действий, восстанавливаться после ошибок, писать код и одновременно понимать текст и изображения. Поддерживается более 100 языков.

Для ускорения Meta добавила отдельную маленькую модель DFlash, которая заранее предлагает сразу несколько токенов. На RTX 5090 это ускоряет генерацию в 3,1 раза, на M5 Max в 1,8 раза, на M4 Max в 1,5 раза.

Веса опубликованы под Apache 2.0. Модель также появится в Ollama, LM Studio и Unsloth, плюс получит оптимизации для llama.cpp, MLX и ExecuTorch.