Meta* представила Muse Glimmer — мультимодальную модель с открытыми весами для локальных ИИ-агентов. Она рассчитана на многошаговые задачи: работу с инструментами, файлами, изображениями и длинным контекстом.
Muse Glimmer — плотная модель примерно на 30 млрд параметров с контекстным окном более 131 тыс. токенов. Веса распространяются по лицензии Apache 2.0. Подробнее в материале Postium.
Читайте также: Как скачать и установить Codex на ПК
Нейросеть Muse Glimmer: что умеет и как работает
Muse Glimmer дистиллировали из Muse Spark. Модель умеет выполнять многошаговые рассуждения, вызывать инструменты и функции, работать с кодом и изображениями.
Muse Glimmer запускается на собственном оборудовании без обязательного обращения к внешнему API. По данным NVIDIA, для запуска достаточно одной совместимой видеокарты. В списке поддерживаемых платформ — GeForce RTX 5090, DGX Spark, DGX Station и Jetson.
Muse Glimmer использует плотную архитектуру: при обработке каждого токена работают все параметры языковой части модели. В Mixture of Experts для каждого запроса задействуется только часть «экспертов».
Для локального запуска есть и квантованные версии. Вариант примерно на 17 ГБ рассчитан на системы с 24 ГБ памяти, более качественная версия — примерно на 32 ГБ.
AMD протестировала Muse Glimmer в llama.cpp на Windows. В её замерах модель выдавала до 24 токенов в секунду на Ryzen AI Max+ 395 и до 53 токенов в секунду на Radeon AI PRO R9700 с dFlash. Это предварительные результаты для конкретных конфигураций, а не универсальные требования к оборудованию.
Как пользоваться Muse Glimmer
Веса Muse Glimmer доступны на Hugging Face. Для запуска подходят llama.cpp, Transformers, SGLang и vLLM. NVIDIA также предлагает контейнер NIM.
На поддерживаемых системах AMD предлагает запуск через LM Studio. Ещё один вариант — llama.cpp и локальные серверы, совместимые с OpenAI API.
Что это меняет? Muse Glimmer можно развернуть на собственном компьютере или в локальной инфраструктуре. При полностью локальном запуске данные и контекст задачи не уходят во внешний облачный сервис. Для работы нужны подходящее оборудование и среда запуска.
Итог: Muse Glimmer — открытая 30-миллиардная модель Meta* для локального запуска ИИ-агентов.
*Meta — признана экстремистской организацией и запрещена в РФ.
