Meta открыла веса Muse Spark Open на 816 млрд параметров и запустила модель на двух Mac Studio
Мультимодальная MoE-модель с контекстным окном в 1 млн токенов рассчитана на программирование и агентную работу. Веса уже лежат на Hugging Face.
15 октября Meta выложила веса Muse Spark Open. Компания называет её самой мощной американской моделью с открытыми весами. Это нативно мультимодальная MoE-модель на 816 млрд параметров, из которых активны 42 млрд. Окно контекста у неё 1 млн токенов.
По словам Meta, это первая модель такого класса, которую можно запустить на настольном компьютере. Понадобятся два Mac Studio с M5 Ultra и фреймворк MLX. Каждый Mac Studio даёт до 512 ГБ общей памяти, вместе получается около терабайта. TechCrunch со ссылкой на Engadget пишет, что для локального запуска нужно не меньше 1 ТБ оперативной памяти.
В демонстрациях Meta модель полностью локально вносила изменения в iOS-клиент Mastodon Ice Cubes. Ещё она управляла DaVinci Resolve, отбирала лучшие моменты в видео и кадрировала их под вертикальный формат.
API запустили Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter и Together AI. Помимо Hugging Face, веса доступны в Amazon SageMaker AI, Google Cloud Model Garden и Microsoft Foundry Models. Распространяются они по лицензии Muse Model License с ограниченными коммерческими условиями. Модель рассчитана на программирование и агентную работу, и демонстрации Meta построила вокруг именно таких задач.
Раньше Meta выпустила открытую модель Muse Glimmer на 30 млрд параметров, а флагман Muse Spark изначально вышел без открытых весов. Через день после релиза, 16 октября, веса своей модели Beam открыла Reflection AI.