15 октября Meta выпустила Muse Spark Open, открыв для скачивания веса своей модели Muse Spark; компания называет её самой мощной на сегодня моделью с открытыми весами от американской лаборатории.
Главное
- Масштаб и возможности: архитектура MoE на 816 млрд параметров, из которых на каждый токен активируются лишь 42 млрд; контекстное окно в 1 млн токенов; встроенная поддержка текста, изображений, аудио и видео на входе; обучение ориентировано на программирование и длительные задачи агентов.
- Результаты тестов: на агентном бенчмарке JobBench модель набрала 61,8 балла, намного опередив сопоставимые американские открытые модели; однако в чисто программистских тестах по-прежнему лидируют китайские модели с открытым кодом.
- Путь на рабочий стол: оптимизированная совместно с Apple, модель может работать локально на двух Mac Studio с чипами M5 Ultra через фреймворк MLX; две машины вместе действуют как суперкомпьютер с 1 ТБ единой памяти, и впервые передовая открытая модель по-настоящему покидает дата-центр.
Веса доступны на Hugging Face и других площадках, а модель можно также использовать через несколько облачных API-платформ. Она выпущена по лицензии Muse Model License, ограничивающей коммерческое использование.
Первоисточник: читать оригинал. Текст представляет собой краткое изложение и приведён только для справки.
