Le 15 octobre, Meta a lancé Muse Spark Open, qui ouvre au téléchargement les poids de son modèle Muse Spark et qu'elle présente comme le modèle à poids ouverts le plus puissant d'un laboratoire américain à ce jour.
Points clés
- Taille et capacités : architecture MoE de 816 milliards de paramètres n'en activant que 42 milliards par token, fenêtre de contexte d'un million de tokens, prise en charge native des entrées texte, image, audio et vidéo, et entraînement orienté vers la programmation et les tâches d'agents de longue durée.
- Performances en évaluation : il obtient 61,8 au benchmark d'agents JobBench, bien devant les modèles ouverts américains comparables ; en programmation pure, toutefois, les modèles open source chinois restent en tête.
- Vers le poste de travail : optimisé en collaboration avec Apple, le modèle peut tourner en local sur deux Mac Studio M5 Ultra via le framework MLX ; les deux machines réunies se comportent comme un supercalculateur doté de 1 To de mémoire unifiée, et pour la première fois un modèle ouvert de pointe quitte réellement le centre de données.
Les poids sont disponibles sur Hugging Face et d'autres canaux, et le modèle est aussi accessible via plusieurs plateformes d'API cloud. Il est publié sous la Muse Model License, qui restreint l'usage commercial.
Lien d'origine : consulter l'article original. Ce texte est un résumé, fourni à titre indicatif uniquement.
