Metaは10月15日、同社のMuse Sparkモデルの重みをダウンロード可能にした「Muse Spark Open」を公開した。同社は、米国のラボによるオープンウェイトモデルとしてこれまでで最も強力だとしている。
ポイント
- 規模と能力：816BパラメータのMoEアーキテクチャで、1トークンあたり42Bのみを活性化する。コンテキストウィンドウは100万トークンで、テキスト・画像・音声・動画の入力にネイティブ対応し、プログラミングと長時間のエージェントタスク向けに訓練されている。
- 評価結果：エージェント評価のJobBenchでスコア61.8を記録し、同種の米国製オープンモデルを大きく上回った。ただし、純粋なプログラミング評価では中国のオープンソースモデルが依然として優位にある。
- デスクトップへ：Appleと協力して最適化され、M5 Ultra搭載のMac Studio 2台でMLXフレームワークを通じてローカル実行できる。2台を合わせると1TBのユニファイドメモリを持つスーパーコンピューターのように動作し、最先端のオープンモデルが初めて本当の意味でデータセンターを離れた。
重みはHugging Faceなどで公開されており、複数のクラウドAPIプラットフォームからも利用できる。商用利用を制限するMuse Model Licenseの下で提供される。
原文リンク：原文を見る。本文は要約であり、参考情報にとどまる。
