Em 15 de outubro, a Meta lançou o Muse Spark Open, que abre para download os pesos de seu modelo Muse Spark e que ela descreve como o modelo de pesos abertos mais poderoso de um laboratório americano até agora.
Pontos principais
- Escala e capacidade: arquitetura MoE de 816B parâmetros que ativa apenas 42B por token, janela de contexto de 1 milhão de tokens, suporte nativo a entradas de texto, imagem, áudio e vídeo, e treinamento voltado a programação e tarefas de agentes de longa duração.
- Desempenho em avaliações: marca 61,8 no benchmark de agentes JobBench, bem à frente de modelos abertos americanos comparáveis; em avaliações puras de programação, porém, os modelos de código aberto chineses ainda lideram.
- Rumo ao desktop: otimizado em parceria com a Apple, o modelo pode rodar localmente em dois Mac Studio M5 Ultra por meio do framework MLX; juntas, as duas máquinas funcionam como um supercomputador com 1 TB de memória unificada, e pela primeira vez um modelo aberto de ponta realmente sai do data center.
Os pesos estão disponíveis no Hugging Face e em outros canais, e o modelo também pode ser acessado por várias plataformas de API na nuvem. Ele é distribuído sob a Muse Model License, que restringe o uso comercial.
Link original: ver o original. O texto é um resumo, apenas para referência.
