フランスのAI研究所Mistralは10月6日、これまでで最大かつ最強のモデルMistral Large 4を発表した。社内コードネームは「Le Chonk」（「太った大きな猫」の意）で、米国のクローズドな最先端モデルと中国のオープンウェイトモデルに正面から挑む。
要点その1：1兆パラメータの混合専門家アーキテクチャ。モデルの総パラメータ数は1兆で、1回の推論で有効になるのは49Bのみ。ネイティブのマルチモーダルで、160以上の言語に対応し、コンテキストウィンドウは最大100万トークンに及ぶ。APIの公開プレビューはすでに始まっている。
要点その2：欧州での効率的な訓練。モデルはMistral自社の欧州データセンターで、約3800基のNvidia Grace Blackwell GPUを使い、ゼロから訓練された。訓練の計算量は中国の競合の2分の1から3分の1にとどまるとされる。
要点その3：突出したサイバーセキュリティ能力。ベンチマークのCyberGym-E2Eで82%、Cybenchで93%を記録した。一方、ClaudeやGPTなどのクローズドモデルは回答拒否のため、この項目ではほぼゼロ点だった。CEOのArtur Mensch氏は、「欧州は競争できない」という見方は成り立たないと述べた。完全なオープンウェイトは10月末に公開される見込みである。
原文リンク：原文を読む。本文は要約であり、参考用である。
