Le laboratoire français d'IA Mistral a lancé le 6 octobre Mistral Large 4, son modèle le plus grand et le plus puissant à ce jour, au nom de code interne « Le Chonk » (« gros chat »), défiant frontalement les modèles fermés de pointe américains et les modèles chinois à poids ouverts.
Premier point : une architecture de mélange d'experts d'un billion de paramètres. Le modèle compte 1 billion de paramètres au total, dont seulement 49 milliards sont activés à chaque inférence ; il est nativement multimodal, prend en charge plus de 160 langues et dispose d'une fenêtre de contexte pouvant atteindre 1 million de tokens. L'aperçu public de l'API est déjà en ligne.
Deuxième point : un entraînement efficace en Europe. Le modèle a été entraîné de zéro dans les propres centres de données européens de Mistral, avec environ 3 800 GPU Nvidia Grace Blackwell, et, selon les informations disponibles, avec seulement la moitié à un tiers de la puissance de calcul d'entraînement de ses concurrents chinois.
Troisième point : des capacités remarquables en cybersécurité. Il obtient 82 % sur le benchmark CyberGym-E2E et 93 % sur Cybench, tandis que des modèles fermés comme Claude et GPT affichent un score proche de zéro à ce test, car ils refusent de répondre. Le PDG Artur Mensch affirme que l'idée selon laquelle « l'Europe ne peut pas rivaliser » ne tient pas. Les poids ouverts complets devraient être publiés fin octobre.
Lien d'origine : lire l'article original. Ce texte est un résumé fourni à titre indicatif uniquement.
