Французская ИИ-лаборатория Mistral 6 октября выпустила Mistral Large 4 — свою самую крупную и мощную модель на сегодня, с внутренним кодовым названием «Le Chonk» («толстый кот»), бросив прямой вызов американским закрытым передовым моделям и китайским моделям с открытыми весами.
Пункт первый: архитектура «смесь экспертов» с триллионом параметров. Всего в модели 1 трлн параметров, при каждом выводе активируется лишь 49 млрд; она изначально мультимодальна, поддерживает более 160 языков, а контекстное окно достигает 1 млн токенов. Публичный предварительный доступ к API уже открыт.
Пункт второй: эффективное обучение в Европе. Модель обучена с нуля в собственных европейских дата-центрах Mistral на примерно 3800 GPU Nvidia Grace Blackwell, причём, по сообщениям, на вычислительных мощностях в два-три раза меньших, чем у китайских конкурентов.
Пункт третий: выдающиеся возможности в кибербезопасности. На бенчмарке CyberGym-E2E модель набрала 82%, на Cybench — 93%, тогда как закрытые модели вроде Claude и GPT получили в этом тесте почти ноль из-за отказов отвечать. Генеральный директор Artur Mensch заявил, что утверждение «Европа не может конкурировать» несостоятельно. Полные открытые веса ожидаются в конце октября.
Оригинал: читать первоисточник. Текст является кратким изложением и носит справочный характер.
