Mistral открыла превью Large 4 на 1 трлн параметров
Модель доступна в API Mistral Studio, веса компания обещает выложить до конца октября.
6 октября Mistral AI открыла публичное превью Mistral Large 4 в API Mistral Studio. Сокращённо модель называют ML4, неофициально «le Chonk». Это крупнейшая модель в истории компании.
ML4 — нативно мультимодальная модель на 1 трлн параметров, из которых активны 52 млрд, то есть около 5%. Mistral обучила её с нуля на 3800 GPU NVIDIA Grace Blackwell в собственных дата-центрах в Европе.
Значительная часть обучающего корпуса многоязычная. В него вошли тексты более чем на 160 языках, включая все официальные языки Евросоюза.
Веса Mistral пообещала опубликовать до конца октября. До этого модель тестируют специалисты по кибербезопасности, партнёры и госорганы, для которых модерация ослаблена. Остальные пользователи могут работать с ML4 через API Mistral Studio.
По словам Mistral, ML4 заметно превосходит любые открытые модели из США и Европы и лидирует среди открытых моделей в кибербезопасности, финансах и праве. По данным Telegram-канала, ML4 набрала 62% на DeepSWE и обошла GLM-5.3 от Zhipu AI.
Саму GLM-5.3 центр CAISI при NIST 17 сентября назвал самой способной в кибербезопасности открытой моделью. По его оценке, она отстаёт от американского фронтира примерно на четыре месяца. Отчёт CAISI вышел почти за три недели до анонса Mistral.