Mistral Large 4 (Le Chonk) выложили на Hugging Face

29 октября 2026 года на Hugging Face опубликовали Mistral Large 4, она же Le Chonk. Это мультимодальная и многоязычная модель от Mistral, построенная по схеме MoE (Mixture-of-Experts, смесь экспертов: на каждый токен активируется только часть весов). На вход принимает текст и изображения, на выходе — текст. Заявлено около 1 трлн параметров всего, 49 млрд активных и контекстное окно в 1 млн токенов. Веса распространяются под Mistral Ecosystem Open-Weight License — это производная от MIT с ограничениями для тех, кто предлагает модель как сервис.

Главное отличие от прежних версий — два вида разреженности сразу. Первый: большой пул экспертов, из которого для каждого токена выбирается небольшая группа. Второй: sparse attention (разреженное внимание) с индексером, который решает, на какие более ранние позиции токенов смотреть. К этому добавлен Pixtral vision encoder (кодировщик изображений). GGUF-версии (квантованный формат весов для локального запуска) подготовили Unsloth и команда llama.cpp — то есть модель можно поднять не только на серверных ускорителях.

На практике заявлены три сильные стороны: кибербезопасность, кодинг-агенты и мультимодальность. Инференс поддержан в Transformers, vLLM и llama.cpp, дообучение — через TRL. Отдельно упомянуты Inference Endpoints и Dell Enterprise Hub. Для команд, которые собирают агентов с работой по коду или разбором скриншотов и документов, это готовый набор инструментов под одну модель. Лицензия при этом не чистый MIT: если вы отдаёте модель наружу как сервис, стоит прочитать ограничения, а не тянуть веса в продакшен по привычке.

Что осталось неизвестным: в тексте анонса есть раздел про бенчмарки, но конкретных чисел не приведено. Цены на использование через Inference Endpoints тоже нет. Объём обучающих данных и число экспертов не раскрыты — данных нет.