Moonshot выложила веса Kimi K3.1 Pro

Китайская Moonshot AI, разработчик Kimi и одна из самых заметных открытых лабораторий Китая, опубликовала полные веса Kimi K3.1 Pro на Hugging Face 4 ноября. До этого модель с 23 октября работала только через API и приложения Kimi, а сама компания обещала выложить веса «до 4 ноября» и уложилась ровно в срок.

Это MoE‑модель на 2,8 трлн параметров, из которых на каждый токен активны 104 млрд, с контекстом в 1 млн токенов и вводом текста и изображений.

Веса выложены сразу в квантованном виде. Модель обучалась с учетом квантования по технологии QAT, поэтому ее веса хранятся в MXFP4, активации считаются в MXFP8. Репозиторий открыт без запроса доступа и занимает около 1,56 ТБ в 96 шардах формата safetensors. Для сравнения, та же модель в BF16 заняла бы около 5,6 ТБ, так что четырехбитный формат здесь условие практической применимости, а не опция.

Что это значит для железа? Восемь B200 по 192 ГБ дают 1,54 ТБ памяти, и веса в один такой узел не помещаются даже без KV‑кэша. Если исходить из простой арифметики, минимальный разумный вариант — узел на восьми B300 (около 2,3 ТБ HBM) или два узла H200. Причем на архитектуре Hopper (H100/H200) нет аппаратной поддержки FP4, из‑за чего производительность инференса, скорее всего, заметно просядет.

Не стоит забывать, что для миллионного контекста сверху нужен огромный запас под кэш. Таким образом, self‑hosting (локальное развертывание) K3.1 Pro по‑прежнему остается задачей уровня полноценного кластера, а не одной стойки с ускорителями.

Перед открытым релизом Moonshot вычистила данные , связанные с кибератаками, из mid‑training и RL. По ее собственному тесту xdev‑bench‑hard версия без фильтрации эксплуатировала 90,5% уязвимостей, выпущенная — 81%. Не часто можно увидеть, когда открытая лаборатория публично платит качеством за безопасность, хотя девять пунктов разницы сложно назвать радикальным ослаблением.

Вендорские цифры взяты из анонса Moonshot, независимые — со страницы модели на Vals AI.

Главный результат подтверждается, на агрегированном Vals Index модель обходит DeepSeek V4.1 Flash и прибавляет почти десять пунктов к K3, а в Terminal‑Bench независимый замер лишь на два пункта ниже заявленного. При этом на отдельных отраслевых тестах Vals картина хуже. В юридических и налоговых агентных задачах K3.1 Pro уступает предшественнице, так что модель явно дотачивали под код и агентов, а не под все сразу.

Веса распространяются под собственной лицензией Kimi K3.1 Pro License, а не MIT. По описанию ее текста внутреннее использование, дообучение и производные модели разрешены без ограничений. Для корпоративного self‑hosting под свои задачи лицензия фактически свободна.

Еще неделю назад верхний сегмент открытых весов выглядел как DeepSeek V4.1 Flash и только что открытая Mistral Large 4. Теперь в нем модель, которая по независимому Vals Index стоит чуть выше DeepSeek, а в агентном коде, по заявлениям Moonshot, почти догоняет Claude Opus 5.5.

В очередной раз релизы крупных моделей идут друг за другом, и гонка «кто лучше в бенчмарках» продолжается. Расстояние между лучшей открытой и лучшей закрытой моделью в агентном коде теперь измеряется единицами процентов, а не поколениями.

«Как вам Kimi в сравнении с DeepSeek и Mistral? Делитесь в комментариях, чьи открытые веса сейчас выглядят интереснее для бизнеса.»

Token Factory: инференс открытых ИИ‑моделей на серверах в РФ

Подключайте GLM, DeepSeek, Qwen и Kimi через OpenAI‑совместимый API и платите в рублях только за используемые токены.

Подробнее →

источник