09月
11日
月之暗面开源 Checkpoint Engine 中间件，实现万亿参数模型 20 秒热更新
牛透社 9 月 11 日消息，中国人工智能企业月之暗面（MoonshotAI）发布开源中间件 Checkpoint Engine，该产品专为 LLM 推理引擎设计，具备模型权重原地热更新技术，主要应用于强化学习场景。
经验证，Checkpoint Engine 仅需 20 秒即可完成 1 万亿参数的 Kimi-K2 模型权重同步，支持数千个 GPU 并行操作。其与 vLLM 框架深度耦合，采用 Apache 2.0 协议开源，可扩展兼容 SGLang 等框架，显著提升全流程运算效率并缩短研发周期。
