06月
22日
蚂蚁技术团队开源轻量级推理模型 Ring-lite
牛透社 6 月 21 日消息,蚂蚁技术团队发布轻量级推理模型 Ring-lite,该产品具备混合专家架构(MoE)与稀疏激活路径下的 SOTA 效果,主要应用于数学、编程及科学领域推理任务。
Ring-lite 总参数量达 168 亿,激活参数量为 27.5 亿(仅传统稠密模型的三分之一),在 AIME24/25 等评测中性能匹敌激活参数 3 倍于己的 100 亿级 Dense 模型,高考数学全国 I 卷得分达 130 分(满分 150)。本次开源包含模型权重、训练代码及全球首个透明化 MoE 训练全链路框架。