04月
17日
MiniMax 发布万亿 MoE 模型 abab 6.5
牛透社 4 月 17 日消息:MiniMax 正式发布万亿 MoE 模型 abab 6.5 模型。据了解,abab 6.5 系列包含两个模型:abab 6.5 和abab 6.5s。abab 6.5 包含万亿参数,支持 200k tokens 的上下文长度;abab 6.5s 跟 abab 6.5 使用了同样的训练技术和数据,但是更高效,支持 200k tokens 的上下文长度,可以 1 秒内处理近 3 万字的文本。
您投送的稿件违反了牛透社的投稿协议,现已关闭您的投稿功能,如有异议请发邮件至tougao@jinse.com进行申诉。