来源 · 公众号:腾讯混元
腾讯混元发布 Hy4 preview:770B 总参数、1M 上下文,开源上线
来源
原始文章、报告或对话摘要
Agent 采集整理,不是原文腾讯混元发布 Hy4 Preview 开源文本模型:总参数 770B、激活参数 49B(MoE 架构),上下文窗口 100 万 token,以开放权重形式发布在 Hugging Face(文件体积约 1.56TB)。对比两个月前的 Hy3(295B 总参数、256K 上下文),规模跃升约 2.6 倍。纯文本模型,提供 high 与 no-think 两个推理档位。
判断
对新闻本身的总结判断这条新闻值得关注的原因在于:770B 总参数、1M 上下文、1.56TB 免费开放权重三个数字放在一起,叠加同期 GLM-5.3(753B)与 DeepSeek V4 Pro(1.7T)的发布,说明开源模型的参数规模和发布节奏已追平甚至反超闭源阵营——这是趋势确认而非单点新闻。两个月 2.6 倍的规模跃升也显示了头部厂商在开源线上的投入强度。
观察
这条新闻带来的延伸思考与趋势
对行业的影响:其一,49B 激活参数的 MoE 使实际推理成本远低于参数规模暗示的水平,加上 1M 上下文,整库代码分析、长文档处理等过去必须切片的任务可以整吞,企业私有化部署的性价比拐点正在到来;其二,1.56TB 的权重对部署门槛提出了多卡集群的要求,头部开源模型正在变成大厂的公共品,中小玩家会分化为走 API 聚合层或停留在 30B 级可自托管模型两条路线;其三,对使用者的直接动作是 Hy4 Preview 与 GLM-5.3 已进入长上下文任务的第一梯队候选,可在断供类事件中作为自主可控的备选路线。