阿里通义发布下一代基础模型架构 Qwen3-Next_广告资讯

阿里通义发布下一代基础模型架构 Qwen3-Next

栏目：广告资讯发布时间：2025-09-12

阿里通义Qwen团队近日推出了全新一代基础模型架构Qwen3-Next，并正式开源了基于此架构的Qwen3-Next-80B-A3B系列模型。据悉，该架构在前代Qwen3的MoE结构基础上实现了多项关键升级，主要包括：引入混合注意力机制采用高稀疏度的MoE结构集成多项有助于训练稳定的优化技术加入提升推理效率的多token预测能力Qwen3-Next被视为即将发布的Qwen3.5模型的前瞻版本，致力于增强大模型在超长上下文处理和大规模参数扩展下的训练与推理表现。这一新架构充分体现了未来大模型发展

阿里通义qwen团队近日推出了全新一代基础模型架构qwen3-next，并正式开源了基于此架构的qwen3-next-80b-a3b系列模型。

据悉，该架构在前代Qwen3的MoE结构基础上实现了多项关键升级，主要包括：

引入混合注意力机制
采用高稀疏度的MoE结构
集成多项有助于训练稳定的优化技术
加入提升推理效率的多token预测能力

Qwen3-Next被视为即将发布的Qwen3.5模型的前瞻版本，致力于增强大模型在超长上下文处理和大规模参数扩展下的训练与推理表现。这一新架构充分体现了未来大模型发展的两大核心方向：上下文长度扩展（Context Length Scaling）与总参数量扩展（Total Parameter Scaling）。

其核心模型结构为“Gated DeltaNet + Gated Attention”：

其中，Qwen3-Next-80B-A3B-Base模型具备800亿总参数，但每次推理仅激活约30亿参数，在性能上已达到甚至略微超越Qwen3-32B的dense模型水平，而训练成本却不到后者的十分之一。

快速体验入口：https://www./link/6a12f708b55e1bfdd870fc3ed6292b1b
GitHub项目地址：https://www./link/ee955e252af3c85e66e15864e31174fe
HuggingFace资源页：https://www./link/ada67ce42f7e51433fdc45e523f90ff7
ModelScope魔搭平台：https://www./link/66ecb6b5c02ae7cd2d14d4da82e54feb
阿里云百炼平台：https://www./link/1f2733934120eee94d6f3a7df9ed85b1 搜索Qwen3-Next即可使用

源码下载地址：点击获取

# https # 近日 # 实现了 # 开源 # 主要包括 # 两大 # 基础上 # 下载地址 # 这一 # 前代 # 多项 # git # console # Length # Token # 架构 # qwen # gate # 大模型 # ai # 阿里云 # github

相关栏目：【广告资讯37196 】【广告推广143353 】【广告优化89630 】

上一篇：蚂蚁CEO韩歆毅：5年内让人人都拥有值得托付的AI健康管家

下一篇：马斯克透露：升级版星舰3.0计划明年首飞有望实现完全可复用