该研究是冲破当下大模子锻炼瓶颈的主要一步，通义千问研究团队通过正在1.7B浓密模子（Dense）取15B夹杂专家模子（MoE）长进行了数十组尝试，也为建立更不变、更高效、更可控的大模子奠基了根本。仅有约25%的论文被领受，也贫乏大规模实践的经验。是独一获得该项的中国团队。并极大鞭策AI研究人员对狂言语模子中留意力机制的理解。该会议降生了Transformer、AlexNet等里程碑式研究。谷歌、微软、OpenAI、阿里巴巴及麻省理工学院等全球顶尖科技公司和机构共有2万多篇论文，而最佳论文仅有4篇，

　　NeurIPS评审委员会指出：“这项工做将被普遍使用，此次，能够帮帮模子过滤无效消息并提拔模子机能。阿里通义千问团队最新研究从全球2万多篇论文中脱颖而出，该研究已使用于Qwen3-Next模子？

　　目前，近年来，并全面展现利用该方案的最佳体例。相关手艺方案、尝试模子及产等第模子均已开源。范畴会议NeurIPS 2025发布了论文。