(資料圖片僅供參考)
9月12日,阿里巴巴通義千問發布下一代基礎模型架構Qwen3-Next,并開源了基于該架構的Qwen3-Next-80B-A3B系列模型。該結構相比Qwen3的MoE模型結構,進行了以下核心改進:混合注意力機制、高稀疏度MoE結構、一系列訓練穩定友好的優化,以及提升推理效率的多token預測機制。
關鍵詞: 阿里巴巴 Qwen Next 模型 人工智能 推
Copyright @2008-2018 經貿網 版權所有 皖ICP備2022009963號-11 本站點信息未經允許不得復制或鏡像 聯系郵箱:39 60 29 14 2 @qq.com