币安——比特币、以太币以及竞争币等加密货币的交易平台(访问: hash.cyou 领取833USDT）

　　Qwen3 旗舰模型，MoE（混合专家模型）模型 Qwen3-235B-A22B，以 2350 亿总参数、220 亿激活参数，在多项主要 Benchmark（测评指标）上超越了 6710 亿总参数、370 亿激活参数的 DeepSeek-R1 满血版。更小的 MoE 模型 Qwen3-30B-A3B，使用时的激活参数仅为 30 亿，不到之前 Qwen 系列纯推理稠密模型 QwQ-32B 的 1/10，但效果更优。更小参数、更好性能，意味着开发者可以用更低部署和使用成本，得到更好效果。图片来自通义千问官方博客。（注：MoE 模型每次使用时只会激活部分参数，使用效率更高，所以有总参数、激活参数两个参数指标。）

　　晚点：这个过程会有什么瓶颈吗？虽然用强化学习做推理模型被认为有很大潜力，但其基础是一个好的预训练模型，比如阿里的推理模型 QwQ-32B 是基于 Qwen2.5-32B，R1 是基于 DeepSeek-v3。而最近 X.ai 发布的预训练模型 Grok 3， 用 20 万张卡带来的提升只有 1.2%（在 Chatbot Arena 上比之前的第一名的总分提升）。当预训练的 Scaling Laws 放缓时，在此基础上做推理模型的提升还能持续多久？