跳转到正文
分享一个业务流程。DRING 两分钟内给您回电,梳理具体需求。 两分钟内接到回电
2 分钟内接到回电 查看 Agent Factory
大语言模型指南 · Qwen、DeepSeek、Gemini、GPT、Claude

模型名称里藏着什么?

供应商的 PPT 上写着,他们的助手底层用的是 Qwen3-Coder-480B-A35B-Instruct。会议接着往下开,没人问 A35B 是什么意思,您也没问。

A35B 是真正干活的那部分

Qwen3-Coder-480B-A35B-Instruct 这个名称里,A35B 指的是 350 亿激活参数。再看 A 前面的 480B,那是总参数,一共 4,800 亿个,每一个都是模型训练时学到的数字。模型读写文字时以 token 为单位,也就是一小段一小段的文字,每处理一个 token,真正出力的只有其中 35B 参数。这两个数字都写在 Qwen 的模型卡上。

名称里会出现 A,是因为这个模型采用混合专家(MoE)结构,由许多小模块拼成,每个 token 只调用其中几个。两个数字各对应一种开销。总参数决定模型要占多少内存,因为每个模块都得先加载好待命。激活参数决定每个 token 要做多少运算,速度和运行成本都取决于它。552B 的 DeepSeek-V4.1-Flash,每读一个 token 只动用 8B 参数,靠的就是这种分工。

供应商的 PPT 里最常出现的,是五个系列:Qwen、DeepSeek、Gemini、GPT 和 Claude。Qwen 和 DeepSeek 公开模型文件和规模,Qwen 把规模直接写进名称,DeepSeek 写在模型卡上。Claude、GPT 和 Gemini 完全不公布规模,名称遵循的是另一套规则。

怎么读懂一个模型名称?

把这个 Qwen 名称按连字符拆开,会得到五段,每一段回答一个不同的问题。

一个模型名称的五个部分:系列、专长、总参数、激活参数和微调。

Qwen3 表示系列和代际,Coder 表示专长,因为这个模型是专门为写代码设计的。再往后是两个规模数字:总参数 480B,激活参数 A35B。末尾的 Instruct 说明微调的方向,在这里就是遵循指令。Qwen 还注明,这个模型只在它所说的非思考模式下运行,也就是不会先把问题一步步想清楚再回答。

参数规模不止于十亿级。Qwen3.8-2.4T-A95B 的总参数是 2.4T,T 代表万亿,所以 2.4T 就是 2.4 万亿,折合 2,400B,其中每个 token 用到 95B。

名称里没有 A 的模型,得多留个心眼。Qwen3.6-27B 就没有,因为它是稠密模型,每个 token 都会用上全部 27B 参数。OpenAI 的开放权重模型 gpt-oss-120b 同样没有 A,却是混合专家模型,总参数 117B,激活参数 5.1B。连名称里的 120 也只是个约数,模型卡上写的是 117B。名称没写全的时候,就去翻模型卡。

FP8、BF16 这类标记给出的是精度,也就是每个参数用多少位来存。BF16 是 16 位(2 字节),FP8 是 8 位(1 字节)。Qwen3.6-27B-FP8 就是按 8 位存储的 Qwen3.6-27B,占用内存更少,27B 参数一个不少。

结尾的数字有时是日期。DeepSeek 在 2026年9月10日发布了 V4.1-Flash,10月17日又推出架构相同的更新版,取月和日作后缀,叫 V4.1-Flash-1017。至于 Flash、Lite、Pro、Mini 这类档位词,含义由各家厂商自己定。

552B 的模型,为什么跑起来像 8B?

MoE 模型里,大部分参数分布在许多小型网络中,这些小网络就是专家。每处理一个 token,路由器都会从中挑出几位专家,只有这几位被激活并参与计算,其余的留在内存里待命。被激活的专家算出的结果,在模型里继续往下传,最后变成回答。

DeepSeek-V4.1-Flash 有 384 个路由专家,路由器每次挑 6 个,另有 1 个共享专家每次都参与。按 DeepSeek 给出的数字,模型读取输入时的激活参数是 8B,写出回答时是 16B,总参数则是 552B。Qwen3.6-35B-A3B 的做法一样,只是规模小一些:256 个专家里每个 token 用 8 个,再加 1 个共享专家,最终是 35B 里的 3B。

每个 token 的激活参数,占该模型总参数的比例。每根条形代表该模型自己的总参数,所以各条之间并不在同一个刻度上。图中的 DeepSeek-V4.1-Flash 是读取输入时的数值,写出回答时用 16B。

把六个模型放在一起看,其中每个 MoE 模型的激活部分都不到总参数的 9%。DeepSeek-V4.1-Flash 读取输入时用 552B 中的 8B,约占 1.4%,是图中占比最小的。Qwen3.8-2.4T-A95B 和 gpt-oss-120b 比较接近,分别是 2.4T 中的 95B(4.0%)和 117B 中的 5.1B(4.4%)。Qwen3-Coder-480B-A35B-Instruct 用 480B 中的 35B(7.3%),Qwen3.6-35B-A3B 用 35B 中的 3B(8.6%)。只有稠密模型 Qwen3.6-27B 是全部用上,27B 中的 27B。

内存是另一笔账。下一个 token 会被路由器分给哪几个专家,事先无法确定,所以所有专家都得留在内存里。单算权重,可以用总参数乘以每个参数占的字节数来估一下:BF16 下每 10 亿参数约 2 GB,FP8 下约 1 GB,4 位下约 0.5 GB。上下文和运行模型的软件还要另外占内存。

拿 Qwen3.6 的两个模型来比。Qwen3.6-35B-A3B 在 BF16 下,光权重就要约 70 GB(35 × 2),尽管每个 token 只激活 3B。Qwen3.6-27B-FP8 约需 27 GB(27 × 1),每个 token 都用上全部 27B。这个差距有一部分来自精度。但就算按同样的方式存储,MoE 模型仍然更大,35B 对 27B,而每个 token 的运算量还更小,这正是它能快速作答的原因。

Flash、Sonnet、Luna 是什么意思?

Claude、GPT 和 Gemini 都是仅限 API 的模型,您只能调用厂商提供的服务,拿不到模型文件。它们的名称由代际编号和档位词组成,档位词标明同一系列里的大小或速度等级。每个档位具体适合做什么,只能看厂商自己的描述。

表格里是各厂商自己的描述,出自 Anthropic 的 Claude 模型总览、OpenAI 模型页面和 Google 的 Gemini 模型页面。本文中的名称和数字,均以各厂商 2026年10月21日公布的内容为准,而这些系列的更新很频繁。价格也常有调整,各家厂商都会在自己的价格页上公布。

仅限 API 的系列,按档位划分
模型厂商厂商对用途的描述
Claude Fable 5.1Anthropic“用于高难度推理和长周期的 agentic 工作”
Claude Opus 5.5Anthropic“用于长时间运行的 agentic 编程和知识型工作”
Claude Sonnet 5.5Anthropic“速度与智能的最佳结合”
Claude Haiku 5.5Anthropic“用于大批量、对延迟敏感的任务,例如分类、信息提取和路由”
GPT-6 AstraOpenAI“我们能力最强的模型,用于要求最高的工作”
GPT-6.1 SolOpenAI“以更低的成本,为复杂工作提供接近 Astra 的性能”
GPT-6 LunaOpenAI“我们效率最高的模型,用于目标明确的大批量任务”
GPT-Live 1OpenAI“我们的顶级模型,用于自然、富有表现力的语音对话,能流畅处理打断”
Gemini 4 ArgonGoogleGoogle 的旗舰推理模型
Gemini 3.8 FlashGoogle“我们最智能的 Flash 模型,专为长周期软件工程设计”
Gemini 3.5 Flash-LiteGoogleGoogle 列为速度最快、成本效益最高的 3.5 模型
Gemini 3.8 LiveGoogle列为面向语音智能体的低延迟模型

Anthropic 还给四个 Claude 模型做了速度上的相对评级:Fable 较慢,Opus 居中,Sonnet 较快,Haiku 最快。四个模型都能接收文字和图片。如果您正在比较 Claude Opus 和 Sonnet,Anthropic 建议大多数工作负载先从 Opus 5.5 试起。

再看上下文窗口,也就是模型一次能读入多少文字。各厂商给出的数字是:四个 Claude 模型、Gemini 4 Argon 和 Gemini 3.8 Flash 都是 1M token,OpenAI 的三个旗舰模型 GPT-6 Astra、GPT-6.1 Sol 和 GPT-6 Luna 是 1.05M。Google 的 Gemini 3.8 页面还补充说,Gemini 3.8 Flash 最多输出 64K token,并提供可设为低、中、高的思考等级。

OpenAI 把 GPT-6.1 Sol 描述为接近 Astra 的水平,但 GPT-6 Astra 的编号反而更小。代际编号更大,并不等于档位更高。

留意 Flash 这个词,两家厂商用它指的是不同的东西。DeepSeek 的 Flash 是一个 552B 的开放权重模型,DeepSeek 称它是“新架构系列中最小的模型,原生支持视觉理解”。Google 的 Flash 属于仅限 API 的系列,是其中的快速档位,规模没有公布。所以供应商说用的是 Flash 时,不妨问一句:哪家的 Flash?

哪些模型可以自己部署?

本文提到的 Qwen、DeepSeek 和 gpt-oss 模型都是开放权重,您可以下载模型文件,按随附的许可证在自己的硬件上运行。不过开放权重不一定意味着自己部署,DeepSeek 就同时通过自己的 API 提供 V4.1-Flash,名称是 deepseek-flash。

开放权重模型,按总参数排序
模型总参数每个 token 的激活参数每个 token 用到的专家上下文窗口(token)许可证
Qwen3.8-2.4T-A95B2.4T95B512 选 10,外加 1 个共享专家原生 262,144,最高约 1MQwen3.8-Max 许可证(自定义)
DeepSeek-V4.1-Flash552B(主干)读取输入时 8B,写出回答时 16B384 个路由专家选 6,外加 1 个共享专家最高 1MMIT
Qwen3-Coder-480B-A35B-Instruct480B35B160 选 8原生 262,144,借助扩展最高 1MApache 2.0
gpt-oss-120b(OpenAI)117B5.1B厂商未说明模型卡未说明Apache 2.0
Qwen3.6-35B-A3B35B3B256 选 8,外加 1 个共享专家原生 262,144,最高约 1MApache 2.0
Qwen3.6-27B27B27B(稠密,全部用上)无(稠密模型)原生 262,144,最高约 1MApache 2.0

先看许可证。DeepSeek-V4.1-Flash 采用 MIT 许可证,gpt-oss-120b 和四个 Qwen 模型中的三个采用 Apache 2.0。这里最大的 Qwen,也就是 Qwen3.8-2.4T-A95B,用的是自己的 Qwen3.8-Max 许可证,可见同一个系列也可能适用不同的条款。如果您在为自己的服务器比较 Qwen 和 DeepSeek,那就在有人下单采购硬件之前,先把许可证读完。

接着用前面的内存估算来定硬件规模。DeepSeek 公布的文件里包含按 8 位(FP8)存储的权重,按每个参数 1 字节算,552B 光权重就要约 552 GB。也就是说,得用一台装有多块 GPU 的服务器,而这个模型每个 token 实际只用 8B 到 16B。OpenAI 把 gpt-oss-120b 的专家权重存成一种叫 MXFP4 的 4 位格式,并称这样它可以“在单张 80GB GPU 上运行”。

输入和回答方式也不一样。DeepSeek-V4.1-Flash 接收文字和图片,Qwen3.8-2.4T-A95B 只接收文字,而且回答之前总会先把问题想一遍,这就是 Qwen 所说的思考模式。Qwen3.6-35B-A3B 默认也是这样,不过可以切换成直接回答。

哪项工作该用哪类模型?

客服运营交给模型的工作,彼此差别很大。通话进行中,模型得趁来电客户还在线上就给出回复,而昨天那批通话的摘要,没人在等。下表依据各厂商自己的描述,每一行只是测试的起点,不是排名。

客服运营中的各项工作
工作关注点优先看哪里
实时电话对话回复速度、处理打断语音模型(Gemini 3.8 Live、GPT-Live 1)或快速档位(Claude Haiku 5.5、Claude Sonnet 5.5)
来电和消息的分类与分流大批量下的低延迟Claude Haiku 5.5、GPT-6 Luna、Gemini 3.5 Flash-Lite
给已结束的通话做摘要和分析处理量和每通电话的成本,不用实时等待高效档位,或激活参数较小的开放权重模型(Qwen3.6-35B-A3B)
多步骤的长任务和高难度推理深度比速度重要Claude Fable 5.1、Claude Opus 5.5、GPT-6 Astra、Gemini 4 Argon
一次读完长文档上下文窗口1M token 及以上的模型(Claude 系列、GPT-6 旗舰模型、Gemini 4 Argon、Gemini 3.8 Flash、DeepSeek-V4.1-Flash)
数据必须留在自己的服务器上开放权重、许可证、硬件Qwen3.6 和 Qwen3-Coder 模型(Apache 2.0)、DeepSeek-V4.1-Flash(MIT)、gpt-oss-120b(Apache 2.0)、Qwen3.8-2.4T-A95B(自定义许可证)

实时通话是要求最严的一行。来电客户对每一次停顿都听得一清二楚,而模型只是造成停顿的原因之一。我们有篇文章专门讲语音线路上的等待来自哪里,把这段停顿拆成了几个可以测量的环节。

从与您的工作对应的那一行里挑两三个候选模型,拿自家的通话录音去试,录音里要有您的产品名称、实际使用的语言,以及客户真正会问的问题。评分就看工作本身,比如摘要有没有记下对来电客户承诺的回电时间。

供应商来推介时,问清楚每个环节分别由哪个模型负责,从实时对话到分流,再到通话后的摘要。要问全称,连同代际编号和档位。如果每个环节报出的是同一个名称,值得再追问一句。我们整理的采购语音 AI 前要问的 30 个问题里,还列了其他需要核对的事项。

DRING 在其中做什么?

DRING 的技术栈不绑定模型。每个 AI 智能体背后的语音和推理模型,根据语言和业务流程来选。语音识别、语言模型和语音合成的供应商,则按智能体分别从主流厂商中选定。其中任何一个都可以替换,无需重建,更换时也不影响技术栈的其他部分。我们的模型层页面对此有说明。

业务流程也可以路由到另一个模型,无需迁移平台。某家模型供应商出现问题时,通话可以切换到正常工作的供应商。架构评审接下来会问到哪些问题,面向 IT 总监的页面里逐条讲了。

更换模型,和新版本上线一样要经过测试。每个 DRING 智能体在接第一通真实电话之前,都会先跑 1,000 至 10,000 次为您的公司专门生成的模拟对话。更强的模型也要先通过整个技术栈共用的那套回归测试集才能上线,发布之前,结果还要与上一个版本对比。告诉我们,您希望先在通话的哪个环节用上 AI 模型,DRING 两分钟内给您回电。

先从通话的一个环节开始

留下号码,DRING 两分钟内给您回电,并问您希望先在通话的哪个环节用上 AI 模型,之后由我们的团队跟进。