速度对比
输出吞吐(tok/s)与首字延迟(秒)。吞吐决定长回答的总等待,延迟决定对话的“手感”。两个指标经常反向。
最快输出
235tok/s
Claude Haiku 5.5
最慢模型
28tok/s
Kimi K3.1 Pro
全站速度差
8.4×
最快 对 最慢输出吞吐
生成 4000 字耗时
17秒
以最快速度估算,最慢需 2 分钟
速度 × 智能
右上角是“又快又聪明”。这条线上几乎没有模型——速度与智能在架构上是妥协关系,MoE 的激活参数少所以快,思考链长所以慢。
输出吞吐排名
| # | 模型 | tok/s | 相对最快 | 首字延迟 s | 智能分 | 输出 $ |
|---|---|---|---|---|---|---|
| 1 | Claude Haiku 5.5Anthropic | 235 | 最快 | 0.6 | 36.2 | $0.50 |
| 2 | gpt-oss-120b 开源OpenAI | 220 | 94% | 0.7 | — | $0.20 |
| 3 | Gemma 4 31B 开源Google | 200 | 85% | 0.5 | 19.0 | $0.40 |
| 4 | Qwen3.8 27B 开源Alibaba Qwen | 180 | 77% | 0.8 | 33.7 | $0.40 |
| 5 | Gemini 3.8 FlashGoogle | 160 | 68% | 1.1 | — | $3.75 |
| 6 | DeepSeek V4.1 Flash 开源DeepSeek | 148 | 63% | 2.3 | 32.5 | $1.20 |
| 7 | Muse WonderMeta | 143 | 61% | 1.4 | 43.3 | $10.00 |
| 8 | Claude Sonnet 5.5Anthropic | 135 | 57% | 2.1 | 54.2 | $10.00 |
| 9 | GPT-6 LunaOpenAI | 130 | 55% | 1.2 | — | $0.50 |
| 10 | MiniMax M3 开源MiniMax | 126 | 54% | 1.3 | 29.2 | $1.00 |
| 11 | GLM-5.3 Flash 开源Z.ai | 120 | 51% | 1.5 | 41.8 | $0.80 |
| 12 | MiniMax M3.1 FlashMiniMax | 118 | 50% | 1.8 | 29.0 | $0.60 |
| 13 | Grok 4.7xAI | 105 | 45% | 1.8 | 35.0 | $6.00 |
| 14 | Claude Opus 5.5Anthropic | 96 | 41% | 2.4 | 58.4 | $20.00 |
| 15 | Step 5 PreviewStepFun | 95 | 40% | 1.6 | — | $2.00 |
| 16 | GPT-6.1 TerraOpenAI | 94 | 40% | 1.9 | 51.0 | $5.00 |
| 17 | Qwen3.8 MaxAlibaba Qwen | 88 | 37% | 2.0 | — | $8.00 |
| 18 | Gemini 4 CarbonGoogle | 87 | 37% | 2.7 | 59.4 | $10.00 |
| 19 | GPT-6 AstraOpenAI | 81 | 34% | 2.8 | 56.9 | $50.00 |
| 20 | MiMo-V2.6 Pro 开源Xiaomi | 81 | 34% | 2.9 | 30.0 | $1.40 |
| 21 | Gemini 4 ArgonGoogle | 80 | 34% | 2.6 | 50.4 | $10.00 |
| 22 | GPT-6.1 SolOpenAI | 77 | 33% | 2.5 | 54.5 | $10.00 |
| 23 | GLM-5.3 开源Z.ai | 77 | 33% | 2.2 | 32.0 | $2.20 |
| 24 | DeepSeek V4 Pro 开源DeepSeek | 72 | 31% | 2.9 | 23.0 | $3.96 |
| 25 | Nemotron 3 Ultra 开源NVIDIA | 70 | 30% | 3.1 | — | $1.60 |
| 26 | Claude Fable 5.1Anthropic | 57 | 24% | 6.2 | 49.7 | $50.00 |
| 27 | Kimi K3 开源Moonshot AI | 30 | 13% | 4.2 | 43.6 | $15.00 |
| 28 | Kimi K3.1 Pro 开源Moonshot AI | 28 | 12% | 4.5 | 46.0 | $10.00 |
速度为 Artificial Analysis 测得的中位输出吞吐,同一模型在不同供应商处差异可达 3 倍。首字延迟包含推理模型的思考时间,所以推理模型的 TTFT 数值天然偏大。
怎么读这些数字
对话看延迟
TTFT 超过 3 秒,用户就会觉得卡。推理模型的首 token 动辄 100 秒以上(含思考),不适合做实时交互,只适合批处理。
长文看吞吐
28 tok/s 生成 4000 字要 2 分半,235 tok/s 只要 17 秒。写报告、批量生成的场景,吞吐差距直接换算成人效。
快不等于便宜
Haiku 5.5 又快又便宜,但它做不了长程 agent。速度优势只在你不需要它“想很久”的时候才成立。