文档样式:

1P算力到底能产出多少Token?

之前计算过1P算力需要消耗多少电力,这是运营成本侧的问题,其实AI基础设施还有一个更直观的问题:1P算力运行一小时,究竟能生成多少Token?本文以8卡H200服务器运行完整DeepSeek-R1模型的一组公开测试为例,按照不同并发量折算,每P每小时约能生成25万至55万输出Token。这个结果不是固定换算系数。同一套设备、同一个模型,仅改变同时处理的请求数量,产出就会发生明显变化,如果更换服务器和模型,变化的情况非常多。

先统一统计口径

P通常是PFLOPS的简称,1P代表每秒完成10¹⁵次浮点运算。Token则是模型处理和生成文本的基本单位,并不直接等同于一个汉字。一个衡量计算能力,一个衡量文本处理量,二者之间还隔着模型和推理系统。本文采用FP16半精度、非稀疏理论峰值统计硬件算力。H200 SXM单卡约为0.9895P,8卡合计约为7.916P。测试使用完整DeepSeek-R1-0528模型,采用FP8推理,运行于SGLang框架,输入、输出长度档位分别为8,192和1,024 Token。FP16用于统一硬件P数,FP8是模型实际推理精度,两者不是同一个口径。下文只统计生成的输出Token,不把输入Token加进产量。

同样算力的不同产出

并发请求数,可以理解为测试过程中同时向整套8卡系统发起并维持的请求数量。8卡整机结果归一化;设备为示意图。数据依据InferenceX于2026年5月17日的同组公开测试记录折算。每小时产量是测试吞吐量的换算值,并非连续运行一小时的实测结果;单请求生成速度不包含首Token等待时间。表格呈现出一个重要关系:同时处理的请求增多,系统总产量提高,但每个请求的生成速度下降。更多请求可以形成更大的计算批次,提高部分计算和数据读取的效率。不过,共用同一套硬件资源,每个请求也可能需要更长时间完成。在这组测试中,并发量从8增加到64,提高了8倍,每P每小时的产量却只增长到约2.2倍。产出并不会跟着并发数等比例增长。

每P产出的换算方法

每P每小时输出Token=整机每秒输出Token × 3,600 ÷ 整机P数

以32并发为例,整套8卡系统每秒输出约968个Token:

968 × 3,600 ÷ 7.916 ≈ 44万Token/P·小时

这里的“每P”是将整机测试结果归一化,方便比较。并不意味着单独拿出1P算力,就能部署完整DeepSeek-R1并获得同样产出。这组公开记录最高提供到64并发,因此表格也止于64。它不是H200的最大并发能力,55万也不是每P每小时的产能上限。模型规模、推理精度、输入输出长度、软件版本和响应速度要求,都会影响最终结果。P数描述硬件的理论计算能力,在明确的模型和服务要求下,每小时能够稳定生成多少Token,才是面向实际应用的产出指标。

从成本端到收入端

从一度电的投入,到P数代表的计算能力,再到单位时间内的Token产出,最终通过实际销售转化为收入,这条链条串起了算力项目从成本端到收入端的商业闭环。结合实际销售量与成交价格,将设备折旧、机房、网络和运维等成本纳入测算,才能进一步算清项目的收益。未来,商业模式越清晰,算力项目的盈利逻辑、回报周期和投资边界也就越清晰。项目的价值判断,也将从“建成多少P算力”,进一步走向“这些算力能够持续创造多少收益”。
在此基础上,在保障服务质量和供电可靠性的前提下,结合业务需求、电价变化与绿电出力,开展算力任务与能源系统的协同调度,实现算力收益与电力成本的动态平衡,最终达到收益最优,也是未来算电协同的核心方向之一。欢迎对算电协同、算力运营和Token经济性有兴趣的朋友在后台留言,一起交流研究思路与项目实践。