怎么读懂一份 AI 存储测试报告

读 AI 存储测试报告，先看五件事：和谁比、跑什么负载、模型和平台多大、同一档测了几轮、第三方能不能复现。这五项不清楚的数字，不要写进采购文件。

更新于 2026-11-12 · 芯元一（天津）半导体设备有限公司

第一件事：对照基线是什么？

同一台设备，对照 NFS 和对照本地 NVMe 盘，得到的倍数差别很大。看到一个提升数字，先找它的分母：基线越慢，倍数越好看，但对你的参考价值未必越大。

以芯元一的报告为例：R9 对照的是 NFS，模型加载快 6.2 到 9.3 倍；R2 对照的是本地 NVMe 单盘，吞吐提升 29% 到 40%。两组数字都是真的，但分母不同，不能放在一起比。

存储加速的效果高度依赖负载。长上下文、高缓存命中的测试结果，搬到短请求的业务上会打折扣。报告应该写清上下文长度、并发档位和请求构成。

R2 明确写的是长上下文冷恢复，分并发 8、16、32 三档给出读数，而不是只给一个最好看的点。并发 16 是最优工作点，吞吐提升 40%；并发 8 是 29%。

出处：R2。并发 16 档另测了不用外存现场重算：首 token p50 为 149.48 秒，吞吐 4.1 tok/s。吞吐提升一列按表内读数换算。
并发	FX100 首 token p50	本地盘首 token p50	FX100 吞吐	本地盘吞吐	吞吐提升
8	7.53 秒	10.17 秒	56.6 tok/s	43.9 tok/s	+29%
16	11.85 秒	17.31 秒	74.9 tok/s	53.6 tok/s	+40%
32	26.35 秒	35.73 秒	71.6 tok/s	53.9 tok/s	+33%

小模型上的结论不一定能推到大模型上。要看测试用的模型大小、卡的数量和部署形态是否接近生产；单卡小模型的测试只能说明方法可行。

R2 用的是 Qwen3-Coder-480B-FP8，权重约 450GB，八卡单实例，这是接近生产的形态。R5 用的是 14B 模型和单卡，所以它的结论只当作方法论，数字不外推。

R1–R4 共用的测试平台。
项目	配置
算力卡	8 块 AMD Instinct MI308X，每卡 192GB HBM
CPU 与内存	2 颗 AMD EPYC 9654（384 线程），约 1.5TB 内存
软件栈	ROCm 7.2，vLLM 0.20.1+rocm721，LMCache（2026-06-29 上游主线源码编译）
被测存储	FX100 全闪 NVMe-oF 阵列，4 盘 RAID0（14TB，XFS），RoCEv2，单口 100GbE
对照基线	本地 NVMe 单盘（PCIe Gen4，2TB）；以及不用外存、现场重算
模型	Qwen3-Coder-480B-FP8（MoE，权重约 450GB）

可信的报告会说明同一档测了几轮、轮与轮差多少，并提供脚本和原始数据供人重跑。只有结论没有过程的数字，分不清是稳定结果还是挑的一次。

R3 记录了两轮独立测量的偏差不超过 5%；R8 把补丁、负载客户端、编排脚本和原始数据打包提供。全部报告的条件和结论见实测报告 R1–R9。

报告原件、复现脚本和原始数据都可以给到第三方核对。

厂商口径是设备厂商给出的规格，比如 IOPS 和端口带宽。实测是在具体平台、具体负载上量出来的结果。两者都有用，但采购论证应当以实测为主。

p50 是中位数，只说明一半请求的体验。p90 和 p99 反映慢请求有多慢，对在线业务更关键。R3 给出了首 token 延迟的 p50、p90、p99 三个分位，可以看到尾部表现。