首页 / 实测报告 / R1：FX100 推理与训练综合性能测试
实测报告 · 2026-07-03
R1：FX100 推理与训练综合性能测试
R1 是一份综合测试，覆盖 LMCache 并行读补丁、多卡 KV 分层扩展、模型并发加载、模型切换时的有效产出和训练检查点并发写，模型用 Qwen2.5-32B 和 7B。
R1 测了什么？
R1 是一份综合测试，覆盖 LMCache 并行读补丁、多卡 KV 分层扩展、模型并发加载、模型切换时的有效产出和训练检查点并发写，模型用 Qwen2.5-32B 和 7B。
| 项目 | 内容 |
|---|---|
| 报告编号 | R1 |
| 完整标题 | FX100 大模型推理与训练综合性能测试（8 卡 AMD MI308X） |
| 日期 | 2026-07-03 |
| 测试平台 | 8 卡 AMD Instinct MI308X，ROCm 7.2 |
| 原件获取 | lvsuan.top 报告下载页 |
R1 的结论是什么？
R1 的主要结论：并行读补丁让冷读场景首 token 延迟从 37.97 秒降到 9.30 秒，约 4.1 倍；8 卡训练保存检查点从 178 秒降到 94 秒，约 1.9 倍。
- LMCache 并行读补丁（单卡、并发 16、冷读盘、Qwen2.5-32B）：TTFT 37.97 秒 → 9.30 秒，读盘带宽 0.98 → 5.23 GB/s
- 训练 Checkpoint（8 卡 32B LoRA，每份 65.6GB 整模型快照）：178 秒 → 94 秒，持续写带宽 3.26 → 6.40 GB/s
- 模型并发加载（8 卡同时冷读）：墙钟时间快 16%，单模型加载快 30%
- 模型切换（每小时切换 20 次）：算力有效利用率从 46.7% 提到 62.8%
| 项目 | 配置 |
|---|---|
| 算力卡 | 8 块 AMD Instinct MI308X，每卡 192GB HBM |
| CPU 与内存 | 2 颗 AMD EPYC 9654（384 线程），约 1.5TB 内存 |
| 软件栈 | ROCm 7.2，vLLM 0.20.1+rocm721，LMCache（2026-06-29 上游主线源码编译） |
| 被测存储 | FX100 全闪 NVMe-oF 阵列，4 盘 RAID0（14TB，XFS），RoCEv2，单口 100GbE |
| 对照基线 | 本地 NVMe 单盘（PCIe Gen4，2TB）；以及不用外存、现场重算 |
| 模型 | Qwen3-Coder-480B-FP8（MoE，权重约 450GB） |
引用这份报告时要注意什么？
R1 的并行读补丁是单卡、32B 模型的读数，检查点是 8 卡 32B LoRA 的读数。它们和 480B 模型的 R2、R3 条件不同，不要把这些结果相加或者相乘。
FX100 在早期测试报告的文件名里叫 AISSD5000，更早也写作 WS5000 或 GP5000，个别报告署名为「铭信」（公司原名）。这些指的是同一款产品，本站统一用 FX 命名。
常见问题
R1 的报告原件在哪里看？
R1 的原件在芯元一的报告下载站 lvsuan.top 的证据库里，文件名里的产品名可能是旧称 AISSD5000。本站只整理结论和条件，不重复托管文件，下载入口在这里。
R1 的数字可以写进采购文件吗？
可以引用，但要带上报告编号 R1 和测试条件，不要把它当成对你业务的承诺。更稳妥的是在联测里用你的负载复测，把复测结果写进验收条款。