首页 / 实测报告 / R3：480B 模型双实例 KV Cache 全指标测试
实测报告 · 2026-07-06
R3：480B 模型双实例 KV Cache 全指标测试
R3 把同一台机器拆成两个四卡实例，测九档负载下的全套指标：首 token 延迟的 p50、p90、p99，单 token 间隔，吞吐和读盘带宽，并验证两个实例共用一个缓存池。
R3 测了什么？
R3 把同一台机器拆成两个四卡实例，测九档负载下的全套指标：首 token 延迟的 p50、p90、p99，单 token 间隔，吞吐和读盘带宽，并验证两个实例共用一个缓存池。
| 项目 | 内容 |
|---|---|
| 报告编号 | R3 |
| 完整标题 | FX100 KV Cache 性能测试汇总（480B，TP4×2，全指标） |
| 日期 | 2026-07-06 |
| 测试平台 | 8 卡 AMD Instinct MI308X，四卡双实例，Qwen3-Coder-480B-FP8 |
| 原件获取 | lvsuan.top 报告下载页 |
R3 的结论是什么？
R3 的结论：双实例整机口径吞吐提升 35% 到 36%；两个实例通过 fs:// 共享池做跨实例热共享验证通过；同一档位两轮独立测量的偏差不超过 5%。
- TP4×2 整机口径吞吐 +35–36%
- fs:// 共享池跨实例热共享验证通过
- 两轮独立测量偏差 ≤5%
| 项目 | 配置 |
|---|---|
| 算力卡 | 8 块 AMD Instinct MI308X，每卡 192GB HBM |
| CPU 与内存 | 2 颗 AMD EPYC 9654（384 线程），约 1.5TB 内存 |
| 软件栈 | ROCm 7.2，vLLM 0.20.1+rocm721，LMCache（2026-06-29 上游主线源码编译） |
| 被测存储 | FX100 全闪 NVMe-oF 阵列，4 盘 RAID0（14TB，XFS），RoCEv2，单口 100GbE |
| 对照基线 | 本地 NVMe 单盘（PCIe Gen4，2TB）；以及不用外存、现场重算 |
| 模型 | Qwen3-Coder-480B-FP8（MoE，权重约 450GB） |
引用这份报告时要注意什么？
R3 的 35% 到 36% 是四卡双实例的整机口径，R2 的 29% 到 40% 是八卡单实例三档并发的范围。这是两种部署形态，引用时要说明是哪一种。
FX100 在早期测试报告的文件名里叫 AISSD5000，更早也写作 WS5000 或 GP5000，个别报告署名为「铭信」（公司原名）。这些指的是同一款产品，本站统一用 FX 命名。
常见问题
R3 的报告原件在哪里看？
R3 的原件在芯元一的报告下载站 lvsuan.top 的证据库里，文件名里的产品名可能是旧称 AISSD5000。本站只整理结论和条件，不重复托管文件，下载入口在这里。
R3 的数字可以写进采购文件吗？
可以引用，但要带上报告编号 R3 和测试条件，不要把它当成对你业务的承诺。更稳妥的是在联测里用你的负载复测，把复测结果写进验收条款。