首页 / FX 系列 / FX100 全闪存储:有完整实测报告的型号
量产在售
FX100 全闪存储:有完整实测报告的型号
FX100 是 FX 系列里已量产、实测报告都跑在上面的型号:PCIe 3.0,单口 100Gb,16M IOPS。R1 到 R4 和 R9 五份实测用的都是它,满配整机参考价 371,200 元。
FX100 的规格
FX100 的主要规格:PCIe 3.0 总线,单口 100Gb,16M IOPS,U.2 闪存形态;状态是量产在售。下表各项均为厂商口径,不是我方实测值。
| 项目 | FX100 |
|---|---|
| 状态 | 量产在售 |
| 总线 | PCIe 3.0 |
| 单口带宽 | 100Gb |
| IOPS | 16M(厂商口径) |
| 闪存形态 | U.2 |
| 控制器与扩展 | 双主控,2×3 接口(ASIC) |
| 盘位与参考配置 | 24 盘位,参考配置为 24 块 7.68TB Gen4 企业级 U.2 NVMe SSD |
| 价格 | 满配整机参考价 ¥371,200(平台 ¥160,000 加 24 块盘、每块参考价 ¥8,800),裸容量 184.3TB,约 ¥2,014/TB |
FX100 实测结果是什么?
在 8 卡 MI308X 上跑 480B 模型,FX100 相比本地 NVMe 单盘,三档并发下吞吐从 43.9 到 53.9 tok/s 提到 56.6 到 74.9 tok/s,首 token 延迟中位数全部缩短(R2)。
| 并发 | FX100 首 token p50 | 本地盘首 token p50 | FX100 吞吐 | 本地盘吞吐 | 吞吐提升 |
|---|---|---|---|---|---|
| 8 | 7.53 秒 | 10.17 秒 | 56.6 tok/s | 43.9 tok/s | +29% |
| 16 | 11.85 秒 | 17.31 秒 | 74.9 tok/s | 53.6 tok/s | +40% |
| 32 | 26.35 秒 | 35.73 秒 | 71.6 tok/s | 53.9 tok/s | +33% |
除了 KV 缓存,FX100 还测过模型加载、模型切换和训练检查点:检查点保存从 178 秒降到 94 秒(R1);在昇腾 910B 平台上对照 NFS,模型加载快 6.2 到 9.3 倍(R9)。逐份报告见 实测报告。
FX100 适合什么样的集群?
FX100 适合 100GbE 组网、以 8 卡节点为单位的推理集群,尤其是长上下文、多轮对话、代码助手这类缓存命中率高的业务。生产配比按一台服务 8 个节点。
- 上下文长、用户会回到旧会话的业务:缓存读回比重算快得多。
- 多个实例要共享缓存的部署:R3 验证了两个实例共用一个缓存池。
- 模型多、切换频繁的平台:每小时切换 20 次时,算力有效利用率从 46.7% 提到 62.8%(R1)。
常见问题
FX100 的参考价是多少?
满配整机参考价 371,200 元,其中平台 160,000 元,24 块 7.68TB 企业级 NVMe 盘每块参考价 8,800 元,裸容量 184.3TB。盘价随市场变动,正式价格以采购合同为准。
FX100 的 16M IOPS 是实测值吗?
不是。16M IOPS、单口 100Gb 这些规格是厂商口径。我方实测的是它在大模型推理和训练里的效果,比如吞吐、首 token 延迟和检查点保存时间,都有报告编号。
FX100 测试时用的是什么配置?
R1 到 R4 里的被测配置是 4 块盘组 RAID0,容量 14TB,XFS 文件系统,通过 RoCEv2 走单口 100GbE 连到 8 卡 MI308X 服务器,对照基线是本地 NVMe 单盘和现场重算。