芯元一科技
XINYUANYI

首页 / 四道门禁的联测流程:约 10 周,不达标即止损

合作流程

四道门禁的联测流程:约 10 周,不达标即止损

和芯元一合作,第一步不是签大单,而是一次约 10 周的联测。联测分 G1 到 G4 四道门禁,每道都有事先写明的通过标准,哪一道没过就在哪一道停下来。

更新于 · 芯元一(天津)半导体设备有限公司

四道门禁分别验什么?

G1 在第 2 周验到货,G2 在第 4 周验单机基线,G3 在第 7 周验联合加速效果,G4 在第 10 周验稳定性并出签字报告。前一道不过,后一道不开始。

门禁时间名称通过标准
G1第 2 周到货验收物料到齐并点验合格;每台阵列上电自检通过,24 块盘全部识别
G2第 4 周单机基线单节点 8 卡推理基线复现,与 R1 口径相差不超过 10%;单阵列本地压测达到实测锚点的 83% 线
G3第 7 周联测主门禁首 token 延迟降幅不低于 25%,吞吐提升落在实测的 29% 到 40% 区间内;8 个节点共用一台阵列时回读接近网卡上限
G4第 10 周稳定性验收72 小时连续压测不中断;单盘、单链路故障注入时业务无感;出具签字版联测报告
G1 · 第 2 周到货验收物料到齐并点验合格;每台阵列上电自检通过,24 块盘全部识别
G2 · 第 4 周单机基线单节点 8 卡推理基线复现,与 R1 口径相差不超过 10%;单阵列本地压测达到实测锚点的 83% 线
G3 · 第 7 周联测主门禁首 token 延迟降幅不低于 25%,吞吐提升落在实测的 29% 到 40% 区间内;8 个节点共用一台阵列时回读接近网卡上限
G4 · 第 10 周稳定性验收72 小时连续压测不中断;单盘、单链路故障注入时业务无感;出具签字版联测报告

主门禁 G3 的标准为什么这样定?

G3 要求首 token 延迟降幅不低于 25%、吞吐提升落在 29% 到 40% 之间,这两个标准来自 R2 和 R3 的实测。也就是说,在你的环境里复现出同一量级的结果才算过。

G3 还有一条:8 个节点共用一台阵列时,缓存回读要接近网卡带宽上限。这一条验证的是配比,也就是每台 FX100 服务 8 个节点在你的网络里是否成立。

不达标会怎么样?

不达标就停。门禁把风险切成小块:到货不合格停在第 2 周,基线复现不出来停在第 4 周,加速效果不够停在第 7 周,后面的阶段不再投入。

联测通过后拿到的是一份签字版联测报告,里面是你自己环境里的数字。之后要不要扩大规模、按什么配比扩,都以这份报告为依据,而不是我们的宣传材料。

联测需要客户准备什么?

通常需要准备真实的模型和负载样本、一组可用的 GPU 节点和对应的网络端口。测算模型在签保密协议后提供,用 Python 写成,参数可以自己改了重算。

把你的平台、模型规模和并发情况告诉我们,我们按门禁给出联测计划。
预约联测先看实测报告

常见问题

联测要多长时间?

标准流程约 10 周:第 2 周到货验收,第 4 周单机基线,第 7 周联测主门禁,第 10 周完成 72 小时稳定性测试并出具签字版联测报告。

G4 的稳定性测试包括什么?

包括 72 小时连续压测不中断,以及单盘、单链路的故障注入,要求业务无感。KV 缓存本身可以重算,最坏的情况是退回冷启动,而不是丢数据。

联测通过后能拿到什么?

G4 通过后出具签字版联测报告,里面的数字是在你的环境、你的负载上测出来的。之后要不要扩大规模、按什么配比扩,都可以以这份报告为依据。