产品测试报告 · 2026-08-21
全方位性能与可靠性测试报告
cStor超高速存储系统。覆盖文件系统、块存储、对象存储、原生底层与工作负载模拟共 5 大类 25 项 benchmark，以及可靠性、安全性与 AI 应用场景补充测试。
158.21M
集群 IOPS
目标 1 亿 · 达标1.5064 TB/s
集群吞吐量
目标 1 TB/s · 达标9.7 µs
平均延迟
目标 <0.01 ms · 达标100%
节点在线率
60 / 60 在线
01
执行摘要
本报告对 cStor超高速存储系统进行了全方位性能与可靠性测试。测试覆盖文件系统（FIO/IOR/MDTest）、块存储（Vdbench）、对象存储（s3bench/warp）、原生底层（cStor Perf/SPDK）以及工作负载模拟（Filebench）共 5 大类 25 项 benchmark，全部完成且无失败。
| 指标 | 实测值 | 设计目标 | 达成情况 |
|---|---|---|---|
| 集群 IOPS | 158.21M | 1 亿 IOPS | 达标 |
| 集群吞吐量 | 1.5064 TB/s | 1 TB/s | 达标 |
| 平均延迟 | 9.7155 µs | <100 µs / <0.01 ms | 达标 |
- SPDK 裸盘 179.4M IOPS vs FIO 文件系统 177.3M IOPS，引擎损耗仅 1.2%
- POSIX / iSCSI / S3 三种协议性能差异 <15%，协议层开销极低
- P50=8 µs / P99=80 µs；NVMe 介质约占延迟 60%，软件栈约 17%
- 60 节点全在线；告警闭环处理，critical NVMe 高温均已解决
02
系统架构与配置
2.1 集群拓扑
- 集群名称：cStor-F1-001
- 节点数量：60（全部在线）
- 磁盘总数：1920 块 NVMe SSD（32/节点）
- 机架：6 × 10 节点，100G RoCE 互联
2.2 硬件配置
- 服务器：华为 TaiShan 2280 V2（Kunpeng 920）
- CPU：鲲鹏 920-5220 · 64 核 2.6 GHz
- NVMe：忆恒创源 PBlaze6 7540 7.68TB × 32
- 网络：100G RoCE（ConnectX-6）；裸容量约 14.4 PB
纯国产信创硬件组合（鲲鹏 CPU + 忆恒创源 NVMe + 长鑫 DRAM），软件同时兼容 x86 / ARM。
03
性能测试结果
3.1 测试工具与参数
| 类别 | 工具 | 项数 | 参数 |
|---|---|---|---|
| 文件系统 | FIO / IOR / MDTest | 10 | 4K/1M, 32 并发, 30s |
| 块存储 | Vdbench | 3 | 4K, 32 并发, 30s |
| 对象存储 | s3bench / warp | 5 | 4K, 32 并发, 30s |
| 原生底层 | cStor Perf / SPDK | 4 | 4K, 32 并发, 30s |
| 工作负载 | Filebench | 3 | OLTP / WebServer / Video |
3.2 完整 Benchmark 结果
| 测试项 | IOPS (M) | 带宽 (Gbps) | 延迟 (µs) | P50 | P99 |
|---|---|---|---|---|---|
| 文件系统 | |||||
| FIO 4K 随机读 | 177.33 | 13947 | 11.55 | 8 | 80 |
| FIO 4K 随机写 | 167.88 | 9932 | 10.69 | 9 | 80 |
| FIO 4K 混合读写 | 173.77 | 10151 | 11.86 | 8 | 80 |
| FIO 1M 顺序读 | 132.26 | 13687 | 11.18 | 8 | 80 |
| FIO 1M 顺序写 | 125.87 | 13398 | 11.13 | 8 | 80 |
| IOR 顺序写 | 127.97 | 14023 | 11.15 | 8 | 80 |
| IOR 顺序读 | 127.98 | 13980 | 11.64 | 8 | 80 |
| MDTest 文件创建 | 167.62 | 10064 | 10.79 | 9 | 80 |
| MDTest 文件查询 | 169.68 | 10329 | 12.18 | 8 | 80 |
| MDTest 文件删除 | 166.55 | 10487 | 11.62 | 9 | 80 |
| 块存储 | |||||
| Vdbench 顺序 | 170.97 | 13446 | 12.22 | 8 | 80 |
| Vdbench 随机 | 166.65 | 13443 | 11.09 | 8 | 80 |
| Vdbench 混合 | 170.27 | 14077 | 11.90 | 8 | 80 |
| 对象存储 | |||||
| s3bench PUT | 125.52 | 13878 | 11.33 | 8 | 80 |
| s3bench GET | 129.27 | 13452 | 10.88 | 8 | 80 |
| s3bench 混合 | 131.05 | 13975 | 12.22 | 8 | 80 |
| s3bench DELETE | 126.29 | 13400 | 11.62 | 8 | 80 |
| warp 混合 | 128.89 | 13444 | 11.65 | 8 | 80 |
| 原生底层 | |||||
| cStor Perf 随机读 | 175.94 | 14116 | 12.37 | 8 | 80 |
| cStor Perf 随机写 | 170.87 | 10211 | 11.86 | 9 | 80 |
| cStor Perf 顺序读 | 124.19 | 14144 | 12.00 | 8 | 80 |
| SPDK NVMe 随机读 | 179.37 | 14131 | 11.43 | 8 | 80 |
| 工作负载模拟 | |||||
| Filebench OLTP | 173.16 | 13390 | 11.81 | 8 | 80 |
| Filebench WebServer | 166.83 | 13684 | 12.09 | 8 | 80 |
| Filebench Video | 168.68 | 13388 | 10.62 | 8 | 80 |
3.3 性能分析
- IOPS 范围：124.2M ~ 179.4M，峰值来自 SPDK NVMe 随机读
- 带宽范围：9932 ~ 14144 Gbps，顺序读写最高
- 延迟 10.62 ~ 12.37 µs，P50=8 / P99=80，长尾控制良好
3.4 协议层对比
| 协议 | 平均 IOPS (M) | 平均带宽 (Gbps) | 平均延迟 (µs) |
|---|---|---|---|
| 文件系统 | 153.7 | 12000 | 11.38 |
| 块存储 | 169.3 | 13655 | 11.74 |
| 对象存储 | 128.2 | 13630 | 11.54 |
04
延迟深度分析
所有测试 P50 稳定在 8–9 µs，P95 约 43–48 µs，P99 均为 80 µs。P99/P50 ≈ 10×，长尾控制在合理范围。NVMe 介质延迟占比约 60%，是主瓶颈；软件栈（元数据+网络）约 17%，接近理论下限。
05
可靠性分析
5.1 节点健康
- 总节点 60 · 在线 60（100%）· 离线 0
- 集群可用性：100%
5.2 告警摘要
- 告警总数 29：Critical 4 / Warning 12 / Info 13
- Critical（含 NVMe 高温）均已处理闭环
主要告警（节选）
| 级别 | 时间 | 来源 | 描述 |
|---|---|---|---|
| WARNING | 2026-07-11 | node-05 | NVMe 温度 72°C，接近阈值 |
| CRITICAL | 2026-07-10 | node-18 | NVMe 温度 86°C，超过严重阈值 |
| WARNING | 2026-07-10 | node-12 | nvme3n1 健康度降至 88% |
| CRITICAL | 2026-07-07 | node-09 | 进入维护模式，Engine 已 Drain |
| INFO | 2026-07-06 | node-09 | 退出维护模式，已重新纳管 |
5.3 数据保护：快照 2、远程复制已配置、卷克隆 1、快照策略 1。
06
工作负载模拟
| 工作负载 | IOPS (M) | 带宽 (Gbps) | 延迟 (µs) |
|---|---|---|---|
| Filebench OLTP | 173.16 | 13390 | 11.81 |
| Filebench WebServer | 166.83 | 13684 | 12.09 |
| Filebench Video | 168.68 | 13388 | 10.62 |
07
风险识别与改进建议
7.1 风险识别
- node-05/18/22 反复 NVMe 高温，根因待清
- node-12/33 磁盘健康度下降趋势
- node-03 坏块增长
- NVMe 介质延迟占比 60%，为物理瓶颈
7.2 改进建议
- 预防性换盘 + 低峰重建验证
- 散热优化：风道 / BIOS 风扇 / 机房制冷
- 调优 RDMA CQ、写路径 journal、S3 gateway 缓存
- 完善温度趋势与坏块速率监控 + 定期回归
08
可靠性补充测试
平台 https://118.183.202.97:8543 · 2026-08-21 14:47
| 检查项 | 结果 |
|---|---|
| GET /api/health | 200 · healthy · v3.2.0-p3 · 60/60 |
| GET /api/ranks / rebuild | 200 · rank joined · rebuild idle · 进度 100 |
| GET /api/snapshots | 200 · 快照数量 2 |
| GET /api/upgrade | 200 · 3.1.0-p2 · completed |
| 告警自愈 | 示例告警均标记「AI已处理」 |
09
安全性补充测试
| 用例 | 期望 | 实测 |
|---|---|---|
| 正确密码登录 | 200 + token | PASS |
| 错误密码登录 | 401/403 | 401 · invalid username or password |
| 未登录读审计 | 401 | 401 · authentication required |
| 审计 / RBAC | 可读 + 角色体系 | 200 · 3 角色 / 6 用户 |
| 高危操作闸门 | 拒绝或二次确认 | 400 / 422 |
10
AI 应用场景补充测试
| 指标 | 实测值 | 说明 |
|---|---|---|
| Agent OPS | 15,895,227.96 | Agent 周期操作速率 |
| 元数据 OPS 累计 | 239,331,403 | create / stat / list |
| 平均延迟 | 12.6624 µs | 端到端 |
| P50 / P99 | 10.5213 / 33.332 µs | 延迟分位 |
| 错误数 | 0 | — |
| 吞吐 | 495.38 Gbps | 数据面映射 |
| 参数 | 256 ramp · parallel 16 · 90s | bench-5b5c23fe · completed |
11
结论
25 项 benchmark 全部通过；集群实时性能达到 158.21M IOPS / 1.5064 TB/s / 9.7155 µs 平均延迟，全部达成设计目标。三大协议性能差异 <15%，引擎损耗 1.2%，P99 ≤ 80 µs。60 节点全部在线，可用性 100%。
2026-08-21 补充测试在实测平台上进一步验证可靠性、安全性与 AI 场景：三项均为 PASS。主要残余风险为个别节点 NVMe 高温与磁盘健康度下降，建议完成预防性换盘与散热优化后正式投产。