数据存储方案 | 第13期：显存不够用，存储来补位

存储专题 · 2026-11-03 · 九羲科技

数据存储方案 | 第13期：显存不够用，存储来补位

这周存储圈两件事，摆在一起看特别有意思。一件在国内：10 月 28 日，郑州的 2026 数据存储产业大会上，宏杉讲怎么用外部存储给大模型推理"减负"¹。另一件在国外：MinIO 刚放出一个客户案例，一家全球电信巨头，80 多 PB 的数据，开始从 HDFS 往对象存储上搬²。

两件事都是 AI 倒逼的。推理这边，显存被 KV Cache 吃干抹净；数据那边，训练推理要的数据，HDFS 快喂不动了。存储的活法，正在被 AI 重写。

这是「数据存储方案」专栏的第 13 期。两条主线，一条讲推理的存储怎么搭，一条讲数据湖怎么搬。前沿观察这次空缺——过去一周，量子、生物、玻璃几个前沿方向没有新的实质进展，按老规矩，不硬写。

一、KV Cache 住进了外部存储：宏杉的分级卸载

先说大会。10 月 28 日到 29 日，2026 数据存储产业大会在郑州开，主办的是中国电子工业标准化技术协会，承办的是它的数据存储专委会¹。会上把产业矛盾说得很直白：AI 驱动存储迈入超长周期，核心矛盾从"算力够不够"转到"数据能不能喂饱"——GPU 集群因为等数据空转，越来越常见¹。

大会还干了件实在事：发布《AI 存储产业高质量发展行动倡议》（Future Storage 专项成果），以及 AI 存储领域两项团体标准——《人工智能存储系统能力要求》《大模型推理存储系统技术要求》，相关国家标准同步启动研制。国内 AI 存储标准体系的空白，开始有人填了¹。

宏杉 AI 存储产品总监单东来，讲的是《外部存储在 KV 卸载中的应用实践》¹。痛点很具体：大模型 Agent、长上下文业务规模化落地，KV Cache 快速挤占 GPU 的 HBM 显存，推理并发上不去、业务时延被拉高。只加 HBM？容量、成本、效率三头顾不上——外部存储就成了释放推理效能的关键一环¹。

宏杉的思路是分级 KV 卸载，让外部存储从"容量承载者"走向"推理加速器"。落地的产品叫 Alpha700 AI 专用存储，支持两种模式¹。L3.5 低时延卸载，用 DPU、NVMe-oF over RoCE 和数据直通，做低时延的缓存复用，服务多 Agent、多轮调用¹。L4 高吞吐共享卸载，并行文件系统加上 GDS 和 RDMA，搭一个共享的 KV 资源池，支撑长上下文 AI 编程这种高吞吐场景¹。

数字给在了一家大型制造企业的智能体平台上（客户名没披露）¹。L3.5 这边：全局 KV Token 命中率从 38% 提到 79%，TTFT P50 从 1200 毫秒降到 520 毫秒，Agent 响应时间降低 40% 以上；L4 那边：命中率从 22% 提到 91%，代码生成时间降低 45% 以上¹。

国产生态也没落下：宏杉和海光信息联手，"Alpha700＋海光 DCU 加速卡"——Alpha700 靠内置并行文件系统和 MSCache KV 缓存调度，搭起 PB 级的共享缓存池，缓存命中率上去、重复计算下来；海光 DCU 凭大显存、高吞吐扛推理负载。方案深度适配 DeepSeek、通义千问，开箱即用¹。

成色说清楚：it168 10 月 30 日的一手报道；性能数字是宏杉演讲的陈述口径，客户名未披露；两项团体标准的发布是大会公开信息¹。

照见：关键转折在"卸载"两个字。KV Cache 以前是显存的私事，现在成了存储的事。显存是按 GB 买的奢侈品，存储是按 TB 买的日用品——把热缓存的分级做进存储，推理的账本就从"买更大的卡"改成了"让存储接住"。卡是固定的，卡不够的时候，存储是唯一能加的"外挂内存"。宏杉卖的是高端阵列，可"分级卸载"这个思路，任何一台 NVMe 机器都能抄：L3.5 要低时延，L4 要高吞吐，两层之间，是钱和时延的权衡。这笔账，做推理落地的，每家都得自己算一遍。

二、80PB 搬家：电信巨头告别 HDFS

MinIO 在 11 月 2 日放出的客户案例²。主角是一家全球电信巨头（名字没披露），数据生态 80 多 PB，横跨本地机房和公有云。

旧架构的毛病，桩桩都疼。HDFS 存算紧耦合：扩存储，必须连计算一起扩，钱花得冤；Cloudera 的许可费年年交；在 AWS 上跑分析，出站和存储费贵得肉疼；工程师想把旧硬件利旧，没辙；BI 看板刷新慢，分析师天天催；管数据的人越招越多，FTE 的开销压不住²。

新方案是 Kubernetes 原生的 S3 对象存储（MinIO AIStor），跑在商品硬件上，弹性扩展。存算解耦了：扩哪边，补哪边。S3 协议打通多云，敏感负载留在本地。目前 14PB 里，已经有 9PB 跑在 AIStor 上²。

效果：OPEX 降下来——旧硬件没扔，利旧接着用；BI 看板接近实时刷新；Cloudera 的依赖摆脱了。下一步排上日程的：GPU 优化的数据管道、MLflow，还有向量数据库和 RAG 的探索²。

还有条花絮，成色更硬。一家美国国防承包商，拿 HDFS、Ceph、AIStor 三选一：HDFS 因为扛不住它的网络要求出局，Ceph 因为复杂度和扩展性问题出局²。Ceph 这笔运维成本账，本专栏第 2 期算过——结论又对上了一次。

成色：MinIO 官网 11 月 2 日的客户案例一手；客户名未披露；效果数字是厂商陈述口径²。

照见：HDFS 是大数据时代的遗产，存和算焊在一起。AI 时代，GPU 要弹性、数据要流动，焊死的架构就成了枷锁。这 80PB 搬的不是数据，是架构哲学：存储只管存好，算力只管算好，中间用 S3 协议握手。别看 80PB，看"利旧"两个字——老机器没扔，装上软件接着跑。这和"库存服务器"是同一条路：硬件不值钱，值钱的是让旧硬件跑出新活的软件层。对象存储加 S3，已经是 AI 数据湖的事实标准，做方案的，都得认。

· · ·

扫码加入九羲服务器AI落地群

文章、视频等内容为九羲科技原创，转载请注明出处

合作 | 联系我们：jx@jiuxii.cn

脚踏实地 行知合一

互相成就 拥抱未来