数据存储方案 | 第1期:数据不动,算力怎么吃饱?

存储专题 · · 九羲科技

10 月中旬,圣何塞。OCP 全球峰会的展馆里,存储厂商的展位难得地热闹——往年这里是 GPU 的主场,今年人们围着看的,是内存:大模型这桌饭,到底怎么吃才吃得饱。

这是「数据存储方案」专栏的第 1 期。我们不追发布会,只收方案:过去几天里,三件事指向同一个方向——数据不动,算力吃饱。推理的 KV Cache 从显存里溢出来了,有人把它放进 CXL 内存池里多机共享,有人给它造了个分布式的"硬盘位";企业那头,数据连搬家都省了,原地变成 AI 的上下文。

· · ·

① KV Cache 找到了新"硬盘位"

推理的成本账,2026 年越算越细。Agent 任务一跑就是几十轮对话,长上下文一开就是几十万 token,推理过程持续产生大量中间数据 KV Cache——模型已经算过的上下文,存下来就能复用,扔了就得重算。谁把这份缓存存得住、调得快、复用得起,谁就能在同样的算力投入下跑出更多 token。

1. WQS 是怎么搭的

华瑞指数云(ExponTech)自研的 WQS 极速 AI 语义存储系统,10 月正式合入 LMCache 社区主干1。LMCache 是面向大模型推理的开源 KV Cache 管理层,做的事很直白:把 KV Cache 从"推理时的临时中间数据",变成可持久化、跨引擎复用的数据资源,分层覆盖显存、内存、本地 NVMe,一直到外置分布式存储,能和 vLLM 等主流推理引擎协同。

WQS 对应的是 NVIDIA 分层缓存体系里的G3.5 层,成了 LMCache 官方支持的L2 存储后端之一——按厂商的说法,这是 AI 原生 KV Cache 存储第一次接入大模型推理的核心业务链路。

链路长这样:WQS 通过wqs_store 适配器原生接入 LMCache;数据面走 RDMA 高速网络、SPDK 用户态 NVMe、HugePage 共享内存,绕开内核协议栈,专吃"高并发、小粒度"的 KV Cache 读写;对外以集群形态交付,缓存容量和带宽都能池化。

华瑞指数云 WQS 合入 LMCache

图:华瑞指数云 WQS 合入 LMCache(图片来源:IT168/厂商供图)

2. 效果与三笔账

推理链路里一旦命中历史 KV Cache,引擎跳过重复的 Prefill 计算,首 token 延迟下来,GPU 的有效利用率上去,尤其适配 Agent 任务、长上下文、多轮对话、RAG。

WQS 这一手,瞄的是三重痛点:纯内存方案容量有限、单位成本高,接不住长上下文的缓存洪峰;本地 SSD 缓存困在单节点,故障域孤立,跨推理节点复用不了;训和推各建一套存储,重复投入。它的答案是:缓存下沉到外置分布式存储,全域池化、全局复用,一套底座同时扛数据留存、缓存加速、算力增效——以上为厂商表述,生产级大规模验证数据尚未公开,这笔账要打个折看。

② 内存池化之后,KV Cache 可以共享了

同一周的圣何塞,OCP 全球峰会(10 月 12–15 日)。韩国无晶圆厂公司 XCENA 带着 MX1 来了,现场做了两场演示2。

1. MX1 是什么

一块CXL 3.2 Type 3 的计算型内存。PCIe 6.0 dual x8 接口,单设备最高 2TB DRAM(用 256GB DIMM,每通道两条);控制器上塞了数千个定制 RISC-V 核心,带 FP32/FP16 向量引擎,做近存计算;还有一路独立的 PCIe 6.0 root complex,外挂 SSD——XCENA 管这叫 InfiniteMemory,DRAM 不够,SSD 来凑,内存和闪存连成一个连续体。

2. 两场演示

第一场,多台推理服务器共享同一份 KV Cache,缓存就放在 CXL 内存池里。每台服务器原来各存一份,现在只存一份,重复拷贝和跨机搬运都省了。

第二场,向量检索直接在内存里算完。RAG 的核心步骤就是向量搜索,数据在哪,算力去哪,不用每查一次就把大数据集搬回主机一遍。

同场,SK 海力士发布了基于 MX1 芯片的CXL Hybrid Memory,两家正在联合优化 RDMA 共享内存路径;三星也做了 CMM-D 内存池化演示,搭 AMD 平台,宣称智能体 AI 场景下首 token 时间降 38%、有效吞吐 3.3 倍3——厂商宣称,听个方向。

3. 冷静一句

XCENA 没有公布两场演示的延迟、吞吐、容量数字,也没提服务器配置。演示是真演示,量产的账还没摊开。CXL 内存池化这条路,方向已经没人怀疑,差的是可复制的数字。

XCENA MX1 CXL 计算型内存

图:XCENA MX1 Compute / MX1 Expand CXL 计算型内存(图片来源:XCENA,经 StorageReview)

③ 企业数据不动,AI 直接来"取"

企业的数据散得到处都是:文件共享、对象存储、SharePoint、OneDrive。想让 AI 用上,要么搬家——主权、安全、成本三重代价;要么让 AI 把仓库翻一遍——token 烧钱。

Caeves 的 Context LAKE 选了第三条路4:数据不动,索引先行。它跑在客户自己的环境里,原地发现、原地索引,把文件里的信息抽成带元数据、实体、关系的 AI 可用资产;原有的权限体系原样执行,敏感信息先脱敏,AI 的每次访问都有审计记录。然后经MCP(模型上下文协议)把可信上下文喂给 Copilot、ChatGPT、Claude 和自研智能体——气隙环境也照常用。

1. 落地与数字

10 月 20 日正式 GA,订阅制卖,Azure 用户可以直接从微软 Marketplace 拉起。数字上:测试中单次回答的 token 消耗最高降低 47 倍4——测试数据,厂商宣称;它家另一款 Intelligent Deep Storage 宣称存储成本最多降 70%,同样是厂商口径。

这条路线的聪明处不在模型,在边界:数据主权不动,权限不动,搬的是"理解",不是"文件"。

Caeves Context LAKE 架构

图:Caeves Context LAKE:原地连接企业数据,经 MCP 输出可信上下文(图片来源:StorageNewsletter)

前沿观察:玻璃存万年,量子记十五秒

玻璃这边,南安普顿大学光电子研究中心:飞秒激光在石英玻璃内部写三维纳米光栅,点间距 5 微米,靠纳米点的尺寸、朝向、三维位置存数据——所谓 5D 存储5。最新数字:单碟 360TB,耐 1000°C 高温,室温寿命按外推达 138 亿年(校方新闻稿数据)。2011 年这项技术刚出来时,容量才 50GB。

量子那边,10 月 6 日《物理评论快报》:稠密化学计量比稀土晶体 EuCl₃·6H₂O,用 ZEFOZ 磁场构型加 CPMG 脉冲序列压住自旋-自旋退相干,自旋相干时间做到 15 秒6;同一团队 9 月的预印本里,腔增强 Eu:Y₂SiO₅ 器件的存储效率做到 90.1%(预印本,待同行评审)。

一个往"时间"走——归档;一个往"密度"走——量子内存。一个想把时间存下来,一个想把时间留住。两边都还在实验室,但数字都是实测的。

觉 然 小 注

三件事其实是一句话:别让数据搬家,让算力就近吃饱。九羲做低成本 AI 存储,机会就藏在这条分层线里——热的放内存,温的放 SSD 与 HDD 池,KV Cache 这种"推理中间态"正是新长出来的温层需求;私有化部署里,原地索引、权限先行的那一层,就是盒子要接住的那一层。

没完全想透的一个问题:CXL 池化真到量产那天,HDD 这一层还剩多少位置?温数据的性价比账,可能要重算。

· · ·

九羲科技|服务器 · 私有 AI · 存力方案

系列目录
第1期:数据不动,算力怎么吃饱?

引用与出处
[1] 程门(编辑). 华瑞指数云WQS正式合入LMCache:AI原生KV Cache存储首入大模型推理生产级链路. IT168, 2026. http://software.it168.com/a2026/1014/6953/000006953482.shtml
[2] StorageReview. XCENA MX1 CXL Computational Memory Shares a KV Cache Across Inference Servers and Powers SK hynix CXL Hybrid Memory at OCP 2026. StorageReview, 2026. https://www.storagereview.com/news/xcena-mx1-cxl-computational-memory-kv-cache-sk-hynix-ocp-2026
[3] StorageReview. Samsung CXL Memory Pooling Demo With AMD at OCP 2026 Claims 38 Percent Lower TTFT and 3.3x Goodput for Agentic AI. StorageReview, 2026. https://www.storagereview.com/news/samsung-cxl-memory-pooling-amd-ocp-2026-cmm-d-agentic-ai
[4] StorageNewsletter. Caeves Introduces Context LAKE, Turning Enterprise Data into Trusted Context for Any AI Assistant via MCP. StorageNewsletter, 2026. https://www.storagenewsletter.com/2026/10/19/caeves-introduces-context-lake-turning-enterprise-data-into-trusted-context-for-any-ai-assistant-via-mcp/
[5] The American Ceramic Society. Video: Nanostructured glass eternally stores high volumes of data in 5-D. Ceramic Tech Today, 2026. http://ceramics.org/ceramic-tech-today/nanostructured-glass-eternally-stores-high-volumes-of-data-in-5-d/
[6] Mucheng Guo, Zhehao Xu, Weiye Sun, Wanting Xiao, Zongfeng Li, Matthew J. Sellars, Rose L. Ahlefeldt, Fudong Wang, Shuping Liu, Manjin Zhong. Long-Lived Spin Coherence in a Densely Populated Stoichiometric Rare-Earth Crystal. Physical Review Letters 137, 153601, 2026. https://doi.org/10.1103/PhysRevLett.137.153601

下一篇|第2期:Ceph 的运维成本,到底贵在哪 —— 分布式存储选型,先把这笔账算清

← 返回资讯中心