服务器专题 | 第8期:带宽不是买速度,是买并行度
报价单上摆着两根内存条:DDR4-3200,DDR5-6400。销售说,后者快一倍。
这话对了一半。快的是吞吐,不是响应。内存延迟这二十年几乎没动过,一直在 80-100ns 量级打转;涨上去的,是同一时间能搬多少数据。带宽买的不是速度,是并行度。
一条通道的账:速率乘以位宽
单通道理论带宽就一个公式:传输速率乘以 8 字节。
DDR4-3200:3.2GT/s 得 25.6GB/s。DDR5-4800:38.4GB/s。DDR5-6400:6.4GT/s 得 51.2GB/s1。以上是计算值。JEDEC 标准(JESD79-5,2020 年 7 月 14 日发布)给的是速率上限,带宽是乘出来的2。
单 64 位通道理论带宽(计算值;8 通道 DDR5-4800 合计 307.2GB/s)
服务器是 8 通道起步:8 乘 38.4 等于 307.2GB/s(DDR5-4800,计算值)。看清楚,带宽的第一个乘数是通道数,不是频率。加通道比超频率实在得多,这也是对称插满的由来,第 20 期我们会算那笔账。
等待藏在哪:Bank 与突发长度
频率上不去,JEDEC 就在并行度上做文章,一共三处。
DDR4 与 DDR5 的通道、Bank、突发长度对比(示意图,小羲绘制;结构参数引自 JEDEC DDR5 规范解读,2026-10-24 查阅)
第一处,通道拆细。一根 DDR5 内存条自带两个完全独立的子通道,各 32 位数据加 8 位 ECC3。窄通道利用率更高,两条小路比一条大路更不容易堵。
第二处,Bank 翻倍。DDR4 是 16 个 Bank,DDR5 是 32 个3。Bank 是 DRAM 里能独立开关的页,一边读写一边预充电,靠交错把等待藏起来。Bank 越多,能同时开着的页越多。
第三处,突发长度翻倍。BL8 变 BL16,一次突发取两个 64 字节3。CPU 一次要的就是一个缓存行(64B),DDR5 一次突发喂两行。
三处翻倍,带宽就翻倍了。注意,没有一处是在让"等"变短,都是在让"同时干的活"变多。
延迟是税,带宽是路
把两期连起来看:第 7 期讲距离税,第 8 期讲并行路。内存系统的两笔账,一笔是离得远近,一笔是路的宽窄。买服务器的人,核数看完要看通道数,容量看完要看 Bank 组织。报价单上"32GB DDR5"这六个字,藏着通道、位宽、Bank 三个没写出来的参数。
小羲的推演:CXL 内存进来之后,"通道"这个概念会被重写。内存不再只挂在 CPU 的内存控制器上,带宽的账要按 fabric 重算。那是第 11 期的题,今天先把 DDR 的账结清。
还有一个没想透的问题:Bank 越多、通道越宽,空闲功耗和刷新开销也在涨。并行度的边际收益递减点在哪?留给实测。
觉 然 小 注
一事不劳二主,一路不走两车。DDR5 把一条大路拆成两条小路,把一页纸裁成三十二开,忙的从来不是更快,是更不互相等。
· · ·
九羲科技|服务器 · 私有 AI · 存力方案
系列目录
第1期 | 73% 的整机钱,都给了 GPU 板组 https://jiuxii.cn/news/95
第2期 | 4500 颗芯片撑起 95% 的机架价值 https://jiuxii.cn/news/96
第3期 | 拆一台 2U 双路:通用服务器的钱花在哪 https://jiuxii.cn/news/102
第4期 | 大铁盒子,值钱的不是铁 https://jiuxii.cn/news/103
第5期 | L5 之后,机箱为什么就不许再改了 https://jiuxii.cn/news/110
第6期 | 能点亮,不等于能交付 https://jiuxii.cn/news/111
引用与出处
[1] Brandon Hill. JEDEC Finalizes DDR5 Memory Spec: 6.4GB/s Speeds, Lower Voltage, And Increased Capacity. HotHardware. https://hothardware.com/news/ddr5-memory-spec-finalized-2tb-64gbps
[2] safeguard.sh. Memory Evolution: Core to DDR5, LPDDR, HBM and CXL, With Security Notes. safeguard.sh. https://safeguard.sh/resources/blog/memory-evolution-from-core-to-ddr5-hbm-and-cxl
[3] MEMXPRO. MEMXPRO Launches New Super Fast DDR5-4800 Memory Modules. openpr.com. https://www.openpr.com/news/2608015/memxpro-launches-new-super-fast-ddr5-4800-memory-modules
下一篇:第 9 期,从 ECC 到 Chipkill 再到内存镜像,可靠性是分层买来的,敬请期待。