DRAM 行缓冲:命中、冲突、空转三种访问形态与开关页策略
承 DRAM 控制器调度——那一篇讲控制器怎么在请求队列里挑"行命中的先走",但把一个问题留给了本篇:行命中、行冲突这些状态到底从哪来?答案全在 DRAM 行缓冲(row buffer) 这块每 bank 一行的 SRAM 上。它是 DRAM 颗粒内部唯一的"快部件",一次访存是 15 纳秒还是 45 纳秒,完全取决于它和你要的那行是什么关系。bank 层面的组织方式与地址映射背景见 cache 分 bank 与 bank 冲突,本篇聚焦单个 bank 内部的行缓冲行为。
本文要回答的问题
- DRAM 行缓冲是什么,为什么访问 DRAM 一定要先把整行"搬"进来?
- 行缓冲命中、行冲突、行空转三种形态各自的命令序列和延迟差多少?
- open-page 和 close-page 两种行策略分别怎么工作?
- 顺序扫描和随机指针追逐,为什么对行缓冲是一个天上一个地下?
- 现代内存控制器实际用的是哪种策略,软件能做什么配合?
一、行缓冲:DRAM 颗粒里唯一的快部件
先记住 DRAM 的一个物理事实:存储单元是电容,读它是破坏性的,而且整行一起读。一个 bank 内部是一张大矩阵,几千行乘几千列。访问任何一个比特,都必须先把整行(通常 1~2KB) 的电容内容一次性放大、拷进 bank 底部的一排感测放大器——这排放大器兼做暂存,就是行缓冲。
这个动作叫行激活(ACTIVATE),代价约 tRCD ≈ 15 纳秒。行进了缓冲之后,从里面读任意一列就很快了,一次列读(READ)只花 tCL ≈ 13~15 纳秒。用完之后如果不再保持,还要预充电(PRECHARGE,tRP ≈ 15 纳秒)把行缓冲写回矩阵、恢复电位,才能激活下一行。
所以一次 DRAM 访问的真实结构是「慢速的行操作 + 快速的列操作」两段式。行缓冲命中与否,决定了你要不要付、付几次那个慢段。
这张图里最值得盯的是中间那层行缓冲:它是全 bank 唯一一份"当前打开的行",同一时刻一个 bank 只能打开一行。这个"只有一个槽位"的约束,就是三种访问形态和一切策略问题的根源。
二、命中、冲突、空转:三种访问形态
一个新请求到达 bank 时,和行缓冲的关系只有三种可能:
| 形态 | 行缓冲状态 | 命令序列 | 典型延迟 | 相对代价 |
|---|---|---|---|---|
| 行缓冲命中 | 目标行正开着 | READ/WRITE | ~tCL ≈ 15 ns | 1x |
| 行空转(bank 空闲) | 没有行开着 | ACTIVATE + READ/WRITE | ~tRCD + tCL ≈ 30 ns | 2x |
| 行冲突 | 开着的是另一行 | PRECHARGE + ACTIVATE + READ/WRITE | ~tRP + tRCD + tCL ≈ 45 ns | 3x |
行缓冲命中是最甜的:行已经在缓冲里,直接发列命令拿数据,一条命令换 64 字节。行空转是中性开局:bank 闲着,花一次激活把行请进来再读。行冲突是最贵的:先关旧行、再开新行、再读,三条命令串行,还得独占这个 bank 四十多纳秒,期间别的请求一概进不来。
关键洞察是:这三种形态不是请求的固有属性,而是"顺序"的产物。同一个请求,排在一串同行请求后面就是命中,排在一个异行请求后面就是冲突。这正是 DRAM 控制器调度 里 FR-FCFS 拼命把同行请求凑一起的原因——它在人为制造命中、推迟冲突。
三、open-page 与 close-page:用完这行,关还是不关
行冲突的贵,引出策略问题:一次访问结束后,行缓冲里这行留着还是立刻关掉?这就是行策略(row policy)的分叉口。
open-page(开页)策略:访问完保持行打开,赌下一个请求还打这一行。赌赢了就是纯列命令的 15 纳秒;赌输了(下一个请求要别的行)就得现场补 PRECHARGE,冲突的 45 纳秒一分不少,而且因为没提前关,这笔开销全部暴露在关键路径上。
close-page(闭页)策略:访问完立刻自动预充电关行(常用 READ with auto-precharge 一条命令顺带完成)。每次访问都是"激活 + 读 + 关"的固定 30 纳秒级开销,从不命中也从不冲突——它把方差砍掉了,代价是放弃了命中的红利。关行的 PRECHARGE 常常能被后续其他 bank 的传输掩盖,所以实际代价常低于账面。
这张图把两种策略的赌注画得很直白:open-page 是用"异行时多付 15 纳秒"去博"同行时省 15 纳秒",赔率好坏全看工作负载的行局部性;close-page 不赌,每次付固定价。调度器眼里,close-page 让每个 bank 永远处于"行空转"的可预测状态,也简化了公平性。
四、什么访存模式配什么策略
策略好坏没有绝对值,全取决于访存流的行局部性:
- 顺序扫描 / 流式读写(memcpy、大数组遍历、向量计算):连续地址落在同一行里,一行 1~2KB 够扫 16~32 个 cache line。open-page 下激活一次连出几十条列命令,命中率轻松 90% 以上,有效带宽逼近理论峰值。这是 open-page 的主场,cache 友好代码 里"按行连续访问"的 advice 在 DRAM 层面是又一次兑现。
- 随机指针追逐 / 稀疏访问(哈希表探测、图遍历、链路追踪式数据结构):每次访问换一行,open-page 每次都吃满 45 纳秒冲突,是最差组合。close-page 把每次钉在 30 纳秒级,反而便宜三分之一,还没有方差。
- 多线程混部:多个线程的请求交织打到同一 bank,行局部性被互相破坏,open-page 的命中率被稀释。这也是服务器端倾向保守策略的原因之一。
现代 DDR4/DDR5 控制器的实际答案不是二选一,而是自适应开页(adaptive page policy):行缓冲默认保持打开(open-page 姿态),但控制器盯住每个打开行的"再命中情况"——一段时间没被再次命中的行,趁空闲提前预充电关掉;同时调度器若看到队列里有等着打别行的请求,也会主动关行腾槽。等于"开着赌,但设止损"。桌面端负载单线程流式多,偏 open;服务器端并发随机多,策略更激进地提前关页。
五、对软件的启示
行缓冲是硬件,软件改不了策略,但能顺着它写代码、读现象:
- 让访存成行:顺序遍历、SoA 布局、批量连续读写,都是在给行缓冲送命中。同样的数据量,行命中率高一倍,内存延迟近乎砍半。
- 大对象别跨行乱摆:一个常被整体访问的结构,尽量对齐、紧凑,让它落在尽量少的 DRAM 行里;2MB 大页除了省 TLB,也让连续虚拟页更容易映射到连续物理行。
- 观测上:
perf stat的 LLC miss 延迟如果呈现明显的双峰(一批 ~80ns、一批 ~140ns 量级),往往就是行命中与行冲突两群请求的分布;Intel uncore IMC 事件能进一步看每通道的命令构成。配合 硬件预取器 一起看更有意思:stride 预取把随机模式"提前拉直"成流,等于帮行缓冲提前把行开好。
这一篇在知识体系里的位置
本篇是 DRAM 专题里"单个 bank 内部行为"的一块,上下游衔接如下:
- 上游:DRAM 控制器调度 讲请求队列层面的重排,本篇讲清楚它赖以为生的"行命中状态"的物理来源;cache 分 bank 与 bank 冲突 讲 bank 间怎么摊开,本篇讲 bank 内怎么开闭。
- 平行:cache 友好代码 的局部性原则在 DRAM 行缓冲层面再次生效;硬件预取器 是把访存"拉直成行"的硬件帮手。
- 下游:内存带宽/延迟的实际测量见 观测工具 各篇目。
总结
DRAM 行缓冲是每个 bank 唯一"打开的行":访问按它与目标行的关系分命中(只发列命令,~15ns)、空转(先激活,~30ns)、冲突(先关旧行再开新行,~45ns)三种形态,代价逐级翻倍。open-page 策略保持行打开赌下一个请求同行,适合顺序流式负载;close-page 用完即关换可预测的固定开销,适合随机与多线程混部;现代控制器用自适应开页"开着赌、设止损"。软件的对策一以贯之:访存越连续成行,行缓冲越给你白送带宽。