store 提交带宽:每周期只能退休一条 store 的硬件天花板与打满识别
承 store-buffer-write-combining 对 store buffer 结构与合并写行为的拆解,以及 commit-order-in-order-retire 对退休顺序的介绍。store buffer 讲的是「写先缓存、后落缓存」,而本篇聚焦它的下游——store 提交带宽:store buffer 里的条目以多快的速率被真正写进 L1D,这个速率为什么是一个写死的硬件常数。
本文要回答的问题
- store 提交带宽到底是什么?为什么是每周期 1 条而不是更多?
- 它和 store buffer 容量、L1D 写端口是什么关系?
- 什么样的代码会把这条 1/cycle 的管道打满?打满后有什么 PMU 特征?
- 合并写、向量 store、非临时 store 分别能把有效带宽抬到多少?
- 实测确认 store 提交瓶颈后,优化顺序应该怎么排?
一、一条 store 的生命周期与那道窄门
一条 mov [addr], val 在乱序核心里走两段路。第一段在退休前:store 的地址和数据作为 uop 进入 store buffer,按程序序排队,这一阶段流水线可以每周期发射 1-2 条 store uop(Skylake 起 2 条),乱序核的「宽度」在这里并不构成瓶颈。第二段在退休后:store buffer 里已退休的条目要按序把数据真正写进 L1D 缓存——这一步才是 store 提交,也是本篇的主角。
关键事实:主流 Intel 微架构(Haswell 到 Sapphire Rapids)和 AMD Zen 系列,L1D 每周期只接受一条 store 提交。不管 store buffer 是 56 项还是 112 项,不管你的向量多宽,这个「1 store/cycle」的出口速率是固定的。它窄的原因很物理:L1D 的写端口要做 ECC 校验、tag 比较、命中判断和一致性消息发出,多写一个端口意味着面积和时序成本翻倍,而大多数代码的 store 密度并不值得这笔投入——硬件厂商算过这笔账。
看这张图要抓住的非对称性:入口 2/cycle、出口 1/cycle。短期靠 store buffer 这个队列吸收峰值,长期平均下来 store 速率超过 1/cycle 的部分,全部变成 store buffer 占用——队列一旦填满,发射端整体停摆,这就是打满时的力学图景。
二、「打满」到底长什么样
store 提交带宽被打满有两种形态,严重程度不同。
形态一:队列占用率长期贴顶,但未持续溢出。 表现为 store 密度接近每周期 1 条(比如一个 tight loop 里 3 条指令就有 1 条 store),store buffer 平均占用接近容量。此时性能还没塌,但已经没有缓冲裕量——任何 L1D miss(store 目标行不在 L1)都会让对应条目多占队列若干周期,占用率瞬间溢出。
形态二:store buffer 溢出导致发射 stall。 这才是真正的「撞墙」。PMU 上的指纹非常典型:
RESOURCE_STALLS.SB(Intel)/ls_mab_alloc类事件(AMD)显著高于基线;CYCLE_ACTIVITY.STALLS_TOTAL里归因于 store buffer 的占比升高;- IPC 从 3-4 掉到 1 附近,但前端、分支预测、load 端口都没有明显问题——排除法剩下的就是 store 侧。
一个直观的判别式:用 perf stat 数 MEM_INST_RETIRED.ALL_STORES(Ice Lake 之后可用;之前用 MEM_UOPS_RETIRED.ALL_STORES),除以核周期数。比值持续贴着 0.8-1.0 而代码又不是纯 memcpy 级别的写密集,基本就是提交带宽在限流。注意单位是「条」不是「字节」——一条 8 字节的 mov 和一条 64 字节的 vmovntdq 在这里各占一格,这就是下一节优化空间的来源。
三、把有效带宽抬上去的四种手法
既然限制是「每周期一条 store」,那优化思路就一句话:让每一条 store 携带更多字节,或减少 store 总条数。
| 手法 | 单条 store 携带字节 | 有效提交带宽(4GHz 估算) | 适用场景 |
|---|---|---|---|
| 标量 8B store | 8 B | ~3.2 GB/s(顶格 4 GB/s 打不满) | 默认,无优化 |
| AVX2 32B store | 32 B | ~16 GB/s | 通用数组写 |
| AVX-512 64B store | 64 B | ~32 GB/s | 大数组、支持 512 位的代次 |
| 非临时 store(NT) | 32-64 B | 不受 1/cycle 限,受 WC buffer/内存带宽限 | 一次性写出、不再读回的大块数据 |
| 合并相邻标量写 | 8→16/32 B | 2-4 倍 | 结构体连续字段赋值 |
手法一:向量化。把 8 次标量赋值换成一条 AVX store,条数降到 1/8,提交带宽立刻不再是瓶颈。这是最常规也最有效的手段,编译器 -O2 对规整循环会做,手写结构体逐字段赋值的代码则经常漏掉。
手法二:非临时 store。vmovntdq / _mm256_stream_si256 走 write-combining 路径,不占用 L1D 写端口的提交配额,直接凑满 64 字节的 WC buffer 后刷出。它绕开的正是本篇这道窄门——代价是目标行不留在缓存里,写完还要读的场景反而会亏,详见 streaming-nt-load-store 与 movdiri-movdir64b-direct-store。
手法三:手工合并写。两个相邻的 8 字节字段,用一条 16 字节写(拼一次 movdqu)代替两条 8 字节写,条数减半。配合 store-buffer-write-combining 讲的同 cacheline 合并,效果叠加。
手法四:减少 store 本身。循环里把中间结果留在寄存器、出循环再写回;批量更新场景先攒在栈上小 buffer 再一次 memcpy。这类「少写」手法不改变单条宽度,但直接降低条数,分母变小。
四、一个识别与修复的完整流程
假设线上一个数据拷贝加变换的服务,IPC 只有 1.1,先怀疑 cache miss,查了 L1D miss 率正常、MEM_LOAD_RETIRED 无异常——按排除法走一遍 store 侧。
第一步,确认条数速率。perf stat -e cycles,MEM_UOPS_RETIRED.ALL_STORES 采 10 秒,算出 store/cycle = 0.91。这个值离 1.0 的理论上限只差一点余量,而业务逻辑里 store 本不该是主角——信号已经足够强。
第二步,定位热点。perf record -e MEM_UOPS_RETIRED.ALL_STORES 抓火焰图,发现 70% 的 store 集中在一个逐字段拷贝结构体的内层循环:一次迭代 6 条 8 字节 store,迭代之间又没有依赖——教科书级的「多条窄写」。
第三步,修复。把 6 条标量写改成两次 AVX2 32 字节 vmovdqu(结构体 48 字节对齐补齐到 64),store 条数从 6/迭代降到 2/迭代。重测 store/cycle 掉到 0.3,IPC 从 1.1 升到 2.6,端到端吞吐涨 1.9 倍。
这个案例的要点:store 提交带宽问题不表现为「写变慢」,而表现为「整个核莫名其妙变闲」——stall 体现在发射端,指标上没有任何一个部件看起来有罪,只有 store/cycle 这个比率会出卖它。
五、边界与注意事项
- 不同代次数字要查手册。Ice Lake server 起部分场景下能做到 2 store/cycle(两个 L1D 写口),但仅限对齐且同 bank 的组合;AMD Zen 4 标称 2 store/cycle 但 NT store 有单独队列。别把某代的结论当普适常数。
- split store 要双倍计数。一条跨 cacheline 的 store 会被拆成两个提交事件,各占一格配额——非对齐写密集场景先修对齐再谈别的。
- 和 load 端口的争抢。Intel L1D 的读口和写口物理上共享部分资源,load 极密的代码里 store 提交有效速率可能低于 1/cycle,两个方向的密度要一起看(配合 uop-pipeline-lsu-buffers 的 LSU 视角)。
- 别和 store buffer 容量问题混淆。容量问题(队列深度不够、合并机会少)和带宽问题(出口速率不够)都会表现为
RESOURCE_STALLS.SB,但前者靠减少驻留时间(修 miss、修 split)缓解,后者只能靠减少条数或加宽单条——先用本文第二节的速率判别式分清是哪一类。
这一篇在知识体系里的位置
本篇属于 concepts/microarch 的「存储子系统微架构」支线,是 store-buffer-write-combining 的下游续篇:那篇讲队列,这篇讲出口。向上承接 commit-order-in-order-retire 的退休语义,横向关联 streaming-nt-load-store(绕过提交端口的替代路径)、store-to-load-forwarding(队列内的转发优化)与 uop-pipeline-lsu-buffers(LSU 整体资源视图)。排查整机内存行为时,再往上接到 line-fill-buffer-intel 的 L1-L2 传输视角。
总结
store 提交带宽是主流乱序核心里「每周期最多一条 store 写入 L1D」的硬限制,打满时不表现为写变慢而表现为整核发 stall;识别靠 store/cycle 比率贴顶加 RESOURCE_STALLS.SB 指纹,修复靠向量化加宽单条、非临时 store 走旁路、合并相邻窄写三件套——本质都是在「条数受限」的约束下做大每条的字节数,让同样多的数据用更少的提交槽位写回缓存层级。