ERMS 快速字符串:rep movsb 何时真的比手写 SIMD memcpy 更快
更新时间:2026-10-04。在 CPU 微架构总览 的全景里,字符串指令(
rep movsb、rep stosb)一直是 x86 最尴尬的一角:语义上是「一次搬一个字节、循环 RCX 次」,上世纪的实现也真的逐字节跑,慢到教科书都劝人别用。Intel 从 Ivy Bridge 起给它们做了微码级重做,内部按 32 字节甚至更大的块搬运,这个特性叫 ERMS(Enhanced REP MOVSB and STOSB,增强型重复字符串操作),也就是本篇的主角 ERMS 快速字符串。后来 Ice Lake 又加了 FSRM(Fast Short REP MOVSB,短拷贝加速),把短板也补了。背景上它站在 SIMD 向量执行单元 和 store buffer 与写合并 的交叉点上:同样一块数据,到底交给 CPU 内部微码搬,还是自己写 AVX 循环搬?
本文要回答的问题
- ERMS 快速字符串到底改了什么?
rep movsb内部还是逐字节吗? - 拷贝多长的数据时 rep 前缀能打赢手写 SIMD 循环?多短时反而输?
- FSRM 和 ERMS 有什么区别,各自管哪段长度区间?
- 非时态(streaming)场景下
rep movsb和 NT store 谁更合适? - glibc 的 memcpy 实现是怎么在几条路线之间做运行时选择的?
一、ERMS 改了什么:从逐字节循环到微码块拷贝
先看老实现为什么慢。传统 rep movsb 的硬件行为忠实地执行语义:取一个字节、存一个字节、RCX 减一、判零跳转,每一步都是一次微操作退休,吞吐量被前端和退休宽度双双卡死,实测带宽常常不到手写循环的十分之一。
ERMS 的做法是把整条指令译成一段固化在 ROM 里的微码序列:这段微码不再按字节走,而是按缓存行大小的内部块搬运——读端尽量凑满对齐的 32 字节(部分微架构下等效更宽)加载,写端走写合并路径整块落 L1。从程序员视角,指令还是那一条、语义还是逐字节精确(包括重叠区的向后兼容语义),但微架构视角下它更像一个「被硬件写好的、不可被分支预测器干扰的 memcpy 内循环」。
这套微码还白捡几个手写循环拿不到的便宜:
- 不占用分支预测器和 BTB 项——内部循环是微码控制的,不会污染预测器状态,对调用方的干扰比一条软件循环小。
- 拷贝方向和对齐处理由微码一次算好,不需要软件先跑一段 peel(剥头)循环。
- 微码可以根据目标地址的缓存状态动态选择写策略,包括在大拷贝时切换成 RFO 免读(免读-for-ownership)的写分配绕过,省掉目标行的读流量。
上图是 ERMS 快速字符串的内部剖面:一条指令进、一段微码接管、按块走数据。要点在「主循环」那个框——它的块宽与加载存储通路同宽,所以理论上带宽上限不比手写 AVX2 循环低,差距只出在启动成本和调度细节上。
二、什么时候赢、什么时候输:长度区间的三段论
实测口径下,rep 前缀与手写 SIMD 的胜负大致按拷贝长度分三段。
短拷贝(几十字节以内)是 rep 的老伤疤。ERMS 微码有固定启动开销——进入微码序列、计算方向与对齐,大约 20 到 40 个周期,拷贝 16 字节时这点开销比数据搬运本身还贵。手写循环在这里可以一条 vmovdqu 加一条掩码收尾,全程十几个周期。FSRM 就是为这段区间生的:它把短拷贝的启动路径砍薄,让 128 字节以内的 rep movsb 也进入可用区,但仍未必打过精心排布的几条向量指令。
中等长度(几百字节到几十 KB,源和目标都还在缓存里)是 ERMS 的主场。微码主循环的块搬运效率与手写循环相当,还省了分支预测干扰和代码体积——一个 rep movsb 只占几个字节,不会把调用点的 L1i 和 uop cache 顶出一块。glibc 在大多数 ERMS 机型上对这段区间就是直接选 rep。
给一个可复现的量级感:在 Ice Lake 一代的服务器上,源和目标都驻留 L2 时,4KB 拷贝用 ERMS 的 rep movsb 与手写 AVX2 四寄存器展开循环,带宽差距通常在 5% 以内,谁快取决于具体对齐情况;但如果调用点本身在一个紧凑的热循环里,手写版本那几十条指令会把 uop cache 的有效容量啃掉一块,连累周围代码的前端供给,算上这笔间接账 rep 反而常常反超。这也是为什么「微基准打平、全程序更快」的组合在 ERMS 甜区里并不罕见。
超大拷贝(远超 LLC 容量,数据注定要去 DRAM)情况又反转。此时瓶颈是内存子系统而不是执行通路,手写循环可以用非时态 store(vmovntdq)做写分配绕过,彻底省掉目标行的 RFO 读流量,理论带宽比常规写高一半。ERMS 微码在部分微架构上也会对大拷贝自动切类似策略,但行为不透明、各代不一;要确定性,还得手写 NT 版本,细节见 非时态加载存储。
| 拷贝长度 | 推荐路线 | 原因 |
|---|---|---|
| 0 到 64 字节 | 手写向量(或无 FSRM 时禁用 rep) | rep 启动开销 20 到 40 周期,超过搬运本身 |
| 几百字节到 LLC 内 | rep movsb(ERMS/FSRM) | 块搬运等效手写,省预测器与代码体积 |
| 远超 LLC | 手写 NT store 循环 | 写分配绕过确定性高,省 RFO 流量 |
| memset 大区间 | rep stosb | 无读端,ERMS 优势更纯粹 |
direction: down
judge: "拷贝长度判定"
short: "小于 128 字节\n手写向量收尾"
mid: "缓存容量以内\nrep movsb 走 ERMS"
large: "远超 LLC\n手写 NT store 循环"
fill: "memset 场景\nrep stosb 优先"
说明: "glibc 在 ERMS 机型上的默认选择" { shape: text }
judge -> short: 启动开销敏感
judge -> mid: 主循环效率相当
judge -> large: 确定性写绕过
judge -> fill: 只有写端
mid -- 说明
judge.style: { fill: "#F1ECFD"; stroke: "#7A5BD4" }
short.style: { fill: "#FEF3E2"; stroke: "#E08A1E" }
mid.style: { fill: "#E9F8F0"; stroke: "#2E9E6B" }
large.style: { fill: "#EAF2FE"; stroke: "#3B6FD4" }
fill.style: { fill: "#EAF2FE"; stroke: "#3B6FD4" }上图是 glibc __memmove_avx_unaligned_erms 一类实现的决策骨架:长度闸门上分三路,外加 memset 的独立路径。值得注意的是「mid」这一支——glibc 的 ERMS 变体并不只是在原地放个 rep,它仍然先用手写向量处理头部和短拷贝,确认长度落在 ERMS 甜区后才把主体交给 rep movsb,是个混合实现。
三、实战建议:别自己造轮子,但要知道轮子在转
对绝大多数应用代码,结论很朴素:调 memcpy 和 memset,让 libc 去做长度分派,不要手写 SIMD 循环、也不要在汇编里裸写 rep。glibc 的 ifunc 分派在启动时按 CPUID 的 ERMS/FSRM 位选实现,已经覆盖了三段论。
真正需要自己下场的只有两类场景。一类是超大且确定不复用的拷贝(日志落盘前的缓冲区搬运、视频帧转发),值得写一个 NT store 版本并实测对比,参照 内存级并行 里 MLP 受限的带宽模型。另一类是极致短拷贝热路径(固定 16 或 32 字节的结构体复制),编译期内联的定长向量赋值比任何通用实现都快。
观测侧,perf stat 里如果 memcpy 占比异常高,先看长度分布——大量 1KB 左右拷贝在老 glibc 或非 ERMS 机型上走错了路径,升级 libc 或确认 CPUID 特性位往往比改代码更有效。cat /proc/cpuinfo 的 flags 行里看到 erms 和 fsrm,就说明这块 CPU 的两段甜区都开着。
还有一个容易踩的坑是虚拟化与跨机型迁移:云实例的 vCPU 特性位由宿主机决定,同一镜像从老机型热迁移到新机型后,glibc 的 ifunc 分派是进程启动时一次性定死的,已经跑着的进程不会自动切到 ERMS 路径,长驻服务要重启才能吃到新硬件的红利。另外容器镜像里如果静态链接了老版本 musl 或精简 libc,其 memcpy 可能根本没有 ERMS 变体,在同样的硬件上白白慢一截,排查时别只盯着 CPU。
这一篇在知识体系里的位置
本篇是微架构模块「访存执行线」的专题补丁。上游基础是 SIMD 向量执行单元(手写循环的硬件底座)与 store buffer 与写合并(块写为什么快);同线相邻的是 非时态加载存储(超大拷贝的替代路线)和 硬件预取器(rep 主循环能跑赢的另一半原因)。SIMD 长度无关编程的背景见 SIMD 向量长度无关。
总结
ERMS 快速字符串把 rep movsb/rep stosb 从逐字节的慢速循环重做成 CPU 内部按 32 字节块搬运的固件级 memcpy,中等长度(缓存容量以内)下带宽追平手写 AVX 循环、还省分支预测器与代码体积,所以 glibc 把它设为这段区间的默认路径;但短拷贝有 20 到 40 周期的微码启动开销(靠 FSRM 缓解)、超 LLC 大拷贝缺少确定性的写分配绕过(得手写 NT store),三段长度三种最优解,应用层的正确答案始终是调 libc 的 memcpy、让 ifunc 分派去选对的那条路。