前端重定向恢复:预测错误后取指流水线的清空与重启路径
更新时间:2026-10-03。分支预测 讲过预测器怎么猜方向,误预测的前端空泡 讲过「猜中但跳走」时的气泡,但真正的重活发生在猜错的那一刻:分支在执行段揭晓真实方向,前端此刻已经沿着错误路径取了几百个字节的指令,整条取指流水线必须被清空、从正确地址重新启动——这个动作就叫前端重定向(frontend redirect)。这一篇把重定向拆成三个问题看:误预测消息从执行段传回前端要走多久、BPU(Branch Prediction Unit,分支预测器)自己的流水线深度如何把这段延迟放大成空泡、以及这笔账在 Top-down 方法里记在哪个格子。它是理解「分支误预测代价 15-20 周期」这个经典数字由来的钥匙;上游框架见 CPU 微架构总览,冲刷语义见 精确异常与流水线冲刷。
本文要回答的问题
- 一次前端重定向从「发现猜错」到「正确路径指令进入译码」经历了哪几步?
- 重定向延迟由哪几段组成,哪一段是近年变长最快的?
- BPU 自己也是一条流水线,它的深度如何决定「连带误取」的规模?
- 前端空泡怎么量化?perf 里哪些计数器能把这笔损失单独拆出来?
- 缩短重定向路径的工程手段有哪些,各自付出什么代价?
一、重定向全景:一条坏消息的回乡之路
先把舞台摆清楚。现代高性能核的流水线可以粗分成两段:前端(取指、译码、uop 缓存/分配)按预测方向狂奔,后端(重命名、发射、执行、提交)慢慢消化。分支指令的方向要等它流到执行段、操作数齐备、真正算出比较结果那一刻才揭晓。揭晓的瞬间,前端可能已经领先了几十甚至上百条指令——这些指令全部走在错误路径上。
重定向就是「坏消息从执行段传回前端、前端掉头」的全过程,拆成五步:
- 执行段的分支单元(branch execution unit)算出真实方向,与预测位比较,发现不符;
- 误预测信号连同正确目标地址被打包送回前端,同时通知 ROB 给误预测点之后的所有指令打上清空标记;
- 预测器本身要更新:TAGE 的历史表、BTB 的目标项、RAS(返回地址栈)的栈顶都要修,细节见 TAGE 分支预测器 与 返回地址栈 RAS;
- 取指级放弃当前取指队列里的内容,用正确目标地址重新查 BTB、重新驱动 I-cache 和 I-TLB 访问;
- 正确路径的第一批指令流过取指、译码,进入分配级,前端恢复供流。

上图里箭头方向值得盯一眼:消息是从右下的执行段「逆流而上」回到前端的。这条逆流路径穿越的流水级越多,重定向延迟就越长——这就是下一节的主题。
二、重定向延迟拆解:15-20 个周期花在哪
「分支误预测代价约 15-20 周期」是个被引用烂的数字,但很少有人拆开看它的构成。把一次重定向的延迟逐段加总(以 2020 年代高性能核为参照):
| 延迟段 | 典型周期数 | 物理原因 |
|---|---|---|
| 分支等待操作数就绪 | 0 到数百 | 数据相关,不属于重定向本身,但决定误预测何时被发现 |
| 执行段生成误预测信号 | 1 | 比较器一拍 |
| 信号回传前端 | 3 到 6 | 跨流水级的连线延迟,芯片越大越慢 |
| 前端清空与取指重启 | 2 到 4 | 队列作废、PC 重定向、BTB 重查 |
| I-cache 命中取指到译码 | 4 到 6 | 取指流水线本身深度 |
| 合计(流水恢复部分) | 10 到 17 | 这就是误预测代价的主体 |
注意第一行特意标了「不属于重定向本身」:如果分支依赖一条 L3 缺失的 load,误预测可能在错误路径跑了几百周期后才被发现——但那段时间前端并不空,它在喂(错误的)指令,后端的错误指令也在占资源。重定向延迟只算「从发现到恢复」这段真空期。
三段里近年变长最快的是「信号回传」。核心越做越宽(8 宽、10 宽译码),执行簇离前端物理距离越远,跨芯片走线延迟在高频下就是好几个周期。有些设计干脆在前端和执行段之间放一条专用的重定向总线,用寄存器分段接力,宁可多花一拍换时序收敛。
还有一个容易被忽略的变量:间接分支的目标地址。方向预测错了只需要把 PC 拨回正确路径的下一条指令,但间接跳转(函数指针、虚函数、switch 跳转表)的「目标地址」本身也可能是投机得来的——BTB 或 ITTAGE 给了一个猜的地址,真实地址要等寄存器操作数算出来。这种情况下重定向不仅要清方向,还要换一个完全不同的取指起点,新起点的 BTB 项、I-cache 行、I-TLB 页全都没有被投机路径暖过,重启那段延迟普遍偏上限。间接分支预测器 ITTAGE 讲了目标预测一侧的精度问题,本篇关心的是它没猜中之后前端要付的那笔路费。
三、BPU 流水线深度:预测器自己也是一条流水线
很多人以为分支预测是「取指时顺带查个表」的零延迟动作。在高频核上完全不是:TAGE 要读多张带索引的历史表、做哈希、选提供者,一整套下来本身就要 2-4 个周期流水。于是预测器输出相对取指地址是「滞后的」——取指级发出地址 A 的时候,它拿到的预测结果其实是几个周期前地址的。
这个滞后带来一个隐蔽的放大器:在 BPU 流水还没吐出当前块的预测结果之前,取指只能按「顺序下一块」盲猜前进。如果真实路径在中间拐了弯,等到 BPU 结果出来再纠正,已经多取了好几块——这些块叫「连带误取」,最终也要在重定向时一起清掉。更糟的情况是 BPU 输出到达时和真实方向冲突,触发「前端内部重定向」(BPU redirect),不必等执行段,前端自己就先掉头一次——误预测的前端空泡 讲的 taken 分支气泡和这是同族现象。

上图的核心观察是:BPU 流水线深度是个双重变量。加深它可以用更大更准的预测表(提升准确率),但每次重定向要清掉的「在飞取指」也更多(加大单次代价)。这就是为什么有的核在 BPU 前面再放一个「零周期微型预测器」(只查一张小 BTB 一拍出结果)做第一级,大 TAGE 做第二级纠偏——用两级结构折中准确率和空泡,分支目标缓冲 BTB 讲了目标缓存一侧的组织。
四、空泡量化:把前端真空期变成计数器数字
定性讲完,落地到测量。一次重定向造成的「前端真空期」约等于重定向延迟,这段时间译码级没有任何 uop 输出。在 Top-down 分析方法 里,这笔账记在「Frontend Bound」下面;进一步拆,「Branch Resteers」(分支重定向)或类似的「ICache miss / ITLB miss / Branch Resteer」三兄弟把前端空泡按原因分开——重定向恢复的空泡就落在 Branch Resteers 这一格。
用 perf 量化的常用计数器:
br_misp_retired.all_branches:误预测分支总数,乘以单次代价就是粗估损失;- Intel 上的
BR_MISP_RETIRED.ALL_BRANCHES配INT_MISC.RECOVERY_CYCLES:后者直接数「机器处于恢复状态」的周期数,是重定向代价最诚实的测量; - Top-down 工具(pmu-tools 的 toplev)输出的
Frontend_Bound子项Branch_Resteers:直接给出重定向空泡占总槽位的百分比。
举个数量感的例子:一个 IPC 目标 4 的程序,分支密度约每 20 条指令一条,误预测率 3%,每条误预测平均恢复 17 周期。每 1000 条指令有 50 条分支、1.5 次误预测,损失约 25 个周期——相当于程序理想执行时间(250 周期)的 10%。这就是预测器每提升一个百分点精度都值得拼命的原因。

把这张账算图和上一节的流水线图叠起来看:空泡不是抽象的「罚 15 拍」,而是信号回传、前端清空、I-cache 重启三段实打实的周期,每一段都能被对应计数器捕捉到。如果程序还伴随 I-TLB 缺失的前端停顿,重启那段会变得更贵——正确路径的页表翻译可能也没在 TLB 里。
五、缩短重定向路径的工程手段
面对这条十几周期的回乡路,微架构师手里有四张牌。
第一张是「早发现」:把一部分简单分支(立即数比较、寄存器比较零)的判决前移到译码段甚至前端内部做预判决(pre-decode 阶段顺带算掉),不必等执行段。ARM 的一些核把「分支越早解析越好」做到极致,译码段能解决的就地解决,重定向路径从十几拍缩到几拍。
第二张是「少连带」:上一节说的两级 BPU——零周期微型预测器加后台大 TAGE 纠偏。微型预测器一拍给出八九成准的方向,大预测器出来后若意见不同再做一次代价较小的前端内部重定向,把大错换成小错。
第三张是「别全清」:选择性清空(selective flush)。误预测点之前的指令无辜,只有之后的投机指令该死。ROB 的精确标记让后端天然支持这一点,见 ROB 重排序缓冲;前端的取指队列则按分支标签作废对应区段。重命名侧的快照恢复让映射表几周期归位,见 重命名检查点与分支恢复。
第四张是「多条腿」:乱序窗口够深时,让误预测的分支在 ROB 里「挂着」,前端掉头后新路径的指令可以继续流入,旧路径资源随提交逐步释放,恢复与执行重叠。这要求 ROB、发射队列、物理寄存器堆都有余量——重定向代价本质上是和资源深度做交换,ROB 大小与乱序窗口 给了资源侧的量级。

四张牌没有一张是免费的:预判决占译码带宽,两级 BPU 占面积,选择性清空加控制逻辑,重叠恢复加资源。但它们的合力效果在过去二十年是实打实的——同等预测精度下,现代核的实测误预测代价已经比 P6 时代低了接近一半。
对写代码的人来说,这些机制的启示很具体:热路径上的分支要「一边倒」得让预测器容易学,间接跳转尽量收敛到少量目标(虚函数少层继承、switch 密集值域),异常路径用冷标注挪出热块。编译器的 PGO(Profile Guided Optimization,按实测剖面重排代码)做的事情,本质就是把真实运行里最常走的路径排成顺序布局,让重定向的触发率和连带误取的规模同时降下来。
这一篇在知识体系里的位置
本篇是微架构前端线「误预测代价」专题的恢复机制篇。上游是 分支预测(为什么需要猜)、TAGE 分支预测器 与 间接分支预测器 ITTAGE(怎么猜得准)、误预测的前端空泡(猜中也要付的气泡)。同线相邻的是 分支目标缓冲 BTB(目标地址缓存)、返回地址栈 RAS(调用返回预测)、uop 缓存与译码前端(重定向后重新供流的另一通道)。下游衔接 重命名检查点与分支恢复(后端状态回滚)、精确异常与流水线冲刷(冲刷语义)、Top-down 分析方法(空泡的量化框架)。全景见 CPU 微架构总览。
总结
前端重定向恢复是分支误预测揭晓后取指流水线的清空与重启:执行段算出真实方向后,误预测信号要花 3-6 个周期逆流回前端,前端再花数周期清空队列、重查 BTB、重启 I-cache 取指,加上 BPU 自身 2-4 拍流水造成的连带误取,凑成「误预测代价 15-20 周期」这个经典数字;这笔空泡在 Top-down 里记在 Branch Resteers 一格,可用 RECOVERY_CYCLES 直接计数,而预判决、两级 BPU、选择性清空、恢复与执行重叠四张工程牌,正在把这条回乡路一代代压短。