取指目标队列 FTQ:前端与分支预测器之间的解耦队列如何让取指与预测重叠
更新时间:2026-10-03。分支预测 那篇讲了方向预测的总体框架,分支目标缓冲器 BTB 那篇讲了「这条分支跳到哪去」的地址缓存。它们默认了一个前提:预测器每个周期都能准时吐出下一个取指地址,指令缓存每个周期都能准时消费它。现实没这么理想——预测器有快有慢,I-Cache 有命中也有缺失。本篇讲的取指目标队列(FTQ,Fetch Target Queue)就是夹在二者之间、专门消化这种「生产与消费节奏不一致」的解耦队列,它是现代高性能前端(如 ARM 的 decoupled front-end、RISC-V 香山架构)的标配部件。
本文要回答的问题
- 取指目标队列 FTQ 具体存什么,放在流水线的哪个位置?
- 没有 FTQ 的「紧耦合前端」在什么情况下会白白停等?
- FTQ 如何让「预测查找」与「取指访问」两个节奏重叠起来?
- 误预测时 FTQ 怎么处理,队列深度这个参数怎么权衡?
一、FTQ 是什么,放在哪里
先看没有 FTQ 的紧耦合前端长什么样:每个周期,预测器拿当前 PC 查 BTB 和方向预测器,算出「下一个取指地址」,立刻驱动 I-Cache 开始读;I-Cache 读出指令块,送解码器。这是一条环环相扣的链:预测慢一拍,取指就停一拍;I-Cache 缺失去等 L2,预测器也只能干等——因为它算出的下一个地址无处安放,整条链是同频同步的。
FTQ 的做法是在预测器和取指单元之间插一个先进先出队列。预测器作为生产者,每算出一个取指目标(起始 PC、块大小、预测的分支方向与目标地址、调用的预测器快照等元信息)就入队一项,然后马上接着算再下一个;取指单元作为消费者,按队列顺序逐项去读 I-Cache。生产与消费从此各自按自己的节奏跑,队列吸收两者的速度差。
上图是 FTQ 在前端里的位置:它把一个同步大级切成两个异步小级。注意每个队列项装的不只是地址——预测时用的 GHR 快照、预测来源表号等信息也随项携带,误预测恢复时要靠它们把预测器状态回滚到分支点之前,这和 重命名检查点与分支恢复 是同一条投机管理链路上的事。
二、解耦换来什么:两种停顿各被吃掉一半
FTQ 的收益来自两个方向。
先给一个量化直觉:现代大核的方向预测加 BTB 查找本身就要占一拍,I-Cache 命中返回又是一拍到两拍,整条紧耦合链上任何一环多出一拍,前端带宽就直接砍一刀。而取指目标生成的速率其实与取指消费的速率长期是相等的——两者都得跟上退休宽度——问题只是瞬时速率不同步。队列类结构对这种「长期同速、短期不齐」的场景正是对症药。
第一个方向是「预测器可以跑在取指前面」。I-Cache 缺失、ITLB 缺失(见 ITLB 缺失导致的前端停顿)时,取指单元卡在一个队列项上不动,但预测器不用停:它继续往队列里灌后续的取指目标。等 I-Cache 数据回来,队列里已经攒了好几个待取块,取指单元可以连续高速消费,把停顿期间漏掉的进度追回来。换句话说,预测器的超前奔跑给前端存了一笔「取指地址的存款」,专门用来对冲缓存缺失的偶发延迟。
第二个方向是「取指不用等慢预测」。方向预测器里,TAGE 这类多级表(见 TAGE 分支预测器)查一次要一两个周期,覆盖预测(overriding predictor)结构甚至先给快预测再出精预测。没有队列时,每个取指块都要等最慢那次查找;有了 FTQ,快路径先出地址入队,慢路径的精预测如果推翻了快预测,只需把队尾还没被消费的错误项清掉重填——代价限于队列内部,不直接打断正在进行的取指。
上图把「取指停顿、预测超前」的过程按周期展开。关键点在于:没有 FTQ 时,周期 n+2 到 n+3 预测器也被迫空转,这些空转周期是纯粹的损失;有了 FTQ,同样的停顿被转化成了队列深度,等数据一到立刻变现成取指带宽。这与 取指遇到 taken 分支的气泡 那篇讲的是互补关系:那篇讲单个分支造成的拍隙,本篇讲用队列把各种拍隙统一吸收。
三、误预测时:清空队尾,回滚状态
FTQ 也是投机状态的一部分。一条分支在执行侧被判为误预测时,前端要做两件事:一是把 FTQ 里排在该分支对应项之后的所有项清空——它们全是沿着错误路径预测出来的垃圾地址;二是用该项里保存的预测快照回滚 GHR 和预测器内部状态,然后沿着正确方向重新入队第一个取指目标。这个过程和 取指重定向与恢复 紧密配合,重定向延迟里有一小段就是「清队列加重新填队」的时间。
由此能看出队列深度的权衡:FTQ 越深,能吸收的前端停顿越久、预测器超前越多,但误预测时要清空的项也越多,平均每次误预测浪费的预测工作越大;面积和功耗也随之上涨。工业界的取值一般在十几到三几十项之间——足够覆盖一次 L2 命中的延迟(十几拍)所对应的取指目标数,又不至于让误预测清空代价失控。
| 设计点 | 浅 FTQ(约 8 项) | 深 FTQ(约 32 项) |
|---|---|---|
| 吸收 I-Cache 缺失 | 只够覆盖短停顿 | 可覆盖到 L2 甚至更远 |
| 误预测清空浪费 | 小 | 大,清掉的多是无效工作 |
| 面积与功耗 | 低 | 高,每项还带预测快照 |
| 适用场景 | 面积敏感的中核 | 追求 IPC 的大核前端 |
这一篇在知识体系里的位置
本篇是前端取指线上「解耦」专题。上游框架是 分支预测 与 分支目标缓冲器 BTB;同层关联 取指遇到 taken 分支的气泡、ITLB 缺失导致的前端停顿;恢复侧见 取指重定向与恢复 和 重命名检查点与分支恢复;全局地图见 CPU 微架构总览。
总结
取指目标队列 FTQ 是插在分支预测器与取指单元之间的缓冲队列,每项存一个取指地址加预测快照:它把「地址生成」与「地址消费」解耦成两个异步流水级,让预测器在 I-Cache 停顿时继续超前奔跑攒下取指目标、让取指不必等慢速精预测,用队列深度吸收前端的一切节奏不齐;代价是误预测时要清空队尾并回滚预测状态,所以深度要在「能覆盖一次缓存缺失的停顿」与「清空浪费别太大」之间取平衡。