6
CPU中指令流水线技术研究
端(In-Order Issue Front-end)单元，乱序内核（Out-of-order Core）单元和有序的退出（In-Order Retirement）单元。
Intel新近推出的奔腾Ⅲ处理器使用了P6中的动态执行技术，包括多分枝预测、数据流分析、投机执行。同时奔腾Ⅲ处理器具有一个流水线式的浮点运算单元(FPU)，可支持32位、64位和80位的浮点运算。最近Intel又发表奔腾4，奔腾4基本的指令流水线长度达到了20级，是 P6架构的2倍，也超过了AMD的Athlon。更长的流水线可以使处理器运行在更高的主频下，从而提高处理器的性能，但有可能带来一些指令执行上的延迟。
第二章 流水线基础
7
第二章 流水线基础
加快机器语言的解释过程提高机器的运算速度是设计计算机的基本任务之一。这可以通过两个途径来实现。一个途径是提高器件的速度，采用更好的算法，增加指令内各微操作的并行程度，减少解释过程所需要的拍数等多项措施来加快机器指令的解释。另一个途径则是采用重叠和流水方法，同时解释两条、多条以至整段程序，从而加快整个机器语言程序的解释。流水线技术是目前广泛应用于微处理芯片中的一项关键技术,Intel公司更是这项技术在微处理器中应用的首先实现者。
2.1 流水线概念
指令的三种控制方法：顺序方法、重叠方式、流水方式。顺序方法是指各条机器指令之间顺序串行地执行，而且每条机器指令内部的各个微指令也是串行执行。这种方法虽然控制简单但速度上不去，机器各部件的利用率低。重叠方式是指在解释第K条指令的操作完成之前就开始解释第K+1条指令。通常都是采用一次重叠，即在任何时候，指令分析部件和指令执行部件都只有相邻两条指令在重叠解释。这种方式使指令的解释速度有所提高，控制也不太复杂但会出现冲突、转移、相关等问题，这些都需要在设计时想办法解决。流水方式就是把并行性或并发性镶嵌到计算机系统里的一中形式。它是把重叠的顺序处理过程分解为若干过程，每个过程能在专用的独立模块上有效地并发工作的技术。在概念上“流水”可以看成“重叠”的延伸。不同的是“一次重叠”只是把一条指令的解释分解成两个子过程，而“流水”则是分解为更多的子过程。
2.1.1 指令重叠
8
CPU中指令流水线技术研究
一条指令的执行过程可分为取指令、分型与执行三个过程（如图2.1）。取指令，取出该指令送到指令寄存器。指令的分析指的是对指令的操作码进行译码，按寻址方式合地址字段形成操作数真地址，并用此真地址去取操作数，还要为准备取下一条指令提前形成下一条指令的地址等。指令的执行则是指对操作数进行运算、处理，或存储运算结果。指令的重叠解释方式指的是，在解释第k条指令的操作完成之前，就开始解释第k+1条指令。假设这三个过程分别在3个不同的硬件（指令控制器、分析器和执行部件）上进行，则当第k条指令处于分析阶段的时候，控制器就处于空闲状态，这个时候可以对第k+1条指令进行取指令操作，当第k条指令处于执行状态时，分析器就处于空闲状态，这时可以进行对第k+1条指令的分析（图2.2）。很显然，重叠解释的方式并不能加快一条指令的实现，但是可以加快两条相邻指令以至一段程序的解释。
图2.1 机器指令的顺序执行方式
图2.2 指令的重叠解释方式
2.1.2 流水线
流水其实就是重叠的引申，上面谈到的重叠模型实际上就是一个简单的3级流水模型。如果将分析与执行阶段再细分为指令解码、取操作数、执行运算和存储结果，当第k+1条指令在第k条指令执行去操作数的时候就可以开始解码，而不必等到分析k完全结束。这样子在一个指令周期内就可以同时执行5条指令。流水线工作方式是把一个重复的过程分解为若干个子过程，每个子过程可以与其他子过程同时进行。由于这种工作方式与工程中的生产流水线十分相似，因此，
第二章 流水线基础
9
把他成为流水线工作方式。在处理机的各个部分几乎都可以采用流水线工作方式。指令的执行过程可以采用流水线，成为指令流水线。运算中的操作部件，如浮点加法器，浮点乘法器等可以采用流水线，成为操作部件流水线。访问主存储器部件也可以采用流水线。甚至在处理机之间，机器之间也可以采用流水线。
图2.3 指令流水线
2.1.3 流水线的特点
从上面的分析中可以看到，在处理机中采用流水线方式与采用传统的串行方式相比，具有一下特点：
1.
在流水线中处理的必须是连续任务，只有连续不断的提供任务才能充分发挥流水线的效率。例如。要是浮点加法器充分发挥作用，需要连续提供浮点加法运算。然而，由于程序本身的原因和程序设计过程中人为造成的一些原因，入数据相关等，不可能为浮点加法器连续的提供同一种操作。因此，在采用流水线工作方式的处理器中，特别是当流水线的级数较多时，要在软件和硬件等多方面为流水线提供连续的任务，以提高流水线的效率。
2.
把一个任务分解成几个有联系的子任务，每个任务由一个专门的功能部件来实现。因此，流水线实际上是把一个大的功能部件分解为多个独立的功能部件，并依靠多个功能部件并行工作来缩短程序的执行时间。在流水线中，一个子任务通常称为一个子过程，或者一个功能段。
3.
在流水线每一个功能部件后面都要有一个缓冲寄存器，或称为锁存器等，用于保存本段执行的结果。这是因为流水线中每一段的延迟一般都不可能相等，因此，在段与段之间传递子任务时，必须要通
10
CPU中指令流水线技术研究
过缓冲寄存器。当某一个功能段的时间变化范围比较大的时候，要设置多个缓冲寄存器。
4.
流水线中各个段要尽量匀称，即时间要求尽量相等，否则将容易引起“阻塞”、“断流”等问题。执行时间最长的段将成为整个流水线的“瓶颈”，这时，流水线中各段将受到限制而不能充分发挥作用。只有当整个流水线完全充满时，整个流水线的效率才能得到充分的发挥。
为了设计出高效率的流水线，要充分注意上述问题。
2.1.4 流水线的分类
从不同的角度，按照不同的观点，可以把流水线分成多种不同的类型。平时所说的某种流水线，往往是按照某种观点，或者从某一个特定的角度对流水线进行分类的结果。因此，从名称上只能反应出这种流水线在某一个方面的特点或者功能。
按照流水线的各功能段之间是否有反馈信号，可以把流水线分为线性流水线合非线性流水线。
线性流水线是将流水线各个功能段逐个串联起来，输入数据从流水线的一段进入，从另外一段流出。数据在流水线中经过时，没一个功能段都流过一次，且仅仅流过一次。
一条线性流水线通常只完成固定的一种功能，在现代计算机系统中，线性流水线已经被广泛的应用于指令执行过程、各种算术运算操作、存储器访问操作等。
图2.4 非线性流水线
非线性流水线经常用于递归调用，或者构成多功能流水线。