原理为提高处理器执行指令的效率，把一条指令的操作分成多个细小的步骤，每个步骤由专门的电路完成。
例如一条指令要执行要经过3个阶段：取指令、译码、执行；每个阶段都要花费一个时钟周期，如果没有采用流水线技术，那么这条指令执行需要3个时钟周期；如果采用了指令流水线技术，那么当这条指令完成“取指”后进入“译码”的同时，下一条指令就可以进行“取指”了，这样就提高的指令的执行效率。