其实觉得GPU比CPU更有发展前途啊

chenpp · 发表于 2011-9-19 12:12:15

两者的关注点不一样。

GPU更擅长control dependency少、parallelism多的数据流处理，可以最大可能地发挥GPU并行单元的使用率。一旦GPU处理的指令流中分支或者串行block较多，那么就没有办法发挥GPU的器件特长。这点在CUDA中就能看出来。如果一个kernel中没有分支语句，那么一次发射可以填满半个/一个wrap，最大可能地利用并行单元；而如果kernel中有若干分支语句，那么每次只能发射分支路线相同的语句（比较典型的是reduction），势必减少每次可填满的并行单元数，进而导致代码运行效率下降。

现代CPU虽然也支持指令多发射和乱序执行以实现较高的ILP（Instruction Level Parallelism，指令级并行），但是其并行能力和GPU比实在相差太远；而CPU的优势在于可以较好地执行分支预测、解决data hazard，从而保证其流水线效率即使在分支较多的情况下也能维持在一个较高的水平——相比之下，GPU遇到多分支的语句，由于不能充分利用其并行性能，最终的代码执行效率未必高于CPU。

现实程序中，多分支的代码是不可避免的（if-statement, loop, function call），因此纯GPU执行的效率肯定不会高。一个比较好的折衷就是由CPU来执行多分支的部分，由GPU来执行多并行少分支的部分。CUDA就是本着这个想法出来的。

因此，没有谁替代谁的说法，让GPU和CPU各自发挥其所长才是正道。