NVIDIA K20 GPU

Tesla K20与GK110架构

    NVIDIA对K20的描述是“3倍双精度浮点性能”，并有Hyper-Q、Dynamic Parallelism等多种并行计算技术加持，这些是现有的GK104架构不具备的。 

NVIDIA的PDF资料中介绍了GK110的SMX架构，也是192个CUDA核心
 

    必须要承认，以前泄露的有关GK110架构的消息是错误的，GK110的SMX架构其实跟GK104还是一样的，都是192个CUDA核心，32组SFU单元以及32个LD/ST单元。

GK110架构图


    除去其他的功能单元之外，GK110核心总共有15组SMX单元，2880个CUDA核心， 但是Heise声称并非所有单元都是启用的，实际上可能只有13-14组SMX单元，实际CUDA核心是2496或者2688个。

    显存位宽是384bit，已为黄仁勋和NVIDIA CTO确认 。 由于CUDA核心数已经低于之前的报导，显存位宽降到384bit也是很自然的事，如果保持GK104的6Gbps显存速率，那么GK110的带宽将达到288GB/s，终于超过AMD GCN架构的260GB /s了。

    NVIDIA给出的3倍双精度浮点性能不知是跟GF110显卡还是跟GF110核心的Tesla加速卡做的比较，GF110的单精度浮点能力为1.58TFLOPS，显卡中的双精度为单精度的1/ 4，也就是0.4TFLOPS，但是GF110核心的Tesla卡双精度能力可达单精度1/2，大约是0.8TFLOPS。

    如此一来，如果以显卡为基础，GK110的双精度浮点性能大约是1.2TFLOPS以上，如果是Tesla卡的3倍，那就是2.4TFLOPS以上，鉴于后者已经超出之前传闻的2TFLOPS的能力， GK110的双精度浮点能力应该是1.2TFLOPS或更高。 

Tesla K20配置了6pin+8pin供电接口


    核心面积和TDP未知，不过K20配备的是6pin和8pin供电接口，最大TDP不会超过300W。 晶体管数量也是一个70亿，准确点说是71亿。


◆ GK110并行计算技术介绍

显卡规格方面的信息基本就是这么多了，再来看一下NVIDIA为GK110所增加的新技术吧。

Dynamic Parallelism（动态并行） 

    GK110架构的首要目标之一就是使程序员更方便地调用GPU强大的并行计算能力 。 传统的模式下，GPU每次操作都需要CPU的参与，而DynamicParalleliom的存在使得GPU接收数据时会动态刷新线程而无需CPU参与。 由于内核有了独立加载工作负载的能力，动态并行技术允许程序直接在GPU上运行。

    这项技术的好处就是可以降低编程的复杂性，原本需要200-300行代码才能完成的工作在GK110显卡上只需要30行就可以了。

Hyper-Q 


    上一项技术强调的是简化操作，是给CPU减负，而Hyper-Q则是增加了CPU同时加载工作的核心数，是在提升=高CPU的利用率，避免CPU过多的闲置。

    Fermi架构中CPU只能同时运行一个MPI（Message Passing Interface消息传递接口）任务，但是在GK110架构中CPU同时运行的MPI任务数多达32个。

    传统的MPI任务主要基于多核CPU应用，与GPU强大的并行计算能力相比，CPU处理的MPI任务量实在是太小了，往往会带来虚假的GPU依赖性，导致GPU的性能无法有效利用， Hyper-Q大幅提高了CPU可以分配给GPU的MPI任务量，如果同时传递32个任务给GPU，那么理论性能会达到Fermi架构的32倍，实际应用中虽然不会这么夸张，但是优化调度之后GPU的并行计算能力还是会有改善。

GPU Direct 


    GPU Direct直连是NVIDIA官方PDF中没有提到的，不过依然值得解释一下。 NVIDIA已经推出了基于Kepler架构的GeForce GRID云游戏技术，那么使用Kepler显卡的服务器就免不了要互相交换数据。 GPU Direct技术可以让服务器的中不同显卡直接读取显存的数据，甚至不同服务器之间的显卡也可以通过网卡读取另一块显卡显存中的数据，简单来说就是提高了显卡的数据交换能力，所需的步骤更少，延迟更低。

CUDA 5

    要想使用上面介绍的技术就必须使用新的CUDA 5，GTC大会上NVIDIA已经发布了一个预览版的CUDA 5 SDK，正式版将在今年三季度发布。

    Kepler显卡发布之后，Tesla家族也终于迎来架构更新，而且很快就会有更新架构的Tesla加速卡，得益于GK104良好的效能比，NVIDIA的Tesla加速卡也具备了这样的能力，性能更强的同时功耗更低。

    新一代GK110架构重点针对GPU计算性能做了加强，双精度浮点能力提升到之前架构的三倍，并有动态并行、Hyper-Q、GPU Direct等技术辅助，无论是易用性还是性能都有明显改善，担当起GPU计算的光荣使命了。