最近在做一些编解码相关的优化，以及前段时间隔壁同事在做一些机器学习相关的内容。

当时公司配了T4、V100、T100的卡。一直并不真正理解专业卡和消费级卡到底有什么区别，为何要买。

• 以前了解到的专业卡和消费卡的主要区别：

消费卡的渲染仅仅做表面，而专业卡会连同三维模型的内部也一同进行渲染，因此在相同流处理器数量一样的情况下时进行三维渲染时，消费卡输出图形数量会比专业卡极有可能更快，因为渲染步骤会少很多。

另外就是流处理个数不同，相同GPU核心大类的情况下，专业卡的流处理数量会比消费级更多。这些也仅限于之前的了解，包括gt8600时代的认知，因为后面的gpu核心架构变化比较大。

• 现在挑选显卡需要了解几个术语：

cuda单元：NVIDIA显卡的基本计算单元，这个实在硬件设计时已决定，但也不排除实际数量大于配置数量，故意做了屏蔽的情况，比如之前就出现过一些gtx显卡的gpu芯片中的cuda数明显大于该卡宣称数量，其中有些网上解释为工艺问题，导致较高端卡批次不合格，降级为低端卡卖。类似intel和amd cpu工艺不达标降级达标卖一样。

流处理器：single Instruction MultipleThread,SIMT，可以看做是若干个cuda单元组合成的一个逻辑处理器。nvidia-smi中的sm就是流处理使用率。这个的数量由驱动和硬件配置来决定。

显存：不解释。但专业卡普遍支持ecc，消费级要近几年高端卡才有。在做一些要求可靠性高的计算时，这个很关键。

nvenc：nvidia的编码引擎，非开源，按照官方的介绍，这是由驱动+cuda构成，但网上又说这个也有独立的硬件模块存在。没有做过深入了解。

nvdec：nvidia的解码引擎，和nvenc类似。

cuvid：nvdec旧名，但不清楚两者真实的差别。

浮点数：这个在gpu上很受关注的问题，由于编解码，机器学习都需要用到。所以gpu在渐渐把支持的越来越好。

定点数：起初gpu做浮点数模拟的时候性能太差，导致性能比较差，因此之前的都是采用定点数来计算小数问题。精度丢失相对严重，导致编码出数据和计算结果有较大的误差。现阶段由于编码器算法的改进，这块失真在逐渐减小，以及浮点数的支持，也相对好很多。不过在机器学习上，还是很突出这块问题。

如果是做机器学习相关，可能在cuda数量方面会需要比较关注，同时还需要关注显存大小，据说模型加载也很耗显存。这块没做太多深入了解

如果是做视频编解码加速，那么需要关注nvenc和nvdec配置的数量，不同的卡配置数量不同。一般nvdec只有一个，nvenc会有大于一个的情况。同时nvdec和nvenc的能力也会不同，主要体现在支持的颜色空间，支持的编码参数等。

另外就是显存大小也要重点关注，一些分辨率和编码参数下，显存会成为一个比较主要的瓶颈。