GPU服务器应该怎么选择？

Question

目前，GPU服务器主要应用于科学计算、视频编解码等不同场景领域。它可以为应用提供非凡的加速计算能力，可以将应用程序计算密集的工作负载转移到GPU。

从用户的角度来说，应用程序的运行速度明显得到提升。其快速、稳定的计算能力深受用户的认可。

用户在选择GPU服务器时，首先是需要考虑业务的需求，在匹配适合的GPU型号。例如，在HPC高性能计算中是需要根据精度来选择，如果采用采用P40或者P4型号就不是很适合。

选择GPU服务器主要从以下三方面因素考量：

首先，选择GPU服务器的时候也是需要考虑好GPU集群系统的成熟程度以及工程效率。例如DGX这种GPU一体化的超级计算机，是有很成熟的操作系统驱动，这类服务器的效率就高很多。

其次，企业在边缘服务器上是需要根据实际情况来选择T4或者P4对应的服务器，并且需要考虑服务器应用场景。

企业在中心端做Inference时，是需要配置V100的服务器，并对于服务器的吞吐量、使用场景、数量等因素做好考量。

再次，在选择GPU服务器的时候，也是需要考虑客户群体和自身技术运维能力。对于一些大企业来说，有属于自己的运维团队，会选择较为统一的PCI-e服务器；针对技术能力不强的中小型企业，他们对于GPU服务器选择的标准也有有所下降。

GPU服务器的选择因素很关键也非常有技术含量。客户在选择时，需要结合自身的情况，用户群体乃至于业务不同给的场景综合选择