为什么 GPU 在数据中心蓬勃发展

数字化转型正在推动企业的各种变革，包括越来越多地使用人工智能。尽管人工智能和数据中心已经存在了几十年，但数据中心中的图形处理单元 (GPU) 是一个相当新的发展。

Gartner 新兴技术和趋势副总裁分析师 Alan Priestley 表示，GPU 具有高度并行性，可以将数学运算应用于高度并行的数据集。虽然 CPU 可以执行相同的任务，但不具备 GPU 的并行性，因此它们在这些任务中的效率不高。

Alan Priestley 认为，GPU 是经过充分考虑的工作负载加速器，它针对特定的操作集进行了优化，以补充 CPU。然而，CPU 仍然是管理 GPU 和运行其应用程序所需的任何操作系统和业务逻辑所需的核心进程所必需的。

英伟达引领潮流

NVIDIA 不是唯一一家提供 GPU 的芯片公司，但它是该类别的领导者。根据 NVIDIA 企业数据科学高级总监 Eric Pounds 的说法，许多与数字化转型相关的用例正在推动对 GPU 的需求，包括深度神经网络。其他用例包括 AR/VR、分析、可视化、推荐引擎、在家工作场景和数字孪生。

该公司为不同的目的提供不同的 GPU，例如作为 NVIDIA 数据中心解决方案一部分的 A100，以及用于 AI 推理和高性能计算 (HPC) 等主流企业工作流程的 A30。

Pounds 表示，对于使用 GPU 的数据中心中的大多数项目而言，基础设施已经相当孤立，因此您将拥有运行旧工作负载以驱动业务核心部分的基础设施，然后您将拥有这些新项目。这显然是有代价的，因为它不仅仅是独立的基础设施，通常是独立的软件、工具、流程，甚至是管理该基础架构的团队。

认识到这一挑战，NVIDIA 和 VMware 已合作提供解决方案，这些解决方案基本上允许 GPU 成为运行现有和新企业工作负载的基础架构内的一等公民。这种方法允许企业利用其在虚拟化平台上的现有投资以及用于大规模保护和保护数据的流程。

Pounds 表示，传统的数据库、电子邮件和 Web 服务应用程序一直非常关注尽可能多地利用 CPU，这就是 CPU 发展为包括更高时钟速度和更多内核的原因。这些应用程序正在不断发展，并需要不同类型的更快处理。GPU 将提供这一点，但我们还没有达到 [它们] 在每台现代服务器中的位置。

NVIDIA 提供可用的参考架构，因此客户可以更轻松地完成推断或扩展 Apache Spark 分析等任务。该公司还拥有一个驻留在网络接口卡上的数据处理单元 (DPU)，用于卸载数据处理任务，以便有更多的 CPU 周期可用于运行应用程序。

GPU 正在取得进展

德勤美国人工智能战略增长咨询负责人 Nitin Mittal 表示，我们基本上必须向我们的客户展示如何最好地使用 GPU。当我们谈论打通数十亿条记录、应用深度神经算法和发现洞察力时，通用 CPU 芯片无法解决问题。必须实时生成洞察力，以便当场做出决策。”

当人们认为 GPU 最初应用于游戏时，可以使用类似的方法进行模拟，例如测试新的制造计划、生产线或一组工程产品。

Nitin Mittal 表示认为，我们将在未来四五年内看到云、人工智能、网络、5G 和物联网与量子计算的融合。基础设施将发生变化，硬件必须进行调整。