GPU的使用范围不再仅限于AI训练
时间：2022-04-15 02:45:01 | 来源：行业动态
时间：2022-04-15 02:45:01 来源：行业动态
我们主要聊聊人工智能，因为这项技术目前代表着数据中心内计算强度最高的工作负载类型。大多数企业将英伟达GPU视为利用大型数据集训练AI模型时的首选计算资源。事实上，英伟达也确实在这部分市场上取得了巨大成功。包括沃尔玛在内的诸多企业都用实际行动为英伟达GPU投下了神圣一票。
但是，训练绝不是AI计算的全部。广义上讲，机器学习分为多个阶段，具体包括数据准备、模型训练与推理、以及将模型实际部署至生产环境等。推理阶段的核心，是使用经过训练的模型推断结果或者结论。如果说训练是AI计算流程中的高性能环节，那么推理阶段则是企业实际使用训练模型的环节。目前，大部分推理工作都在英特尔CPU上进行。
GPU成本高昂，而且业界普遍认为其无法带来适合推理场景的低廉价格。但在最近的GTC大会上，英伟达展示了其最新GPU成果如何加快整个机器学习流程，希望借此扭转人们的传统观念。如前所述，以往的GPU在处理机器学习中的计算密集型训练任务时表现出色，但在推理阶段却显得有些大材小用。同时，企业客户还迫切希望在高端数据处理领域获得性能更强的芯片解决方案。
在线咨询
