所在位置：
首页 >
营销资讯 >
行业动态 > 解决方案：基于宝德 PR2715P2 AI 推理服务器的自动分布式可扩展推理平台
解决方案：基于宝德 PR2715P2 AI 推理服务器的自动分布式可扩展推理平台
时间：2022-03-24 17:27:01 | 来源：行业动态
时间：2022-03-24 17:27:01 来源：行业动态
搭载第二代英特尔至强可扩展处理器的宝德 PR2715P2 AI 推理服务器全面支持Analytics Zoo Cluster Serving分布式推理技术方案。该推理服务器是一款软硬一体的分布式全栈推理解决方案，专为高性能计算、高级人工智能分析任务而设计，具有出色的性能功耗比。
图2：宝德 PR2715P2 AI 推理服务器
第二代英特尔至强可扩展处理器专为数据中心现代化革新而设计，能够提高各种基础设施、企业应用及技术计算应用的运行效率，进而改善总体拥有成本（TCO），提升用户生产力。它拥有更高的单核性能，能够在计算、存储和网络应用中，为计算密集型工作负载提供高性能和可扩展性。得益于英特尔
超级通道互联（英特尔
UPI）、英特尔
Infrastructure Management 技术（英特尔
IMT）、英特尔
高级矢量扩展指令集512（英特尔
AVX-512）等领先功能，它可满足严苛的 I/O 密集型工作负载的需求。
此外，第二代英特尔至强可扩展处理器内置人工智能加速，并已针对工作负载进行优化，能够为各种高性能计算工作负载、AI应用以及高密度基础设施带来一流的性能和内存带宽。同时，采用矢量神经网络指令（VNNI）的英特尔
深度学习加速（英特尔
DL Boost）显着提高了人工智能推理的表现，与上一代产品相比，性能提升高达 14 倍。这使其成为拓展 AI 应用的卓越基础设施。
在宝德 PR2715P2 AI 推理服务器搭建的平台上，用户只需要准备 Analytics Zoo Cluster Serving 的 Docker Image、配置文件、训练好的模型（当前支持的模型包括TensorFlow、PyTorch、Caffe、BigDL和OpenVINO的模型）及推理数据，即可在几分钟内启动并运行推理应用。
通过加入对于 Analytics Zoo Cluster Serving 的支持，宝德一体化分布式可扩展人工智能推理方案显着降低了配置和流程的复杂程度，在提供高级定制化服务的同时，有效降低了 TCO。这种全新的集群模型服务支持有助于简化用户的分布式推理工作流，提高工作效率，并为深度学习场景带来领先的性能。
在线咨询
