不必重建 英特尔处理器释放新能
时间：2022-04-29 12:00:02 | 来源：行业动态
时间：2022-04-29 12:00:02 来源：行业动态
对于AI系统的构建，企业一般选择了全新建设。但是UCloud很敏锐地捕捉到了云计算和AI的关系，充分利用已有的计算资源，实现了价值最大化。
通过与英特尔的紧密技术合作，UAI-Inference一方面利用云主机中英特尔至强可扩展处理器产品的空闲处理能力，将英特尔AVX-512能力用于支持和加速AI在线服务。与上一代英特尔AVX2相比，英特尔AVX-512在每个时钟周期的每秒浮点运算次数增加了一倍，因此在诸如建模与模拟、数据分析与机器学习、数据压缩以及可视化与数字内容创建之类的应用中执行计算任务时，能够提供更高的性能和吞吐量。
据悉，相比上一代产品，英特尔至强可扩展处理器针对深度学习训练和推理可提供高达2.2倍的性能。结合可加快交付人工智能服务的软件优化，相比3年前未经优化的服务器系统，全新的处理器可实现113倍深度学习性能的提升。
另一方面，UAI-Inference利用英特尔至强可扩展处理器强大的可扩展性进行弹性部署，用低成本获得高性能，降低用户的TCO。在英特尔至强可扩展平台上构建的系统旨在提供敏捷的服务，并且由于软件和操作系统授权费用以及购置、维护和基础设施成本均处于较低水平，因此可以将TCO降低至65%。
除了硬件层面，UAI-Inference还与英特尔一起，引入了性能更佳的AI框架：面向英特尔架构优化的Caffe框架。这一版本的Caffe框架与传统AI框架相比，针对英特尔硬件平台做了深度优化，在保证兼容性的前提下，极大地提高了性能，同时集成最新版本的英特尔数学核心函数库2017，更高效地利用英特尔AVX-512的处理能力，性能显着提升。
叶理灯表示，以图片识别为例，没有经过优化的AI框架，图像识别大约是十几秒，但是采用经过优化的英特尔Caffe框架，时间缩短到几秒钟。软硬件的结合带来的优势是非常明显的，企业可以获得低成本和高性能的用户体验。
在线咨询
