UCloud用云计算赋能AI

时间：2022-04-29 11:48:01 | 来源：行业动态

时间：2022-04-29 11:48:01 来源：行业动态

2017年，UCloud提出了CBA战略，其中C就是Cloud Computing（云计算），B是Big Data（大数据），A是AI（人工智能）。UAI-Inference就是UCloud布局AI的重要落地之举。

叶理灯说，UCloud在AI领域是提供一个AI的PaaS平台，降低AI应用的落地门槛，另一方面联合AI公司基于该平台打造行业解决方案。为什么人工智能很火？这主要是来自三个方面的原因。一是技术上的进步，比如深度神经网络的提出和计算能力发展；第二，各种开源深度学习框架降低了AI学习和应用的门槛，例如TensorFlow；第三，媒体的宣传，例如在2016年，AlphaGO带来的平民化的AI认知。

特别是计算力方面，云计算的深入发展，各种芯片硬件的层出不穷给计算能力提供了很好的支持。我们知道人工智能有三个要素数据、算法、计算能力。有一个理论叫火箭理论，就是说如果把人工智能当火箭的话，那么数据是火箭的原料，计算能力就是引擎，算法就是引擎的控制器。叶理灯说。

为什么说云计算跟人工智能的落地有很大的关系呢？叶理灯表示，随着云计算的发展，不同行业企业的数据生产和消费都是在云计算平台上进行的。云计算就是为了提供计算能力而产生的。所以，天然来说，在云计算上做机器学习的训练和推理是非常自然的一件事情。

于是，我们看到UCloud推出了支持人工智能算法框架的大规模分布式计算平台UAI-Inference。UAI-Inference面向初创企业、传统企业AI转型而生，旨在提供易部署、易运维、更安全以及多AI框架支持的海量AI在线服务节点，自动实现负载均衡、扩容缩容。按实际使用量计费，普遍适用于常见的AI在线服务场景，如图像识别、自然语言处理。

叶理灯介绍说，UAI-Inference提供了类似Serverless的架构，为用户提供了两步走的部署模式。首先，向用户提供SDK工具包，内含接口代码框架、代码和数据打包模板以及第三方依赖库描述模板。用户只需根据SDK工具包内的代码框架编写接口代码，准备好相关代码和AI模型以及第三方库列表，就可以通过打包工具一键完成任务的在线部署。

任务打包完毕后，用户可以通过UAI-Inference分布式的AI在线服务PaaS平台进行后续管理和维护。该平台可以同时管理上万个计算节点，并拥有自动请求负载均衡、自动资源管理的功能。用户只需要将业务部署在平台上，就无须操心其后续的运维，也就是免运维。

叶理灯表示，云计算解决了系统运维问题，它没有解决应用运维的问题。Serverless架构可以解决应用运维的问题，让UAI-Inference变成以应用为中心、以算法为中心的服务。

而且需要特别指出的是UAI-Inference创新地利用英特尔至强可扩展处理器的空闲处理能力，让数据中心处理器空闲能力得以充分利用。这既降低了企业用户的TCO，也达到了环保节能的效果。云计算本身是规模经济，英特尔的产品可以通过云计算规模化的效益把它充分展现出来。这是一种远比GPU方案经济高效得多的解决方案，毕竟，这些处理器节点已经是UCloud的既有投资，无需再为此多支出一分钱。叶理灯说。

为了对这一创新成果进行验证，UAI-Inference已在多个虚拟机节点上部署了AI在线服务计算节点，验证测试的结果表明：基于英特尔至强处理器的AI在线服务计算节点完全能满足用户对性能的要求，在帮助用户有效降低TCO的同时，也顺应了数据中心环保节能的发展方向。