软件定义计算 三大AI核心引擎全面释放AI算力
时间：2022-03-18 14:21:01 | 来源：行业动态
时间：2022-03-18 14:21:01 来源：行业动态
面对企业AI应用需求，传统算力存在的先天缺陷暴露无遗，解决算力问题成为企业AI转型的关键。软件定义算力已经成为行业发展的共识和趋势。第四范式SageOne借助自研AI训练引擎、AI推理引擎和AI特征存储引擎三大引擎的领先技术，针对硬件中的芯片、存储、网络等组件进行了重新定义，根据企业AI应用的实际情况进行了专用计算架构、资源管理和调度等进行深度优化和加速，为企业 1＋NAI应用提供充沛算力。
1、AI训练引擎全面加速高维机器学习过程
以自研高维机器学习分布式框架GDBT和高维算法为基础，第四范自主研发的硬件加速卡4Paradigm ATX800，采用20nm制程，算力达到1.5TFLOPS，内置FlashGBM加速系统，充分用内存和高速缓存带宽，支持自动优化训练超参数、高位特征计算过程I/O加速和高维GBDT训练加速等功能，在企业应用场景中表现出多达10倍的训练性能。
此外，第四范式和英特尔联合实验室一直探索最佳优化技术，并针对最新Cascade Lake-AP处理器的全新AVX512指令集、多核心及主频利用率和CLX AP微架构IO总线的利用率进行全面优化。
SageOne内置第四范式自主研发的高维、分布式网络通讯协议Swift，集成P-PRC自研网络通信框架、零拷贝数据交换协议等AI领先通讯技术，结合基于CLX-AP架构的参数服务器集群，展现出业界顶级机器学习性能表现。SageOne在高维特征计算过程I/O最大10X加速，高维稀疏场景模型训练比GPU提速5X以上，自研pRPC通信框架比百度bRPC和谷歌gRPC提速3-10X。
2、AI推理引擎实现极速实时AI推理能力
SageOne内置行业领先的自研实时特征计算引擎和模型预估引擎，为企业AI应用提供特征处理过程免开发上线、线下线上一致性保证、一键生成预估服务、异构模型统一服务等AI核心应用服务，结合非易失性存储的无限缓存和超低延迟内存存储等硬件技术，确保企业AI应用时具备?量量时序特征计算和万亿维模型实时推理能力的同时，提供百万级并发实时请求支持和99.9%请求毫秒级响应的高并发业务极速响应服务。
3、AI特征存储引擎打造超低延时在线AI数据治理
面向AI的数据治理是企业AI规模化落地的基础，针对企业中多源异构数据对接、离线在线数据一致性管理、回流数据自动标准及权限、审计等众多治理需求，SageOne借由自研内存时序数据库引擎的优势，具备毫秒级海量时序特征供给性能，并通过融合InfiniCache无限缓存等技术，实现自动切换存储介质优化TCO和RAFT一致性灾备与恢复等高性能企业级标准。SageOne利用超低延迟数据访问接口、超高数据吞吐传输通道和水平扩展动态扩容服务等突出能力，为企业AI应用构建了超低延迟在线数据治理能力。
在线咨询
