灵活拓扑将成GPU服务器主流特征
时间:2022-03-12 11:33:01 | 来源:行业动态
时间:2022-03-12 11:33:01 来源:行业动态
近日,国际知名数据公司发布《人工智能基础架构市场(2019下半年)跟踪》报告显示,2019年人工智能基础架构市场规模已达20.9亿美元,其中GPU服务器占据96.1%。而伴随新基建的发展,该数据公司预测到2024年中国GPU服务器市场规模将达64亿美元。
人工智产品井喷,落地场景多样,这对计算力提出更加强劲需求,对GPU服务器性能与稳定性提出挑战。更重要的,GPU服务器需具有灵活多变,适应不同AI任务需求的布局能力。宁畅专家、GPU服务器资深架构师介绍。
在性能与灵活性方面,以宁畅X640系列服务器产品为例,该系列产品完全采用自研设计,设计时考虑了GPU的灵活应用,针对不同需求灵活调整拓扑。在进行模型训练时,根据需要可安装最高8颗全高双宽高速GPU,并支持GPU之间通过P2P模式互联;在用来做推理计算时,同一台机器又可支持到最大16颗低功耗推理GPU,并为每颗GPU均衡配备CPU资源。灵活可变的配置使硬件能够针对客户应用快速切换,针对不同计算模型最大限度的发挥硬件资源。
此外,宁畅的所有GPU服务器均由公司内拥有十几年经验的软件,硬件工程师团队设计拥有IP,这保证了宁畅能够根据客户需求快速定制开发。