所在位置:
首页 >
营销资讯 >
行业动态 > NVIDIA Turing T4云GPU持续强势加速
NVIDIA Turing T4云GPU持续强势加速
时间:2022-03-06 16:40:02 | 来源:行业动态
时间:2022-03-06 16:40:02 来源:行业动态
NVIDIA在大会上宣布,NVIDIA Turing T4云GPU继续强势加速,几家科技巨头正在推出基于全新NVIDIA T4 GPU的新产品和服务,它已成为普及最为迅速的一款服务器GPU。
搜索、社交媒体和在线购物网站等互联网公司是T4的早期使用者,也是最大的终端客户群。中国首批开始使用T4扩展并提升工作负载横向扩展的企业包括百度、腾讯、京东以及科大讯飞。中国领先的计算机制造商也将推出一系列基于T4的服务器,包括浪潮、联想、华为、曙光、浪潮商用机器和新华三等。
此前NVIDIA曾在上周宣布,T4在仅推出2个月后,即在全球领先的计算机制造商的57种独立服务器设计中发挥重要作用。此外,谷歌云宣布谷歌云平台客户可以使用T4。
NVIDIA副总裁兼加速计算总经理IanBuck表示:中国采用T4的速度之快并不令人意外,以前我们从未推出过这样的GPU,为公共云和私有云提供所需的综合性能和能效,可大规模、更经济地运行计算密集型工作负载。并且,中国的市场规模无可比拟,我们预测T4将非常受欢迎。
T4基于全新NVIDIA Turing架构,采用多精度Turing Tensor Core和全新RTCore,与加速的容器化软件堆栈相结合,提供规模空前的性能。
T4旨在满足横向扩展的公共云和企业云环境的独特需求,最大限度地提高吞吐量、利用率和用户并发性,帮助客户高效应对用户及数据爆炸式增长的问题。
小巧的70瓦特T4 GPU大致相当于一条巧克力糖的大小,可灵活适应于标准服务器或任何开放计算项目的超大规模服务器设计。服务器设计的范围可从单个T4 GPU直至单节点中的20个GPU。
T4的多精度功能可支持4种不同精度等级的各类AI工作负载,助力实现突破性的AI性能,FP32精度能够提供8.1TFLOPS,FP16精度能够提供65TFLOPS,INT8精度能够提供130TOPS,INT4精度能够提供260TOPS。针对AI推理工作负载,配备2个T4GPU的单个服务器最多可取代54台CPU服务器。针对AI训练,配备2个T4的单个服务器可取代9台双套接字CPU服务器。