18143453325 在线咨询 在线咨询
18143453325 在线咨询
所在位置: 首页 > 营销资讯 > 行业动态 > 谷歌TPU与其它内部ASIC:

谷歌TPU与其它内部ASIC:

时间:2022-03-06 09:24:01 | 来源:行业动态

时间:2022-03-06 09:24:01 来源:行业动态

谷歌公司目前正在研发两款面向人工智能的专用集成电路(简称ASIC):其中一种专门用于推断,另一种则用于模型训练。谷歌将TPU以加速器的姿态推向市场,但实际上,TPU由四个相同的ASIC部件构成,其中每个部件可提供约每秒45万亿次(TOPS)运算能力。相比之下,英伟达Volta的单芯片处理能力高达每秒125万亿次。在我看来,这样的市场定位令人困惑,且效果糟糕。换句话来说,根据该芯片的多项基准测试结果表明,其仅适用于以下场景:1)您不需要在Google Cloud之外运行自己的人工智能模型; 2)您乐于使用未经优化的TensorFlow模型; 3)不打算或者不需要直接控制ASIC这一点与大多数科学家的英伟达GPU使用方式恰恰相反。坦率地讲,经过三重筛选,其只剩下极为有限的利基市场可供发展。更重要的是,这与业界的主流猜想同样存在冲突人们普遍认为谷歌公司会随着时间推移而将其大部分内部GPU工作负载转移至TPU之上。

谷歌公司最近宣布其将推出下一代TPU 3.0,而通过目前有限的细节与令人难以理解的性能结论,我们很难弄清该公司到底指的是更大的pod还是单一TPU芯片性能。在我看来,TPU 3.0的主要变化在于推出令人印象深刻的系统重新设计方案,且水冷机制的引入将能够进一步提升计算密度。但请注意,TPU 2.0仍然只帮助于单一部件,且直到2018年年末才会迎来pod集群支持能力。此外,其目前尚处于beta测试阶段,且距离真正发布还有一整年时间。这意味着我们不太可能在短时间内看到TPU 3.0被正式投入生产环境。

斯坦福大学最近发布的基准测试方案证明,没有哪一种解决方案能够在AI工作负载领域占据主导地位决定实际性能的主要是您的实际负载内容。对于云计算而言,GPU可能是更好的选择,因为云客户的使用模式一直处于不断变化之中,且需要各种各样的模型并配合不同的软件框架。出于这个原因,我预计谷歌公司将在可预见的未来继续提供英伟达GPU类实例,否则其将面临被Amazon AWS以及微软Azure全面压制的风险。

至于其它厂商,例如Facebook与Amazon,据称其也在走上同样的道路。但我继续对此抱持怀疑态度我不是说这一切不会发生,只是可能不会很快发生。

关键词:内部

74
73
25
news

版权所有© 亿企邦 1997-2022 保留一切法律许可权利。

为了最佳展示效果,本站不支持IE9及以下版本的浏览器,建议您使用谷歌Chrome浏览器。 点击下载Chrome浏览器
关闭