时间:2022-03-10 09:18:01 | 来源:行业动态
时间:2022-03-10 09:18:01 来源:行业动态
其次,Saturn V以及Selene这样的平台也为研究及协作带来了宝贵的机会。首先就是Megatron的开发,这是一套包含超过10亿参数的自然语言模型,属于对BERT(来自Transformers的双向编码器表示)的扩展。英伟达与微软希望将其打造成强大的扩展对话式AI解决方案。截至目前,还鲜有多少研究人员、开发人员甚至是研究机构拥有足以处理此类前沿研究项目的顶尖超级计算机。但英伟达自身及其合作伙伴显然不在此列。我个人曾经有幸参观英伟达位于圣克拉拉的Saturn V设施,确实令人印象深刻。我也相信Selene的出现会将英伟达的技术优势提升到新的水平。关键词:资源,投入,凭借