边缘的人工智能
时间:2022-04-02 03:42:02 | 来源:行业动态
时间:2022-04-02 03:42:02 来源:行业动态
ABI第二份题为边缘AI芯片组:技术展望和使用案例的报告称,2018年边缘人工智能推理芯片组市场规模为19亿美元,边缘训练市场规模为140万美元。
今天有哪些应用是在边缘位置进行训练的?Su解释说,这些数据中包括网关(历史数据库或设备Hub)和内部部署服务器(在私有云中,但物理位置是靠近AI数据生成的地方)。专为内部部署服务器的训练任务设计的芯片组包括Nvidia的DGX,华为的网关和服务器,其中包括Ascend 910芯片组,以及针对来自Cerebras System、Graphcore和Habana Labs等内部部署数据中心的系统级产品。
边缘训练市场仍然很小,因为云仍然是人工智能训练的首选,Su说。
2017年至2024年,针对推理和培训的AI芯片组年销售总收入(来源:ABI Research)
边缘AI推理是2019年至2024年期间边缘人工智能市场实现31%复合年增长率的主要推动力。Su提到了三个主要市场(智能手机/可穿戴设备、汽车、智能家居/白色家电)以及三个利基市场。
第一个利基市场是机器人,因为依赖多种类型的神经网络,机器人通常需要异构的计算架构,例如用于导航的SLAM(同时定位和映射),用于人机界面的会话AI,用于对象检测的机器视觉,所有这些都会在不同程度上使用CPU、GPU和ASIC。目前,Nvidia、英特尔和高通正在这个领域进行激烈的竞争。
第二个利基市场是智能工业应用,涉及制造业、智能建筑、石油和天然气领域。我们看到,FPGA厂商因为遗留设备的原因在这一领域表现突出,但同时也要归功于FPGA架构的灵活性和适应性。
最后一个利基市场是非常边缘,即将超低功耗AI芯片组嵌入WAN网中的传感器和其他小端节点中。由于重点是超低功耗,因此这个领域主要由FPGA厂商、RISC-V设计和ASIC厂商主导。
那么到目前为止,谁在边缘人工智能推理领域领跑?
意料外或者意料内的的是,智能手机AI ASIC厂商在这个领域占据领先,因为智能手机的出货量是很大的,例如苹果、海思半导体、高通、三星以及联发科等,如果说的是初创公司的话,我认为Hailo、Horizon Robotics和Rockchip似乎相对终端设备制造商来说发展势头相当快。
Su还表示,软件对于边缘AI芯片组的商业实施和部署来说至关重要,Nvidia正在升级编译工具和构建开发人员社区,相比之下,英特尔和Xilinx的策略是初创公司合作,或者收购拥有基于软件的加速解决方案。
芯片组厂商应该考虑向开发者社区提供工具包和库,通过开发者训练计划、竞赛、论坛和大会等方式进行,因为这能吸引开发者与芯片组厂商展开合作以开发相关应用,所有这些都不是初创公司可以轻易实现的。
该报告给出的结论是,除了为开发者社区提供合适的软件和支持外,厂商还应该提供良好的开发路线图,以及其他技术价值链的支持,此外还需要让他们的芯片有大规模的使用案例,以及具有竞争力的定价。