针对终端设备的参数优化
时间:2022-03-07 00:42:01 | 来源:行业动态
时间:2022-03-07 00:42:01 来源:行业动态
:所有模型的执行效果,都必须在最终推理设备上进行验证后才能确认。
但是推理设备上的配置与性能并不一致,每个项目对性能与精确度的要求也不尽相同,因此这个调优的过程就必须反反复复的进行,如果某一方面未能达到标准的话,就得回到模型训练步骤去进行参数调整。
如果经过各种参数调试之后,仍然无法在性能与精确度都满足要求的时候,可能就需要回到第一步去更换神经网络种类,这样会连带影响所撰写的训练与推理的代码,几乎等于从零开始另一个项目的过程。
以上三个部分只是整个深度学习应用中比较明显的问题,也是最主要耗费时间的阶段,通常来说都得花费数周到数月的时间去进行。
针对这些繁琐的问题,英伟达于2021年推出的TAO(Train Adapt Optimize)模型训练工具,能够非常有效地解决以上的主要困扰,即便是不熟悉神经网络原理与算法的技术人员,也可以地在数天内轻松地掌握模型训练工作。
为了解决上述的主要问题,英伟达为TAO工具做了以下的处理,非常大幅度地减少开发过程的工作量:
-