北京深鉴科技有限公司技术
时间:2022-02-16 14:02:01 | 来源:信息时代
时间:2022-02-16 14:02:01 来源:信息时代
DNNDK
DNNDK™(DeepNeuralNetworkDevelopmentKit)是深鉴科技面向AI异构计算平台DPU(Deep-LearningProcessorUnit,深度学习处理器)自主研发的原创深度学习SDK,为DPU平台各种深度学习应用开发和部署提供的一套高效全栈式解决方案。
深度压缩工具DECENT
深度压缩工具DECENT(DEepComprEssioNTool)创新性的结合了剪枝(Pruning)、量化(Quantization)等一系列压缩技术,在保证基本不损失算法精度的前提下可将网络模型的计算量和规模压缩数倍至数十倍。
神经网络编译器DNNC
DNNC将训练后经过DECENT压缩的神经网络模型映射为DPU上高效执行的优化指令流,在极大提高DPU计算性能的同时可有效降低系统访存带宽和功耗的需求。
硬件架构
亚里士多德架构
亚里士多德架构是针对卷积神经网络而设计。目前,卷积神经网络一般用来处理图像相关的智能问题,而此架构灵活与可扩展的特性使它可被应用于各种不同规格的终端中。
笛卡尔架构
笛卡尔架构专为处理DNN/RNN网络而设计。其可对经过结构压缩后的稀疏神经网络进行高效的硬件加速。相对于IntelXeonCPU与NvidiaTitanXGPU,应用笛卡尔架构的处理器在计算速度上分别提高了189倍与13倍,能效比提升24000倍与3000。