投稿

卷积优化：Im2Col算法和组合优化算法【推理引擎】Kernel优化第03篇

3811

5

2023-03-01 14:58:10

【推理引擎】Kernel优化第03篇：卷积优化：Im2Col算法和组合优化算法！！！推理引擎中的最最重要的一层，Kernel层承载了针对NPU、CPU、GPU等不同IP后端硬件的算子，或者Kernel实现。在Kernel优化中，最重要的就是对卷积操作进行优化，今天介绍经典的Im2Col算法和对应的空间组合优化算法！

计算机技术

ZOMI酱发消息

昇腾招人，已经毕业的快联系鸭

一款好用到爆的AI搜索工具！

【推理引擎】Kernel优化 (3/6)

自动连播

2.5万播放

简介

《Kernel优化》在上层应用或者 AI 网络模型中，看到的是算子；但是在推理引擎实际执行的是具体的 Kernel，而推理引擎中 CNN 占据了主要是得执行时间，因此其 Kernel 优化尤为重要。

01 Kernel优化架构介绍

05:59

02 卷积操作基础原理

13:48

03 Im2Col算法

15:56

04 Winograd算法

14:32

05 QNNPack之间接优化算法

11:53

06 内存布局方式

12:52

顶部