投稿

知识蒸馏SOTA算法解读！【推理引擎】模型压缩系列第06篇(下)

6729

12

2023-01-26 16:21:43

【推理引擎】模型压缩系列第06篇(下)：知识蒸馏经典算法解读！教师模型和学生模型架构原理剖析！解读知识蒸馏原始论文 Hinton大神的 Distilling the Knowledge in a Neural Network，看 Soft-target 和 hard-target 的区别，了解师生网络模型架构！深度了解蒸馏经典算法！

计算机技术

模型小型化

轻量化网络

ZOMI酱发消息

昇腾招人，已经毕业的快联系鸭

【推理引擎】模型压缩 (7/7)

自动连播

7.6万播放

简介

《模型压缩》模型压缩跟轻量化网络模型不同，压缩主要是对轻量化或者非轻量化模型执行剪枝、蒸馏、量化等压缩算法和手段，使得模型更加小、更加轻便、更加利于执行。

01 模型压缩架构和流程

04:17

02 低比特量化原理

13:48

03 感知量化训练QAT原理

12:08

04 训练后量化PTQ与量化部署

14:16

05 模型剪枝核心原理

14:22

06(上) 知识蒸馏原理

09:32

06(下) 知识蒸馏算法解读

13:58

顶部