Transformer轻量化SOTA模型原理!【推理系统】模型小型化第04篇

8624
5
2023-01-19 23:45:23
246
142
528
57
【推理系统】模型小型化第04篇:Transformer轻量化SOTA模型原理! 轻量级网络的核心是在尽量保持精度的前提下,从体积和速度两方面对网络进行轻量化改。本视频内容主要是对Transformer的模型小型化进行介绍,特别是MobileNet/EfficientNet + Transformer 的结构轻量化模型设计,最后对轻量化网络模型的演进点进行总结。
昇腾招人,已经毕业的快联系鸭
2.4万播放 icon 简介
《轻量网络》在端侧推理引擎中,主要是执行轻量的模型结构。主要思想是针对神经网络模型设计更高效的网络计算方式,从而使神经网络模型的参数量减少的同时,不损失网络精度,并进一步提高模型的执行效率。本节主要集中介绍模型小型化中需要注意的参数和指标,接着深入了解CNN经典的轻量化模型和Transformer结构的轻量化模型。
01 计算模型参数量 FLOPS/MACC
08:45
02(上) CNN模型小型化原理,MobileNet系列
12:58
02(上) CNN模型小型化原理总结
08:36
03 Transformer轻量化网络
17:10
客服
顶部
赛事库 课堂 2021拜年纪