投稿

如何计算模型参数量？什么是FLOPS和MACC？【推理系统】模型小型化第01篇

Name: %E5%A6%82%E4%BD%95%E8%AE%A1%E7%AE%97%E6%A8%A1%E5%9E%8B%E5%8F%82%E6%95%B0%E9%87%8F%EF%BC%9F%E4%BB%80%E4%B9%88%E6%98%AFFLOPS%E5%92%8CMACC%EF%BC%9F%E3%80%90%E6%8E%A8%E7%90%86%E7%B3%BB%E7%BB%9F%E3%80%91%E6%A8%A1%E5%9E%8B%E5%B0%8F%E5%9E%8B%E5%8C%96%E7%AC%AC01%E7%AF%87
Uploaded: 2024-07-16T22:10:36.684Z

6766

2023-01-14 12:53:49

【推理系统】模型小型化第01篇：如何计算模型参数量？什么是FLOPS和MACC？在查看AI加速器和AI加速芯片的时候经常有很多硬件规格指标，这些指标告诉我们芯片在真正对于神经网络或者深度学习的时候理论的峰值计算性能和内存等性能，今天让我们一起以NVIDIA T4作为例子来了解下具体的参数背后的意义。了解完这些信息，更有助于我们去设计小型化模型，让模型保持参数量的前提下，更好地利用AI芯片计算资源。

科技

计算机技术

华为昇腾

推理系统

昇腾招人，已经毕业的快联系鸭

自动连播

2.4万播放

简介

《轻量网络》在端侧推理引擎中，主要是执行轻量的模型结构。主要思想是针对神经网络模型设计更高效的网络计算方式，从而使神经网络模型的参数量减少的同时，不损失网络精度，并进一步提高模型的执行效率。本节主要集中介绍模型小型化中需要注意的参数和指标，接着深入了解CNN经典的轻量化模型和Transformer结构的轻量化模型。

01 计算模型参数量 FLOPS/MACC

08:45

02(上) CNN模型小型化原理，MobileNet系列

12:58

02(上) CNN模型小型化原理总结

08:36

03 Transformer轻量化网络

17:10

顶部