离线转换模块架构与流程！【推理引擎】离线转换系列第01篇
电脑桌面上养老婆？我也想要！
【推理引擎】离线转换&优化
(1/8)
2.6万播放 
简介
简介《离线转换&优化》在这一节当中分为模型转换和模型优化，在整体架构图中属于离线模型转换模块。一方面，推理引擎需要把不同 AI 框架训练得到的模型进行转换；另外一方面需要对转换后的模型进行图优化等技术。
01 离线转换模块架构
01 离线转换模块架构
14:41
02 模型序列化&反序列化
15:07
03 自定义计算图IR
12:47
04 模型转换技术
05:53
05 计算图优化策略
09:33
06 常量折叠&冗余节点消除
13:25
07 算子融合/算子替换/算子前移
09:44
08 Flash Attention原理&数据布局&内存优化
10:03
顶部