本文将带你了解模型导出的含义、UltralyticsPlatform 支持的全部格式,以及如何根据自身业务场景选择合适格式
上个月,我们正式发布了Ultralytics Platform,这是一个一体化的工作平台,旨在简化整个计算机视觉工作流程。平台将数据集管理、标注、模型训练、测试、部署和监控等关键视觉AI功能,全部整合到一个简洁高效的界面中。

在这套端到端工作流程里,部署是将模型从实验研发落地到实际应用场景的关键一环。此前,我们介绍过平台上提供的不同部署方式,包括通过API进行共享推理、用于可扩展生产部署的专用端点,以及导出模型至边缘设备或外部基础设施运行。
接下来我们将深入详解模型导出功能,以及它如何支持模型在不同环境中的部署。与共享推理和专用端点不同,这两者是在Ultralytics Platform管理的基础设施中执行模型,而模型导出则支持将模型部署并运行在外部环境中,例如边缘设备、移动应用和自定义基础设施。
模型要在这类环境运行,需要先将其转换为目标运行时支持的格式。不同的部署场景有不同的要求,例如移动端和边缘设备需要轻量化格式,而云端和基于GPU的系统则更适合高性能格式。
在传统方法下,这一过程往往比较耗时,通常需要编写脚本、安装依赖,并使用多个工具。而通过Ultralytics Platform,模型导出变得非常简单,只需要点击几下,就可以完成模型转换与性能优化,无需额外环境配置。
模型导出是指将预训练模型或自定义训练模型转换为一种可以在原始框架之外使用的格式。
Ultralytics YOLO模型基于PyTorch构建,并以其原生格式存储,该格式非常适用于在PyTorch生态中开展模型训练、评估与实验研发工作。
但各类部署环境往往有着不同的运行时与硬件要求,因此,训练阶段使用的模型格式并不一定适合部署。例如,移动应用需要适配低功耗优化的轻量化格式,而浏览器端应用则需采用可在网页环境高效运行的格式。
边缘设备,比如摄像头和嵌入式系统,更适合使用体积小、速度快的模型;而云端系统则通常面向高性能推理而设计。为了支持这些不同场景,模型需要导出为与目标环境兼容的格式。
计算机视觉模型越来越多地被部署到数据产生的地方,尤其是边缘设备上。智能手机可以运行实时视觉应用,CCTV摄像头可以在设备端完成监控,自动驾驶系统也依赖模型进行即时决策。
不过,在这些环境中部署模型也会带来一系列挑战。边缘设备的计算能力有限,对延迟要求很高,同时还受内存和能耗限制。一个在训练阶段、资源充足的环境中表现良好的模型,到了这些受限条件下,并不一定能高效运行。
将模型导出为合适的格式,可以帮助解决这些问题。通过合理的格式转换,可对模型做推理速度优化、体积精简,并适配各类特定硬件设备。
同时,模型导出也带来了更高的灵活性。根据不同需求,同一个模型可以转换为多种格式,从而适配不同的部署环境。

例如,NCNN 模型格式专为移动端与边缘设备优化,资源占用极低;而 OpenVINO 格式针对英特尔硬件量身适配,可在中央处理器 (CPUs)、图形处理器 (GPUs)、神经网络处理器 (NPUs) 上实现更优性能。
过去,要实现这种灵活性,通常需要手动转换格式、配置环境依赖、使用多款工具,整个流程耗时且繁琐。UltralyticsPlatform大幅简化了这一工作流,让模型导出更易用、更易管理。
在传统计算机视觉工作流程中,模型导出通常是一个独立且复杂的步骤。Ultralytics Platform改变了这一点,它将模型导出功能直接整合到统一工作空间中,覆盖从训练到部署的完整流程。
平台的一大核心优势是无代码导出。无需编写脚本、配置环境,也无需使用各类框架专属命令,只需在简洁直观的界面上轻点几步,就能完成模型导出。

所有复杂的底层处理均由平台后台自动完成。原本需要借助多种工具、手动配置才能完成的繁杂任务,都被简化为一个统一流程。用户无需安装额外依赖,也不用费心解决兼容性问题,就可以更轻松地将训练好的模型转化为可用于生产环境的解决方案。
Ultralytics Platform支持17种导出格式,无需增加复杂配置,即可快速完成模型适配,适配各类部署环境。
跨平台与互操作格式:ONNX与TorchScript广泛用于多框架、多环境下的模型运行。ONNX可打通不同技术生态,方便模型在各类工具间迁移;TorchScript能让PyTorch模型脱离Python运行环境,直接部署至生产场景。
GPU高性能推理格式:TensorRT专为英伟达GPU设计,主打模型优化,实现低延迟、高吞吐。它支持精度压缩、层融合等推理加速技术,非常适合实时应用与大规模生产级场景。
移动端与边缘端部署格式:CoreML、LiteRT(原 TensorFlow Lite)、NCNN针对算力、内存有限的设备做了深度优化。这类格式可缩减模型体积、提升运行效率,保障智能手机、嵌入式设备、边缘硬件流畅运行。其中CoreML多用于苹果生态,LiteRT普遍适配安卓设备。
硬件专属优化执行格式:OpenVINO专为英特尔硬件(CPU、GPU、视觉处理单元VPU等)定制,可提升对应设备的推理速度与运行效率。这类硬件专属格式,能充分释放特定硬件系统的最优性能。
框架专属与专用运行时格式:PaddlePaddle、ExecuTorch等格式适配特定技术生态与部署需求,可实现边缘设备的高效模型推理,或是与特定深度学习技术栈完成集成。
在Ultralytics Platform导出模型操作很简单,全程依托可视化界面完成。整个流程均可在平台界面内实现,无需编写脚本或使用命令行工具。
登录并选择模型:进入项目,打开你需要导出的已训练完成的模型。
进入导出选项卡:在模型控制台页面,点击导出选项卡,查看所有可用的导出格式。
选择导出格式:根据部署需求,选择ONNX、TensorRT、CoreML等对应格式。
配置导出参数(可选):调整图片尺寸、精度、批次大小等参数,对模型性能进行优化。
启动导出任务:点击「开始导出」,平台将自动执行模型格式转换。
下载导出后的模型:导出完成后,即可下载模型文件,接入你的部署流程使用。

如何选择合适的导出格式,取决于模型的部署场景与使用方式。
可以重点考虑以下几个因素:
延迟要求:对于视频分析、自主控制系统等实时应用场景,低延迟非常重要。TensorRT等针对高性能推理优化的格式,通常会更适合这类场景。
硬件限制:手机、嵌入式系统等算力与内存有限的设备,需选用LiteRT、NCNN等轻量化格式。
模型体积与功耗:部署边缘设备时,需要考虑到模型大小和功耗。更小、更优化的模型有助于保证稳定性能,同时避免过度消耗设备资源。
部署环境:如果模型需要在多个平台或框架之间迁移,ONNX这类格式通常更具灵活性;如果是面向特定平台的部署场景,例如iOS应用,CoreML往往会更合适。
没有一种格式适用于所有情况,关键在于根据目标环境,在性能、兼容性和部署限制之间找到平衡。Ultralytics Platform可以让你更轻松地测试,对比多种导出格式,无需额外投入复杂配置。
立即上手体验Ultralytics Platform:
想要了解更多 AI 相关内容,欢迎访问我们的社区与 GitHub 仓库:
https://github.com/ultralytics/ultralytics
更多解决方案案例:
https://http://www.ultralytics.com/solutions/ai-in-manufacturing
Ultralytics 授权方案: