LMDeploy 大模型量化部署实践_哔哩哔哩_bilibili

Name: LMDeploy 大模型量化部署实践
Uploaded: 2024-01-12T04:00:00.000Z
Duration: 1 h 31 min 12 s
Channel: OpenMMLab
Description: 本节课带大家使用 LMDeploy 量化部署你的大模型~ 课程文档：https://github.com/InternLM/tutorial/blob/main/lmdeploy/lmdeploy.md LMDeploy：https://github.com/internLM/lmdeploy 觉得不错，欢迎 star ！！！

OpenMMLab

本节课带大家使用 LMDeploy 量化部署你的大模型~课程文档：https://github.com/InternLM/tutorial/blob/main/lmdeploy/lmdeploy.mdLMDeploy：https://github.com/internLM/lmdeploy觉得不错，欢迎 star ！！！, 视频播放量 8976、弹幕量 28、点赞数 141、投硬币枚数 65、收藏人数 300、转发人数 56, 视频作者 OpenMMLab, 作者简介 ，相关视频：OpenCompass 大模型评测，下一代多模态大模型能力演进的度量分析，MinerU：高效精准的文档解析技术攻坚，书生科学大模型Intern-S2-Preview开源！，从开源视角看，当前 OCR 工业级工具链或范式还有哪些关键缺失？如果不考虑商业化,最想推动或实现的 OCR 方向是什么？，1. PyTorch 模型部署基础知识，基于多模态大模型的图像评价及应用探索，1. MMDetection3D 介绍及安装配置，1T MoE 科学多模态大模型Intern-S1-Pro来啦！，OCR 模型是否还有必要加入推理能力吗？主要会用于什么样的场景，会用怎样的形式出现？