
1.介绍:聚焦大模型热点,书生·浦语实现了数据-与训练-微调-部署-评测-应用的LLM相关全链条开源体系。

2.数据:书生·万卷包含总计超2TB多模态多领域数据,其中文本数据超1TB,图像-文本对超140GB,视频数据超900GB,并且得益于技术积累,实现了万卷的高质量数据集处理。

3.预训练:针对大模型训练,实现了多卡加速,兼容主流生态,加速效率在千卡级规模下可以保持稳定。

4.微调:提出高效微调框架XTuner,实现多种微调算法,适配抱抱脸等开源生态,自动执行FlashAttention等加速机制,使优化对用户透明。

5.部署:提出的LMDeploy提供全流程解决方案,包括权重量化,推理引擎,服务等。

6.评测:针对大模型复杂的评估工程,提出OpenCompass开源评测架构,以多层结构实现了便捷的模型评估。

7.智能体:依赖OpenMMLab相关技术积累,集成了多功能AI工具,且AgentLego支持主流智能体系统,可以实现一键式部署。