1.大模型 及InternLM模型介绍
1.1 什么是大模型?
大模型通常指的是机器学习或人工智能领域中参数数量巨大、拥有庞大计算能力和参数规模的模型。
利用大量数据进行寻来你
拥有数十亿甚至数千亿个参数
模型在各种任务中展现出惊人的性能
优势
大模型能够捕捉和理解数据中更为复杂、抽象的特征和关系。通过大规模参数的学习,它们可以提高在各种任务上的泛化能力,并在未经过大量特定领域数据训练的情况下实现较好的表现。
挑战
巨大的计算资源需求
高昂的训练成本
对大规模数据的依赖
模型的可解释性
大模型的应用和发展也需要在性能、成本和道德等多个方面进行权衡和考量
1.2 InternLM 模型全链条开源
InternLM 是一个开源的轻量级训练框架,旨在支持大模型训练而无需大量的依赖。通过单一的代码库,它支持在拥有数千个 GPU 的大型集群上进行预训练,并在单个 GPU 上进行微调,同时实现了卓越的性能优化。基于 InternLM 训练框架,上海人工智能实验室已经发布了两个开源的预训练模型:InternLM-7B 和 InternLM-20B。
Lagent 是一个轻量级、开源的基于大语言模型的智能体(agent)框架,支持用户快速地将一个大语言模型转变为多种类型的智能体,并提供了一些典型工具为大语言模型赋能。通过 Lagent 框架可以更好的发挥 InternLM 的全部性能。
浦语·灵笔是基于书生·浦语大语言模型研发的视觉-语言大模型,提供出色的图文理解和创作能力,结合了视觉和语言的先进技术,能够实现图像到文本、文本到图像的双向转换。

大模型特点
InternLM Lagent 灵笔
Lagent+InternLM=InternLM完全体
InternLM特点:
8K上下
优质训练文本
Lagent介绍

灵笔介绍

InternLM运行实践:
由于之前的终端没关,导致爆显存

成功运行网页版demo

测试结果来看,7B还是有点小,回答偏简单

启动Lagent

由于没有选择interlm模型,导致后面一只不出结果

成功测试Lagent demo,但发现显示上的一个小bug(乘号*的显示会消失)

开始进行灵笔使用
成功运行,但明显比InternLM占用资源多,中间爆显存了,后续换A100 (1/4) * 2(40G显存可以正常运行)

成果展示(应该是模型比较小和不像chat进行微调的原因,理解能力较弱;图片不是生成的,有可能是根据文意从数据库中选择匹配的图片,当然这些图片应该也是大模型标注的)

使用镜像源从抱脸下载模型:
HF_ENDPOINT=https://hf-mirror.com python download.py
download.py内容:
import os
# 下载模型
os.system('huggingface-cli download --resume-download internlm/internlm-chat-7b --local-dir /root/model/Shanghai_AI_Laboratory/internlm-20b')