如大家所了解的，LLaMa是2023年Meta发布的基础LLM模型，该模型有四个版本，分别是7B、13B、33B、65B参数的模型。（LLaMa模型是从零开始训练的基础模型，国内大多数模型都是套壳LLaMa模型）。

模型的优点：

开源。相比之前的大模型，LLaMa完全是在公共开源预训练数据上训练（通用性比较强，没有使用封闭的数据）；

推理效率也是LLaMa的一个亮点，可以在单卡V100完成推理（降低了硬件使用门槛，让大模型平民化，训练模型的成本大大降低）。

模型的训练和数据：

65B的模型使用2048块A100 80G的GPU，训练21天左右。（训练成本还是比较高的，训练的数据集同GPT一样）