《大模型原理与技术》视频课程将包含：1. 语言模型基础；2. 大语言模型架构；3. Prompt工程；4. 参数高效微调；5. 模型编辑；6. 检索增强生成，共计六个章节。本课程是2024学年冬学期我在浙江大学软件学院讲授的对应课程的实录，第一次录制课程，内容还很粗糙，里面还有一些口误或错误，恳请大家批评指正，我们也会根据大家的建议发布勘误表。本课程的内容基于浙江大学的开源教材《大模型基础》。大家可以从Github链接 https://github.com/ZJU-LLMs/Foundations-of-LLMs 上进行下载。
本章是课程的第一章，主要对语言模型的背景知识展开介绍。主要包括四部分内容：1. 基于统计的语言模型；2. 基于学习的语言模型； 3. RNN与Transformer；4. 语言模型的采样与评测。
