LLM 虽然在很多领域有了显著的效果，但其还是存在一定的局限性

• 知识时效性受限：如何让 LLM 能够获取最新的知识

• 专业能力有限：如何打造垂直领域大模型

• 定制化成本高：如何打造个人专属的LLM应用

针对上述局限性，当前有两种解决方式

1. RAG：（核心思想是给大模型外挂一个知识库，对于用户的提问首先从知识库中匹配相关文档，再将文档和问题提供给大模型）

   1. 低成本

   2. 可实时更新

   3. 受基座模型影响大

   4. 单次回答知识有限

2. Fintune（核心思想是在一个新的、较小的数据集上微调，提升模型在新数据集上的能力）

   1. 可个性化微调

   2. 知识覆盖面广

   3. 成本高昂

   4. 无法实时更新

本节课主要介绍 RAG 检索增强生成方式，其过程如下图所示：

如何高效快速地开发一款 RAG 应用呢？开源框架 LangChain 为我们提供了一个很好的工具。

LangChain 框架是一个开源工具，通过为各种 LLM 提供通用接口来简化应用程序的开发流程，帮助开发者自由构建 LLM 应用。

LangChain 的核心组成模块：

• 链 （Chains）: 将组件组合实现端到端应用，通过一个对象封装实现一系列 LLM 操作；

• Eg. 检索问答链，覆盖实现了 RAG （检索增强生成）的全部流程

基础作业：

复现课程知识库助手搭建过程 (截图)