【8】KV Cache 原理讲解
去年（2024年上半年）录制的一系列内容分享。由于大模型发展很快，有些东西对于时下（2025年上半年）技术发展来说已经略显过时，但不妨碍对于初学者入门了解大模型的原理和核心基础概念。
大模型《从一到N》进阶概念系列
（8/13）
自动连播
29.5万播放
简介
订阅合集
什么是线性变换 Linear Transformation
21:32
模型的解码策略 Decoding Strategy
20:30
Scaling Law & 模型计算量介绍
30:44
【4】手写 Model.py 模型代码逻辑
01:04:23
【5】手写 Train.py 训练代码逻辑
44:22
【6】手写 Inference.py 推理代码逻辑
29:53
【7】Flash Attention讲解
44:33
【8】KV Cache 讲解
24:21
【9】MHA、MQA、GQA各种注意力变种机制讲解
12:10
【10】Sparse Attention & Infini Attention 稀疏注意力和无限注意力
35:20
【11】Sinusoidal、RoPE、ALiBi等各类位置信息编码
33:10
【12】LoRA、QLoRA 讲解
17:52
【13】GPTQ、AWQ、GGUF等模型量化概念讲解
18:15
顶部