为什么不用1,2,3?深度解密Transformer位置编码,带公式推导!
hi,我是蓝鲸鱼,很高兴认识你~ 本科毕业于西交大少年班,现在是香港中文大学计算机系读博三,想在这里分享我从0经验到12篇顶会中稿的科研经验,希望可以帮到大家~
RoPE(Rotary positional embeddings)旋转位置编码
RoPE旋转位置编码 | 大模型核心概念
RoPE 旋转位置编码比正弦位置编码好在哪里
旋转位置编码RoPE的简单理解
15分钟认识ViT!【视觉Transformer】
终于知道Transformer 为啥离不开 RoPE了
手推旋转位置编码RoPE
【面试必考】LayerNorm为什么被RMSNorm全面取代?从0讲透归一化+手撕LLaMA同款代码
位置编码与群论 | Jane Street | Positional Encodings and Group Theory
【面试高频】M-RoPE 多模态位置编码全解:一套 RoPE 如何通吃文字图片视频
【面试必考】RoPE位置编码到底是什么?从0手撕Qwen3源码,代码和公式竟然对不上!?
正弦余弦位置编码 | 大模型核心概念
【位置编码:RoPE】旋转位置编码实现上下文无限扩展原理手推!
哥大终于证明:Transformer真的在做贝叶斯
【CS336-1】3.3 RoPE旋转位置编码详解
222. 为什么传统位置编码只作用于词嵌入,而RoPE每层都作用?【每天一个宝藏问题】
怎么加快大模型推理?10分钟学懂VLLM内部原理,KV Cache,PageAttention
太优雅了!支撑 GPT/LLaMA 的核心技术RoPE