MoE 模型中的通信优化_哔哩哔哩_bilibili

Name: MoE 模型中的通信优化
Uploaded: 2026-05-25T06:19:53.000Z
Duration: 35 min 6 s
Channel: NVIDIA英伟达
Description: 深入 Blackwell 架构下 TensorRT LLM、Dynamo 等关键技术，剖析 MoE 通信、KV Cache 优化等性能突破。

NVIDIA英伟达

深入 Blackwell 架构下 TensorRT LLM、Dynamo 等关键技术，剖析 MoE 通信、KV Cache 优化等性能突破。, 视频播放量 7140、弹幕量 0、点赞数 255、投硬币枚数 95、收藏人数 583、转发人数 123, 视频作者 NVIDIA英伟达, 作者简介 下一次工业革命已经开始，相关视频：全面解析LLM MoE专家并行EP all-to-all算子(小白也能看懂)，【8】KV Cache 原理讲解，MOE终于迎来可视化解读！傻瓜都能看懂MoE核心原理！，怎么加快大模型推理？10分钟学懂VLLM内部原理，KV Cache，PageAttention，【青稞Talk 123期】DeepSeek V4 模型在 SGLang 中的系统级优化与全栈适配，LLM大模型入门！一口气带你学完AI agent、transformer、LangChain 、RAG 等大模型核心知识点！简直不要太爽！，MoE架构：20分钟带你解析MoE混合专家模型！MoE架构深度拆解,全程干货！大模型|LLM，MoE架构设计分享，从RL到OPD：Qwen3、GLM-5、DeepSeek都在关注什么？，大模型推理之调度优化【第十二期】