Qwen3.6 27B 速度测试(2080Ti)_哔哩哔哩_bilibili

Name: Qwen3.6 27B 速度测试(2080Ti)
Uploaded: 2026-05-25T15:44:21.000Z
Duration: 2 min 19 s
Channel: youchuifeng
Description: 最近试了一下 2080Ti + TurboQuant + MTP + Qwen 3.6 27B 的组合，发现本地部署大模型的可用性提高了，输出速度达到了 33t/s，跑 128K 上下文也没问题，效果真不错。以前用lmstudio，64k上下文都容易爆，速度还只是个位数

youchuifeng

最近试了一下 2080Ti + TurboQuant + MTP + Qwen 3.6 27B 的组合，发现本地部署大模型的可用性提高了，输出速度达到了 33t/s，跑 128K 上下文也没问题，效果真不错。以前用lmstudio，64k上下文都容易爆，速度还只是个位数, 视频播放量 3491、弹幕量 0、点赞数 23、投硬币枚数 1、收藏人数 39、转发人数 1, 视频作者 youchuifeng, 作者简介 ，相关视频：Intel ARC PRO B70 本地部署千问3.6 35B测试，3070魔改16G显存 27B 45t/s  35B 95 t/s   qwen3.6以及 comfyui的测试，AI智力挑战赛 Qwen3.6-35B-A3B VS Qwen3.7-Max，llama.cpp MTP+TurboQuant自编译实录，别等了，自己干！，魔改2080Ti双卡+vLLM跑千问27B：2000块对标4090，比国产API省一半，Qwen3.6-27B 去审版单卡3090跑出138tok/s，Windows11 原生 VLLM 部署Qwen3.6-27B 每秒100 Token，3000元实现Token自由，本地部署Qwen3.6-27B接近40t/s，【实测】单张2080Ti 22G + 256G内存运行DeepSeek-V4-Flash！FastLLM混合推理速度到底有多快？，双卡2080ti 魔改 部署本地AI服务器，这可能是目前穷人的最优解，搭配qwen3