Qwen3.5 27B FP8 和 35B原版 评测 prefill 5800ts decode 60ts
Qwen3 coder next 80b 原版BF16首发测试
OpenClaw龙虾调用本地Qwen3.5 35B模型完成视觉识别和标注
DeepSeek V4 Flash DSpark 推测解码[两张5060Ti]
Qwen 3.6 35B原版开启Turbo Quant
本地部署MiniMax M3 NVFP4 19t/s,双路epyc 7642,1tb ddr4 3200,两张3090
GLM 5.2 NVFP4 本地部署测试[两张RTX PRO 6000]
单卡3500 Tonken每秒 MinixMax 2.1 原版
Lsglang 40ts混合推理DeepSeek V4 Flash 0731原版,双epyc7642,ddr4 16通道,双5060Ti
DeepSeek V4 Flash Spark 本地混合推理实际效果和优化 Lsglang-v1.4.6
双卡3090换成双卡5060ti推理大模型对比
DeepSeek-V4-Pro-0813原版,推测解码15t/s, 双路epyc 7642,1T ddr4 3200,3090*2 + 5060Ti *2
Qwen3.8 Flash Next本地混合推理prefill 1200t/s,decode35t/s,双路epyc7642,16通道ddr4,双5060Ti
Qwen3.5 122B 原版BF16 2100t每秒
DeepSeek 4.1 Flash 1017 本地部署,1900预填充,30 decode,双epyc7642,16 * dd人3200 , 两张3090
qwen3-next-80b原版 混合推理 一张3090 预填充1000 tonkens/s
MiniMax M2.5 3090显卡本地部署 预填充1700ts 解码 39ts
Kimi k2.5 16ts/s 两张3090
GLM 5.2 NVFP4 本地部署测试[两张3090]
Kimi K2.6原版模型本地部署16t/s