[ninfer v100X2]v100再创辉煌!qwen3.8 27b nvfp4 2000t/s prefill,115t/s decode
[ninfer-V100X2]v100再再再创辉煌,真实使用 非测评场景 183t/s decoding,2500t/s prefill
惊艳到了我-本地16G跑Qwen38-27B-UD-IQ3_XXS
双卡v100史上最强推理引擎驾到!世界第一,中国第二。
【最全实测】v100用vllm+dflash2方案部署qwen3.8 27b nvfp4 , decode速度提升3倍,prefill速度提升15倍
分享我发明新技术:专家定制版,qwen3.8-flush-next-W4A16-Modular,聚合 2000/s,单流 110/s
V100解锁NVFP4,GLM5.3F逆天输出145toks
Strata qwen3.8flash next 真神项目!512K超长上下文本地部署
实测:Qwen3.8 Flash Next对决Qwen3.8 27B!Qwen3.8 Flash Next效果
v100跑Qwen3.8 27B千问nvfp4 速度超50tokens大约pro6000d一半的速度,在目前显卡大涨价环境下可能最具性价比的ai运行显卡了。
【刚哥玩生态】双V100 Nvlink模型服务器起飞了
Strata再更新!IQ3S-QWEN-Flash-Next快速案例测试展示
14岁自研:不用 proot,我把 GPT-SoVITS 完整搬进安卓了
啥也不说了,看图。 双卡 V 100 64G 跑 Qwen 3.8 Flash NEXT。 256K 上下文,190token/s 峰值。
V100 32GB PCIe 在Windows上使用llama.cpp本地推理Qwen3.8-27B 平均接近50tps 讲讲目前最优的设置和一些经验
Qwen3.8 27B赛博治疗完结篇,压制了雷霆思考能力比原版还强大的27B如何诞生的后训练全纪实
Qwen3.8好强啊,爽玩了几天,根本停不下来。这就是千问大小姐的芝士吗?
[Ninfer V100X2] 峰值68t/s! 双卡v100 16g跑qwen3.8 27b q4量化180k上下文,跑出68t/s的decoding?
飞一样感觉!748T/S 3.85k/S Ninfer+Kvmem加持下本地bonsai2的极值实践
Qwen3.8 27B,256K上下文,在16G显存的单卡V100上,跑出60tokens/s,快来试试吧!