• 投稿

终极千问部署方案=ninfer+kvmem 首发!

14万
124
2026-10-03 01:00:35
个人观点,仅供参考
7150
5426
1.1万
2268
github(源码+引擎原件):https://github.com/1314521gjy/ninfer-fusion-kvmem 魔搭(只含源码):https://modelscope.cn/models/shensanshu/ninfer-master-shensanshu-kvmem 40系显卡:https://pan.quark.cn/s/d5eb3e517690 30系显卡:https://pan.quark.cn/s/934f1abb9376 50系显卡:https://pan.quark.cn/s/47f7fc2cc439 模型包:https://pan.quark.cn/s/ab6718583f2f 国庆快乐,丢给ai,别自己瞎搞,乖~
58.5万播放
简介
稠密27b跑出moe的速度:难他天?
09:19
本地千问三档调优:更快,更小,更强。
12:54
普通显卡终极千问部署方案=kvmem+bonsai27b
10:58
token自由=bonsai27b+ninfer 8g显卡流畅运行
17:37
终极千问部署方案=ninfer+kvmem 首发!
10:11
llama 5倍速:英伟达开源大模型Nemotron专武引擎
04:47
客服
顶部
赛事库 课堂 2021拜年纪