轻松搭建本地大模型 Web 交互界面 - Ollama + Open WebUI
ollama vs vllm - 开启并发之后的 ollama 和 vllm 相比怎么样?
cpu + gpu 一起运行大模型到底行不行?- 基准测试跑跑看
免费又方便 - 魔改 Gradio 实现非 Gradio 程序的内网穿透
【AI实战】工作流 vs 智能体:如何正确选择AI应用方案?
最小的机器跑最大的模型 - 铭凡 UM780xtx 运行通义千问 72B 大模型
自动添加中文配音的尝试 - Claude 的自动编码工具 Claude Code
ollama + open webui 云端部署方案更新啦
OLLAMA vs VLLM 随机化提示词实验
实用的内网穿透小工具更新了,这次可以给个固定域名了
卷卷卷!新的开源多模态大模型王者来啦,从量化到部署用 lmdeploy 把它运行起来吧
GLM4 9B - 环境准备和 vllm 部署
ollama 支持并发请求啦 - 效果如何呢?分别在 4090 和 macbook 上测侧看
Ollama 支持的 flash attention 能提升推理速度吗?我们一起测测看吧
用 llama.cpp 跑通 mixtral MoE 模型