1/3
2/3
3/3
【DeepSeek-r1】新一代开源AI模型快速本地安装教程
赛脖古
2025年01月23日 17:15
收录于文集
共2篇

导读 幻方量化的 AI 公司 DeepSeek 发布了 DeepSeek-R1 模型。此外DeepSeek 还开源了 6 个小模型,其中 32B 和 70B 模型性能对标 OpenAI o1-mini。

功能介绍

 此次发布的 DeepSeek-r1模型,在后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下,极大提升了模型推理能力。在数学、代码、自然语言推理等任务上,性能比肩 OpenAI o1 正式版。可以在笔记本电脑上运行,而且运行速度飞快。

工具安装

这里我以苹果MacbookPro 为基础来介绍,Windows安装过程类似。

我的电脑配置如下:

这里使用Ollama+AnythingLLM的方式快速进行本地安装,两个项目的地址

https://ollama.com/ https://anythingllm.com/

直接下载对应平台的安装包,安装完成后启动应用。

ollama中提供了大量的模型供下载。可以看到deepseek-r1排第一个

这里我们使用7b参数版本,把下面这条命令复制到你的终端,回车,运行即可,等待模型下载完毕,系统就会自动运行了,然后你可以在终端输入你的提示词进行和大模型交互了

注:根据笔记本的不同配置,可以选用不同的量化参数,32b的也能跑起来(模型大小20GB)

ollama run deepseek-r1:7b

可以看到没什么问题。终端中使用毕竟不方便,这时候我们可以使用AnythingLLM来进行可视化操作。

下面来安装AnythingLLM

安装后可以在设置中LLM首选项中,指定提供商和模型,就可以愉快使用了

选择聊天模型类型时,记得选择deepseek-r1:7b后就可以愉快的本地聊天了!测试一下完全日常本地使用没问题!而且效果上根本不输OpenAI o1

后面如果想要再次启动,只需启动Ollama,然后再启动AnythingLLM就可以了

总结

AnythingLLM本地就可以运行,套用本地的模型,所有内容不用上传至云端处理,全部离线本地就可以操作完成。不用担心隐私问题。速度很快,旧电脑也都能跑起来。

项目地址

https://ollama.com/ https://anythingllm.com/