anythingLLM 如何使用 硅基流动API 使用DEEPSEEK R1
心平气和王道长
编辑于 2025年02月09日 20:45

anythingLLM(简称aLLM) 选择DeepSeek(简称DS)作为LLM提供商,无法自定义链接。

就导致很多第三方公司提供的DeepSeek API无法接入anythingLLM。

我这里提供一个换源的方式,让aLLM可以使用其他三方公司DS。

我使用的是硅基邀流动,注册填邀请码送2000W toekns

没有邀请码可以用我的:nIpEeYAd

也可以用这个链接:https://cloud.siliconflow.cn/i/nIpEeYAd

进入正题:

通过VScode文本搜索功能搜索aLLM文件夹,发现这些地方使用了DS API网址。

分别是:

/resources/backend/server.js

/resources/backend/jobs/sync-watched-documents.js

/resources/backend/jobs/sync-watched-local-documents.js

全部替换为:

https://api.siliconflow.cn/v1

保存好三个文件

!这里注意:我用VSCODE保存右下角提示需要以管理员身份运行注意权限问题

打开aLLM

aLLM提供商选择DS

填写从硅基流动获取的API KEY即可

后面选择要用的模型,硅基流动地址有很多模型,这里只能选择DEEPSEEK的

不然适配模块不适用会出别的问题

这里我选择的是DS R1 671B版

保存之后就可以通过aLLM 为 远程API挂载分量化数据库(知识库)

而且也解决了三方DS网页版没法保存很长的上下文和上传文件的问题。

同时aLLM集成了语音播报,也可以通过AI自定义播报声音。