anythingLLM(简称aLLM) 选择DeepSeek(简称DS)作为LLM提供商,无法自定义链接。
就导致很多第三方公司提供的DeepSeek API无法接入anythingLLM。
我这里提供一个换源的方式,让aLLM可以使用其他三方公司DS。
我使用的是硅基邀流动,注册填邀请码送2000W toekns
没有邀请码可以用我的:nIpEeYAd
也可以用这个链接:https://cloud.siliconflow.cn/i/nIpEeYAd
进入正题:

通过VScode文本搜索功能搜索aLLM文件夹,发现这些地方使用了DS API网址。
分别是:
/resources/backend/server.js
/resources/backend/jobs/sync-watched-documents.js
/resources/backend/jobs/sync-watched-local-documents.js
全部替换为:
https://api.siliconflow.cn/v1
保存好三个文件
!这里注意:我用VSCODE保存右下角提示需要以管理员身份运行注意权限问题
打开aLLM

aLLM提供商选择DS
填写从硅基流动获取的API KEY即可
后面选择要用的模型,硅基流动地址有很多模型,这里只能选择DEEPSEEK的
不然适配模块不适用会出别的问题
这里我选择的是DS R1 671B版
保存之后就可以通过aLLM 为 远程API挂载分量化数据库(知识库)
而且也解决了三方DS网页版没法保存很长的上下文和上传文件的问题。
同时aLLM集成了语音播报,也可以通过AI自定义播报声音。