本地大模型搭建跟一键成书的对接调用,以及第三方API测试
星达创造
2025年02月04日 15:32
收录于文集
共24篇
生成式AI

简单描述步骤:

由于最近deepseek遭受攻击直接关闭了API后台,导致无法处理一些事项。

因此网络上出现了许多平替方案,什么割韭菜的都来了,以下我们简单说明一下一键成书对接本地大模型跟其他API的方法

首先是本地大模型的

1.访问 https://ollama.com/download 下载windows安装包

2.然后双击,在默认目录安装即可,安装后可能啥没看到,不要紧无所谓,然后点击网页上这里MODELS

这里要看选择的版本

看上图,左边选择版本,右边选择复制

版本按自家电脑配置,不要乱来,看下图

OK,选择好了(就是复制好的意思)

3.然后我们按键盘的WIN+R 输入CMD运行,也就是打开CMD

将刚才复制的内容直接在上面粘贴后回车

就这样简单,完成本地部署。

然后可以直接在这里用,当然了,我们这里用起来怪怪的,这里主要是说如何对接到一键成书里,大家喜欢也可以对接到别的软件去,但一键成书是进行批量处理跟网文针对开发。

4.一键成书版本F,以下举例,其他版本一样

看截图

点击箭头那里,左键鼠标。

点击ollama本地大模型,就可以切换了,上面的参数已经设置好,不用理会。

在这里可以自己测试一下,点击测试按键就可以看到是否接入成功了,本地大模型处理起来会慢一些。

然后还有硅基流的API,不过在测试里并没有发现硅基流API的优点,反而缺点一大堆,有别的API也可以自己试试,如果接入不好也可以联系我们优化它。