专栏/何不来个私有AI搜索引擎?在OpenWrt上部署体验farfalle

何不来个私有AI搜索引擎?在OpenWrt上部署体验farfalle

2024年05月20日 03:56--浏览 · --点赞 · --评论
粉丝:998文章:166

最近在Github上又看到farfalle的这个AI搜索项目💥,里面说farfalle是一款超级好用的本地AI搜索利器,让我也跃跃欲试了起来😝

究竟什么是farfalle呢?farfalle是一款开源的AI驱动搜索引擎工具,支持本地部署各种大型语言模型(LLM)🤖,例如llama3、gemma和mistral等,还能连接云端算力如OpenAI的GPT-4等模型进行智能搜索和问答交互。不连网在本地运行时,可以避免隐私泄露的风险,超级安全可靠,真是白嫖d的福音呀🥰

只要你有台配置超给力X86迷你主机,装上OpenWrt(演示固件来源openwrt.ai)变身路由器,就可以拿来体验下farfalle的本地AI搜索功能。听说farfalle部署很方便,只需几条命令就能跑起来,赶快一起来跟风尝鲜吧😝

按照GitHub上的官方教程一步步操作吧👇🏻。


首先进入到openwrt的命令行终端模式("服务"-"终端"),输入docker info确认docker-compose的环境,环境还没准备的小伙伴翻看之前教程在软件包安装dockerd和docker-compose两个插件哦。

......




更多关注:www.9418666.xyz/category/OpenWrt/

投诉或建议