今天逛 Github,发现一个最近两天非常热门的开源项目 - FreeAskInternet,star 数在狂涨,仅仅几天时间已经有 5K+star 了。
项目简介
FreeAskInternet 是一个完全免费、私密且在本地运行的搜索聚合器和答案生成器(即问答 AI 工具),使用 LLM 技术,无需 GPU。
我们可以直接可以进行提问,项目将使用 searxng 进行多引擎搜索,并将搜索结果与 ChatGPT3.5 LLM 结合,基于搜索结果生成答案。
所有过程在本地运行,可以完全不需要 GPU 或 OpenAI 或 Google API 密钥。
这个项目 4 月初才开源,短短数天的时间就已经有 5.6k star 了,并且在持续的增加。
功能特性
完全免费(无需任何 API 密钥)
完全本地(不需要 GPU,任何计算机都可以运行)
完全私密(所有都在本地运行,使用定制 llm)
不使用 LLM 硬件(无需 GPU)
使用免费 ChatGPT3.5 / Qwen / Kimi / ZhipuAI (GLM) API(无需 API 密钥)
支持自定义 LLM(ollama,llama.cpp)
使用 Docker Compose 快速部署和易于操作
网页和移动设备友好界面,设计用于 Web 搜索增强 AI 聊天,可轻松从任何设备访问。
工作原理
1、项目在 FreeAskInternet UI 界面(在本地运行)中接收用户输入的问题,并调用 searxng(在本地运行)在多个搜索引擎上进行搜索。
2、爬取搜索结果链接内容并传递给 ChatGPT3.5 / Kimi / Qwen / ZhipuAI /ollama(使用自定义 llm),请 LLM 根据这些内容作为参考回答用户问题。
3、将答案流式传输到 Chat UI。
4、项目支持自定义 LLM 设置,从理论上来说支持无限的 llm。
项目安装部署
部署方式也很简单,官方推荐使用 docker
git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d
然后浏览器里打开下面这个地址即可:http://localhost:3000
FreeAskInternet 是一款集免费、本地、隐私、强大搜索和智能问答于一身的实用工具。它打破了传统搜索引擎的局限,让你能够更加高效地获取信息。
更多项目细节功能,感兴趣的小伙伴自行到项目地址进行查看。