今天逛 Github,發現一個最近兩天非常熱門的開源項目 - FreeAskInternet,star 數在狂漲,僅僅幾天時間已經有 5K+star 了。
項目簡介
FreeAskInternet 是一個完全免費、私密且在本地運行的搜索聚合器和答案生成器(即問答 AI 工具),使用 LLM 技術,無需 GPU。
我們可以直接進行提問,項目將使用 searxng 進行多引擎搜索,並將搜索結果與 ChatGPT3.5 LLM 結合,基於搜索結果生成答案。
所有過程在本地運行,可以完全不需要 GPU 或 OpenAI 或 Google API 密鑰。
這個項目 4 月初才開源,短短數天的時間就已經有 5.6k star 了,並且在持續的增加。
功能特性
完全免費(無需任何 API 密鑰)
完全本地(不需要 GPU,任何計算機都可以運行)
完全私密(所有都在本地運行,使用定制 llm)
不使用 LLM 硬件(無需 GPU)
使用免費 ChatGPT3.5 / Qwen / Kimi / ZhipuAI (GLM) API(無需 API 密鑰)
支持自定義 LLM(ollama,llama.cpp)
使用 Docker Compose 快速部署和易於操作
網頁和移動設備友好界面,設計用於 Web 搜索增強 AI 聊天,可輕鬆從任何設備訪問。
工作原理
1、項目在 FreeAskInternet UI 界面(在本地運行)中接收用戶輸入的問題,並調用 searxng(在本地運行)在多個搜索引擎上進行搜索。
2、爬取搜索結果鏈接內容並傳遞給 ChatGPT3.5 / Kimi / Qwen / ZhipuAI /ollama(使用自定義 llm),請 LLM 根據這些內容作為參考回答用戶問題。
3、將答案流式傳輸到 Chat UI。
4、項目支持自定義 LLM 設置,從理論上來說支持無限的 llm。
項目安裝部署
部署方式也很簡單,官方推薦使用 docker
git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d
然後瀏覽器裡打開下面這個地址即可:http://localhost:3000
FreeAskInternet 是一款集免費、本地、隱私、強大搜索和智能問答於一身的實用工具。它打破了傳統搜索引擎的局限,讓你能夠更加高效地獲取信息。
更多項目細節功能,感興趣的小夥伴自行到項目地址進行查看。