今日は Github を見ていて、最近非常に人気のあるオープンソースプロジェクト - FreeAskInternet を見つけました。スターの数が急上昇しており、わずか数日で 5K + スターになりました。
プロジェクトの概要
FreeAskInternet は、完全に無料でプライベートでローカルで実行される検索エンジンと回答生成ツール（つまり、質疑応答 AI ツール）です。LLM 技術を使用しており、GPU は必要ありません。
直接質問をすることができ、プロジェクトは searxng を使用して複数のエンジンで検索を行い、検索結果を ChatGPT3.5 LLM と組み合わせて、検索結果に基づいて回答を生成します。
すべてのプロセスはローカルで実行され、GPU や OpenAI や Google API キーは必要ありません。
このプロジェクトは 4 月初めにオープンソース化されましたが、わずか数日で 5.6k スターを獲得し、増加し続けています。
機能特性
完全に無料（API キーは必要ありません）
完全にローカル（GPU は必要ありません、どのコンピュータでも実行できます）
完全にプライベート（すべてがローカルで実行され、カスタム llm を使用）
LLM ハードウェアを使用しない（GPU は必要ありません）
無料の ChatGPT3.5 / Qwen / Kimi / ZhipuAI (GLM) API を使用（API キーは必要ありません）
カスタム LLM のサポート（ollama、llama.cpp）
Docker Compose を使用した簡単なデプロイと操作
ウェブページとモバイルデバイスに対応したユーザーフレンドリーなインターフェースで、Web 検索の AI チャットを強化し、どのデバイスからでも簡単にアクセスできます。
動作原理
- プロジェクトは FreeAskInternet UI インターフェース（ローカルで実行）でユーザーの入力した質問を受け取り、searxng（ローカルで実行）を使用して複数の検索エンジンで検索を実行します。
- 検索結果のリンク内容をクロールし、ChatGPT3.5 / Kimi / Qwen / ZhipuAI /ollama（カスタム llm を使用）に渡し、これらのコンテンツを参考にしてユーザーの質問に回答するように LLM に指示します。
- 回答をチャット UI にストリーミングします。
- プロジェクトはカスタム LLM 設定をサポートしており、理論的には無限の llm をサポートしています。
プロジェクトのインストールとデプロイ
デプロイ方法も非常に簡単で、公式では Docker の使用を推奨しています。
git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d
その後、ブラウザで以下のアドレスを開くことができます：http://localhost:3000
FreeAskInternet は、無料、ローカル、プライバシー、強力な検索とスマートな質疑応答を一体化した実用的なツールです。従来の検索エンジンの制約を打破し、情報をより効率的に取得できるようにします。
詳細なプロジェクトの機能については、興味がある方はプロジェクトのアドレスをご覧ください。
プロジェクトのアドレス：
https://github.com/nashsu/FreeAskInternet