Gemma はすでに紹介されており、コードを使用して彼とチャットする方法も紹介されています。
この方法は、開発者向けであり、比較的ハードルが高いです。
使用する際にも使い勝手が悪いです。
今日は、誰にでもより友好的な別の方法を紹介します。それは、視覚化ソフトウェアを直接使用して Gemma とコミュニケーションを取る方法です。
今日使用するソフトウェアは lmstudio と呼ばれ、多くの大規模モデルをワンクリックで実行できるソフトウェアです。
最新バージョン 0.2.16 では、Gemma モデル、20 億および 70 億のパラメータのモデルがサポートされています。
このソフトウェアは非常に優れており、多くのオープンソースモデルとチャットするだけでなく、OpenAI の API サービスを起動することもできます。
一般ユーザーと開発者の両方にとって非常に使いやすいです。
ソフトウェアは複数のプラットフォームをサポートしており、現在は Windows、Mac（Apple Silicon M series）、Linux の 3 つのシステムをサポートしています。
また、ソフトウェアはデフォルトで CPU を使用して推論を行うようですので、デバイスのハードルが大幅に低くなっています。
小さなモデルの推論速度も非常に優れています。
ソフトウェアをインストールした後（古いバージョンのユーザーはアップグレードしてください）、メイン画面で Google's Gemma 2b Instruct のカードが表示されます。カード内で download を見つけ、クリックするとモデルのダウンロードが開始されます。
全体のプロセスは非常に簡単ですが、社内ユーザーはダウンロードできない問題に遭遇するかもしれません。
ダウンロードが完了したら、ソフトウェアのトップバーから Gemma モデルを選択し、モデルの読み込みが完了するのを待ってから会話を開始できます。
ウィンドウの下部に User の後に内容を入力すると、チャットを開始できます。
中国語を直接送信することができ、理解されますが、彼は英語で返答します。