【驚き】あなたのPCで動く無料のチャットボット！GPT4ALLを試してみた！

この記事の内容

GPT4Allは、オープンソースで提供されている大規模言語モデル（LLM）です。無料で使えるうえ、一般的なスペックのPCでも動作するよう軽量化されているのが特徴です。

ChatGPTのようなクラウド型AIは非常に便利ですが、入力した内容が運営側のサーバーに記録される点が気になる場面もあります。機密情報や社外秘のデータをAIに問い合わせたい場合、ローカルで動作するLLMは有力な選択肢になります。

まずはGPT4AllのGitHubページからモデルファイルをダウンロードします。ファイルサイズが大きいため、ダウンロードにはしばらく時間がかかります。

ダウンロードが完了したら、GitHubからリポジトリをクローンします。

git clone <GitHubのリポジトリURL>

クローンしたリポジトリ内の chat ディレクトリに、先ほどダウンロードしたモデルファイルを移動または貼り付けます。

chat ディレクトリに移動し、OS向けの実行ファイルを起動します。WindowsではPowerShellから以下のように実行します。

cd chat
# Windowsの実行ファイルを起動

モデルのロードが完了するとチャットモードが起動し、すぐに会話が始められます。

起動後、まず英語で挨拶を試みました。

すると「I’m doing great.」と自然な返答が返ってきました。続けて「あなたは何ができますか？」と英語で尋ねると、さまざまなことができると答えてくれました。

次に、教育の重要性について50文字程度で答えるよう英語で質問してみました。こちらも適切な英語で回答が返ってきており、英語での応答品質はかなり良好でした。

日本語で「日本語は理解しますか？」と質問すると、「日本語の知識はない」と英語で返答がありました。

さらに日本語で直接入力してみると、英語で解釈・回答しているような動作が見られました。日本語の入力自体は受け付けているものの、日本語での返答はうまく機能しておらず、文字化けが発生することもありました。

日本語対応については現時点では厳しい状況であり、英語での利用が主な用途になりそうです。

実際に動作させた際のメモリおよびCPU使用率は以下のとおりです。

リソース	使用量の目安
メモリ	約5〜7GB
CPU	約65%（応答生成中）

環境によって大きく異なりますが、それなりのリソースを消費することが分かります。

GPT4Allは、無料・オープンソースで手軽にローカルLLMを試せる非常に興味深いツールです。機密情報を扱いたい場合や、クラウドAIの利用制限を気にしたい場面でも活用できます。

英語での応答品質は十分に実用的なレベルであり、ChatGPTが利用できない状況やオフライン環境での代替としても可能性を感じます。一方、日本語の扱いは現時点では難しく、文字化けや意図しない応答が発生する場面も見られました。

今後、メモリ使用量やCPU負荷がさらに改善されたモデルや、日本語に対応したモデルが登場することも期待されます。ぜひ一度、お手元のPCでローカルLLMの世界を体験してみてください。