オフラインで動作する様々なオープンソースのLLMインタフェース『GPT4All』が開発され公開されました。
インターネット接続やGPUは必要なく、一般消費者向けのPCで利用できます。
Windows/Mac/Ubuntu向けにアプリが提供されています。
Nomic AIの研究者らによる発表です。
@ Yuvanesh Anand et al., “GPT4All: An Ecosystem of Open Source Compressed Language Models”
研究者らは、最先端のLLMはコストがかかり、エリアも限定され、検閲が厳しいと述べています。
またコードや技術の公開情報も少ないと言われています。
そこで、LLMへの民主化を目指して、さまざまなモデルにアクセスできる『GPT4All』を開発しました。
■『GPT4All』のポイント
① ローカルで完全に動作（インターネット接続やGPUが不要）
② さまざまなオープンソースのLLMを利用可能
③ チャットデータは第三者に共有されず、プライバシーが保護される
③ モデルの例はGPT-J、LLaMA、Replitなど
④ ニーズに応じたモデルのカスタマイズが可能
■インストール方法と使い方
① 公式ウェブサイトまたはGitHubページからGPT4Allをダウンロード
② インストーラーを起動しセットアップ
③ 利用可能なモデルから選択し、アプリにインポート
④ モデルは実行時にRAMにロードされるため、システムのメモリ容量を確認
⑤ チャットを開始する
■使用可能なモデル
現時点で確認できているモデルの具体例：
GPT-J
LLaMA
Replit
MPT
Falcon
StarCoder
Mistral
なお、GPT4ALLは月間5万人以上のアクティブユーザーによって試用されているとのことです。
研究者らは、継続的なコミュニティのサポートと進化が重要だと訴えています。
