ChatGPTライクなUI(&RESTサーバ) 調査メモ

ChatGPTやPaLMなどのLLM APIを統合したユーザーインターフェース（UI）および、オープンソースLLMをサービングするためのツールの構築に関する個人的な調査メモです。

概要

生成AI技術が進化する中、ChatGPTのAPIやGoogleのPaLMなどを一元管理するUIが求められています。このニーズに応え、GitHubには数多くのChatGPTライクUIが存在します。

参考にしました

この分野の詳細な情報を得るために、以下の記事を参照しました。この記事は最新の動向を網羅しており、Pythonと生成AIの観点からも非常に有益です。

いろいろなChatGPT/Code Interpreterクローンを試す

優れたポータル

次のWebサイト（マークダウン形式）では、必要な情報が詳細にまとめられており、更新も迅速です。お気に入りに追加しておくことをお勧めします。

自作ポータル

私自身も、LlmOpsを含む生成AI技術の集約ポータルを構築しました。

検索キーワード

UI開発

• "ChatGPT Like UI"

• "ChatGPT Clone"

サーバ構築

• "LLMOps"

• "llm-serving"

これらのキーワードでGitHubを検索すると、有用なリソースが見つかります。

商用利用に適したChatGPTライクUI

商用目的で使用する場合、Apache2.0またはMITライセンスの有無、そしてStarの数（1k以上推奨）が重要だと考えます。

「Langserve」はLangchainライブラリの作者が開発している点は特筆すべきでしょう。

Difyは有用ですが、商用利用に際しては利用規約を注意深く確認してください。Apacheライセンスなので緩めですが、マルチテナント運用に関する制限があります。

商用利用に適したLLMOps(サーバ)

LLMOpsには様々な定義がありますが、ここではオープンソースのLLMをローカルで稼働させ、ChatGPT APIと類似のやり取りが可能な互換サーバを作成ツールとして捉えます。

• Dify推奨 

• Librechat推奨

---