HuggingChat: ローカルLLM用モデルを試せて、アシスタントも作れるサイト
数日前にX のPostで知ることができた HuggingChatを触ってみました。
Guestでもちょっとだけ使えますが、サインアップしてログインした方がいいと思います。
現時点、2024.2.5では、以下のモデルが使えます。
Models
mistralai/Mixtral-8x7B-Instruct-v0.1
meta-llama/Llama-2-70b-chat-hf
NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO
codellama/CodeLlama-70b-Instruct-hf
mistralai/Mistral-7B-Instruct-v0.2
openchat/openchat-3.5-0106
個人的にそこそこ日本語が使えると思うのは、NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO と openchat/openchat-3.5-0106 かと思います。
あと、Search webのオプションがあって、web searchの結果の元に応答を生成してもらえます。
アシスタント機能は、実際には試していません。
ただ、各モデルを使うときにsystem promptを入れられるようになっていますので、アシスタントを作らなくても色々と試せると思います。
なおアシスタントを作ったらPublicとして公開されるようです。
huggingchatに関するDiscussionページは以下にありました。
あと会話内容ですが、デフォルトでは、モデル開発者に提供されます。
デフォルトでは、時間の経過とともにトレーニング データとモデルを改善するために、会話が各モデルの作成者と共有される場合があります。モデルの作成者は、モデルが当社のプラットフォームでホストされている場合でも、モデルによって収集されたデータの管理者です。
設定でデータ共有を無効にすると、会話は下流での使用 (研究やモデルのトレーニング目的を含む) には使用されず、過去の会話にアクセスできるようにするためにのみ保存されます。 [削除] アイコンをクリックすると、いつでも過去の会話を削除できます。
ローカルでLLMを試したいけど手持ちでは無理だという人は、使えるモデルは限定されますが、十分に遊べると思います。
#AI #AIとやってみた #やってみた #Huggingface #ローカルLLM #大規模自然言語モデル #ChatGPT
この記事を最後までご覧いただき、ありがとうございます！もしも私の活動を応援していただけるなら、大変嬉しく思います。