見出し画像

HuggingChat: ローカルLLM用モデルを試せて、アシスタントも作れるサイト

数日前にX のPostで知ることができた HuggingChatを触ってみました。

Guestでもちょっとだけ使えますが、サインアップしてログインした方がいいと思います。

現時点、2024.2.5では、以下のモデルが使えます。

Models
mistralai/Mixtral-8x7B-Instruct-v0.1
meta-llama/Llama-2-70b-chat-hf
NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO
codellama/CodeLlama-70b-Instruct-hf
mistralai/Mistral-7B-Instruct-v0.2
openchat/openchat-3.5-0106

個人的にそこそこ日本語が使えると思うのは、NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO と openchat/openchat-3.5-0106 かと思います。

あと、Search webのオプションがあって、web searchの結果の元に応答を生成してもらえます。

アシスタント機能は、実際には試していません。
ただ、各モデルを使うときにsystem promptを入れられるようになっていますので、アシスタントを作らなくても色々と試せると思います。

なおアシスタントを作ったらPublicとして公開されるようです。

huggingchatに関するDiscussionページは以下にありました。

あと会話内容ですが、デフォルトでは、モデル開発者に提供されます。

デフォルトでは、時間の経過とともにトレーニング データとモデルを改善するために、会話が各モデルの作成者と共有される場合があります。モデルの作成者は、モデルが当社のプラットフォームでホストされている場合でも、モデルによって収集されたデータの管理者です。

設定でデータ共有を無効にすると、会話は下流での使用 (研究やモデルのトレーニング目的を含む) には使用されず、過去の会話にアクセスできるようにするためにのみ保存されます。 [削除] アイコンをクリックすると、いつでも過去の会話を削除できます。

ポリシーの翻訳

ローカルでLLMを試したいけど手持ちでは無理だという人は、使えるモデルは限定されますが、十分に遊べると思います。


#AI #AIとやってみた #やってみた #Huggingface #ローカルLLM #大規模自然言語モデル #ChatGPT

この記事を最後までご覧いただき、ありがとうございます!もしも私の活動を応援していただけるなら、大変嬉しく思います。