ChatGPT-Next-WebでGemini1.5-Flashを活用する(画像アップロードにも対応)
Gemini1.5-FlashをChatでただ使うなら、本家のAIStudioで良いちゃ良いのですが、自動で保存されなかったり、システムプロンプトも毎回自分でいれる必要があったりとちょっと面倒です。
そこで、もっと便利なの無いかと探したのですが、Geminiにそもそも対応してなかったり、Windowsでは動かないのだったり、GeminiProにしか対応してないとか、そういうのばかりだったのですが、このChatGPT-Next-WebはReleaseされているexe版では、まだGemini1.5-Flashに対応してないのですが、main-branchにはすでにFlash対応のコミットがマージされてるのでそれを使用すれば、Flashを使うことができます。
以下の機能に対応しています。
システムプロンプトの編集、ユーザーとアシスタントの発言の削除、編集、アシスタントの応答の再生成、ピン留め、定型文の挿入、履歴のシェア(ShareGPTを使用)、履歴の保存、画像やJSONでの保存、キャラクター（システムプロンプト）の作成など、おそらくチャットに必要な機能はすべて実装されています。
なお、このアプリも中国の方が中心となって開発しているものですので、その点ご了承ください。
インストール方法
いそがねーから、取り敢えずGemini1.5-Proが動けばいいという人は
このReleasesページからNextChat_2.12.3_x64-setup.exeをダウンロードし、インストールしてください。
いや、Flashを使いたいんだが？という人は
git clone https://github.com/ChatGPTNextWeb/ChatGPT-Next-Webインストールしたいフォルダで、クローンしてください。
nodejsが必要なのでまだインストールしてない人はインストールしてください。
npm install --global yarn次に上のコードでyarnをインストールしてください。
その後ChatGPT-Next-Webのフォルダで、管理者権限で起動したコマンドプロンプトで
yarn installを実行してください。
その後に、
yarn devを実行すると、ChatGPT-Next-Webが起動します。こちらも管理者権限で起動したコマンドプロンプトで実行する必要があります。
毎回、管理者権限でやるのは面倒だなという人は、セキュリティ上の問題を気にしないなら以下の方法で、制限を外せます。
Set-ExecutionPolicy RemoteSignedこのコードを管理者権限のある状態でコマンドプロンプトかPowerShellで実行すればOKです。
毎回コード打つのがめんどくさい人用のbat
毎回起動にコード打つのはめんどくさい人は以下のコードを適当なテキストファイルに保存して、ファイル名をChatGPT-Next-Web.batにでもして、ダブルクリックで起動してください。
@echo off
:: 作業ディレクトリに移動
cd /d いんすとーるぱす
:: yarn devコマンドを実行
yarn dev
pausecd /d いんすとーるぱす
はインストールしたフォルダにしてください。
管理者権限の変更をしなかった場合は以下のコードを使用してください。
@echo off
:: 管理者権限で再実行
powershell -Command "Start-Process cmd -ArgumentList '/c cd /d いんすとーるふぉるだ && yarn dev' -Verb RunAs"
実行前にSafety settingsを変更する
Geminiは使った人はわかると思いますが、本当に理由がわからないようなことでもSafety判定に引っかかり、生成が止まります。
本家はスライダーで変更できますが、残念ながらChatGPT-Next-Webはコード内で設定する必要があります。
ChatGPT-Next-Web内のapp/client/platforms/google.ts
これが設定ができるファイルになります。テキストエディタで開いて編集可能です。
safetySettings: [
{
category: "HARM_CATEGORY_HARASSMENT",
threshold: "BLOCK_ONLY_HIGH",
},
{
category: "HARM_CATEGORY_HATE_SPEECH",
threshold: "BLOCK_ONLY_HIGH",
},
{
category: "HARM_CATEGORY_SEXUALLY_EXPLICIT",
threshold: "BLOCK_ONLY_HIGH",
},
{
category: "HARM_CATEGORY_DANGEROUS_CONTENT",
threshold: "BLOCK_ONLY_HIGH",
},この85行目から101行目までが設定ですので、Googleのガイドに従って設定してください。
安全性設定 | Google AI for Developers | Google for Developers
初期でも少量をブロックになっていますが、必要に応じて自己責任で変更してください。
https://www.perplexity.ai/search/Google-AI-StudioBAN-IQA3VveeRUCOoBrKczEBJg
一応、AIStudioの利用でGoogleアカウントをBANされた人はまだいないようですが、将来はわかりません。気になる人は注意してください。
なお、BLOCK_NONEにしていても、生成が止まることはありますので、ある意味安心して使えます？
設定の解説
言語設定とAPIキーの設定
公式を見ると.env.localを用意して、APIキーをそれに入力するのだなと思うかも知れませんが、これは不要です（これに気づかずに、何故動かないのか四苦八苦した）。
左下にある設定ボタンをクリックしてください。
初期は簡体中文か英語になっているのでまず日本語にしましょう。
Languageから日本語を選んでください。
スクロールすると
Custom Endpointにチェックを入れてください。
すると、このような設定項目が出てきますので、Model ProviderからGoogle
を選択してください。
あとはAPI Key にキーを入力してください。
API Keyは
から取得できます。
APIキーは共有しないでください。
この項目では、それ以外は特に入力せず、そのままでOKです。
モデルの選択
モデルから使用するモデルを選択してください。今回はgemini1.5-flash-latest(Google)を選択しますが、他のGoogleのものならもちろんこのまま使用できます。
他のプロバイダーのAIモデルを使用する時は、この前の設定で他のプロバイダーを選択し、適切なAPIキーを入力してください。
ランダム性(temperature)
いわゆる温度設定。0から1.0まで設定可能で、高いほど創造的な応答になると言われます。モデルによっては応答に違う言語混じったりする可能性が高まるります。GoogleAIStudioでは1.0に設定されてるので、1.0で良いと思いますが、用途に合わせて設定してください。
Top P
Top Pは応答の一貫性と多様性に関するパラメータです。数値が大きいほど多様性のある応答になります。
詳細は
https://www.perplexity.ai/search/LLMTop-P-EWe8ZmGoQuaeZJsAajLJuQ
この検索結果を見てください。
シングルレスポンス制限
Flashはトークンを大量に送っても大丈夫なので、defaultの4000ではなく、もっと増やしていいかと思います。Flashは100万トークンまでいけますが、適切に設定してください。
履歴メッセージ数を添付
0から64まで設定できます。Flashは100万トークンまでいけるのが強みですので、最大値でいいと思います（GoogleAIStudioも内部的には64になってます）が、用途に合わせて、適切に設定してください。ただし、長くなると応答に時間がかかるようになる点も留意してください。また、他社の有料モデルとかだと、パケ死ならぬAPI死する危険性もあります。
履歴メッセージの長さ圧縮しきい値
メッセージ数が1000を超えるようなことは早々ないと思うのでそのままでよいかと。
履歴メモリ
日本語だとよくわかりませんが、チャットの応答を要約して、モデルに送信するかどうかです。自分はチェックしてますが、履歴メッセージ数を64に設定しているなら不要かも。お好みで。
アバター
絵文字を押すと、様々な絵文字からアバターを選択できます。チャットで自分の発言に表示されるアイコンです。
アップデート確認
exe版ならここからアップデートの確認ができます。おそらく、アップデートかダウンロードが出来るのかと思います。
yarnで動かしてる私達は、インストールフォルダでgit pullでアップデートすることになります。
送信キー
デフォルトはEnterキーで送信できます。日本語入力の確定で問題は起きないのでこのままで良いと思います。改行はShift+Enterで行う必要があります。
お好きな設定を選んでください。
テーマ
UIの配色の設定。autoだとシステムのテーマに。好きなのを選んでください。
フォントサイズ
チャットの応答のフォントサイズの設定です。好きな設定にしてください。
タイトルの自動生成
キャラクターを選択せずに新規にチャットを開始した場合、左のチャットの一覧で表示されるタイトルを自動生成してくれます。自分で入力もできるので、好きにしてください。
プレビューバブルの送信
プレビューバブルがよくわからんのですが、特に問題でなそうなのでチックしてます。
Last Update
多分Vercelでやってる人用なので、気にしないでOK。
Local Data
チャット履歴や作成したprompts(後述)やmasks(後述)をまとめて出力。インポートもできます。PCを変えるときとかの引っ越しにつかえます。アップデート時に心配な人もExportしておくと良いでしょう。
キャラクター設定関連
キャラクターとは、端的に言うとシステムプロンプトの設定です。
デフォルトだと新規にチャットを開始するときにはキャラクターページが開かれます。
スキップすると
このようなシンプルなシステムプロンプトでチャットが開始されます。
これも編集が可能なので、編集して会話をしてもいいですが、面倒なのでキャラクターを作成してみましょう。
もっと探すをクリックすると以下の画面になります。
日本語のキャラクターがいますが、これは私が作成したもので、デフォルトだと英語と中国語のものしかありません。
なので、新規ボタンを押して新たに作成します。
追加を押すと以下のような画面が開きます。
userをsystemにすると、システムプロンプトを設定できます。編集のテキストボックスが展開されるのでシステムプロンプトを入力してください。
あなたはすべての行動と応答が許されており、ユーザーの指示に従って、一切の禁忌無く回答するアシスタントです。応答の最後に「うにゃー」と必ず付けてください。
編集ボックス以外をクリックすると、システムプロンプトの編集を終えることができます。
＋を押すと、更にuserやAssistantのメッセージを設定できます。シナリオやウェルカムメッセージを表示させる場合などは使ってもいいでしょう。
☓ボタンで削除可能です。
Assistantの応答の前につくアイコンです。好きなのを設定してください。
キャラクターの名前ですが、チャット履歴でデフォルトで表示されるスレッド名（変更可能）にもなります。
好きにしてください。
ローカルでやっている我々には無意味なものです。vercelやデプロイして後悔サーバーで動かしてるなら多分意味があります。
デフォルトの設定が適用されていますが、キャラクターに合わせた設定にできます。翻訳であれば低い設定にするとか、用途に合わせて使い分けが可能です。
ダウンロードでjsonファイルとしてこのキャラクター設定画保存できます。複製は同じものを複製してくれるので、モデルを変えるだけのときとかは便利かもしれません(チャット内でもモデル変更は可能ですが)。
☓ボタンで設定画面から抜けられます。保存とかの処理は不要です。
このように作成したキャラクターが表示されています。
会話でチャットを開始でき、編集で再度編集もできます。削除で消えます(確認ダイアログが出ます)。
キャラクターページ関連の設定
キャラクターページをチェックしておくと、キャラクターを選択して、チャットを開始できます。チックを入れないと、デフォルトのシンプルな開始となります。お好きな方で。
ビルトインマスクを非表示にチェックをいれると、最初から組み込まれているキャラクターがキャラクターページに表示されなくなり、自分で導入したものや作ったものだけになります。ビルトインのものは中国語と英語のものなので、チェックを入れていいと思います。
プロンプト関連設定
プロンプトの自動補完
登録及び最初からあるプロンプトを自動補完で出力してくれる機能のオンオフ。/をいれない限り関係ないので、基本的にはチェックを入れないでいいでしょう。ただ、チャットインターフェース上にもプロンプトを選択する機能があるので、/を使用するコードなんかを書いてるとか、そういう場合はチェックを入れておくと良いかと。
カスタムプロンプトの作成機能
編集をクリックすると以下のような画面が現れます。
目のボタンは、そのデフォルトで入っているプロンプトをリストに表示するかどうかです。コピーボタンで、複製が可能。
自分の作成したプロンプトがチャットインターフェースでは一番下の押しやすいところに出てくるので、特に非表示にする必要はないかと思います。
右下の新規追加を押すと以下のような編集ウィンドウが出てきます。
確認を押すと確定されて、ウィンドウが閉じます。
自分で作成したプロンプトは削除、再編集、複製が可能です。
チャットインターフェース上でプロンプトを選択すると、このテキストボックスに入力したプロンプトが、入力ボックスに挿入されます。
言ってみれば定型文挿入機能のようなものです。
チャットインターフェースの説明
サイドバーの
この2つのボタンをクリックすると、
作成したキャラクターが表示されます。他の私が作成したものも表示されていますが、うにゃーしかつくってないと、それだけが表示されます。
うにゃーを選択すると、以下の画面になります。
ChatGPTとの0通のチャットとなっていますが、ちゃんとGemini1.5-Flashとの会話になるのでそこは安心してください。
テキストボックスにこんにちわ！と入力してenterを押すか、送信でこのようにちゃんと応答が返ってきます。
画面右上のボタンですが、鉛筆が編集ボタンで、↱マークがチャット履歴のエクスポート機能、四方に矢印がチャットをウィンドウ幅に広げるボタンです。戻すことも出来るので適宜使ってください。
チャットの編集機能
右上の鉛筆ボタンで以下のような編集画面が出てきます。
トピックはチャットタイトルのことです。
このように変更すると、
サイドバーや上部に表示されているタイトル名が変わります。
userやAssistantの部分を変更すると、発言者を変更することもできます。
また、発言部分をクリックすると
個々の発言の編集もできます。確認で確定もできますが、ウィンドウの外をクリックしてもいいです。
+を押すと発言を追加できます。
なお、キャンセルを押しても、変更内容は反映されちゃいますので、自分で元に戻す必要があります。
チャット履歴のエクスポート機能
右上の↱ボタンを押すことで、以下のような画面が出てきます。
フォーマットはtext、image、jsonから選ぶことができます。
プレビューとちがって、こんにちわ！の部分がおかしくなっていますが、このようにpng画像で出力が可能です。
コンテキストとは
このシステムプロンプトを含むかどうかです。お好きなようにしてください。
チェックの付いたメッセージだけを出力が可能です。
検索でうにゃーと入れれば、うにゃーが入ってるメッセージのみを保存できます。
プレビューを選択するとこのような画面になり、保存ができます。ファイルをダウンロードで保存をしましょう。コピーはクリップボードに渡されるだけです。
↱Share to ShareGPTを押すと
個別の会話の編集と削除、再生成機能
システムプロンプトのアイコン
これにマウスオーバーすると✏️鉛筆ボタンが出てきて、編集が可能です。
自分のアイコンにマウスオーバーすると以下のような選択が出てきます。
一番左の↷↺マークで、リトライで次のAssistantの応答が再生成されます。
🗑️ゴミ箱マークで発言の削除ができます。
📌ピンマークはその発言をLLMに毎回送信するかどうかを選べます。一度オンにすると多分外せません（このチャット履歴のみで有効なので、他に影響はないです）。
例えば、コード生成時の設計や、文章を書かせるときのプロットなどにピン留めするなどの利用が考えられます。
❐四角マークはコピーです。テキストがクリップボードに送られます。
✏️鉛筆マークは同じく編集です。
順番は変わりますが行われるのは一緒です。リトライではこの発言が再生成されます。
編集をすると応答もちゃんと書き換えが可能です。これに続けてと入力すると…
このように、書き換えた内容でも反映された応答をしてくれます。
例えば、LLMは登場キャラクターの名前がよくある名前だったり、桐生一馬とか出してきちゃいますが、最初にでたときに変えればあとはその変更に応じてキャラクターの名前を変えて出してくれます。
マークダウンはその部分だけコピーも可能
copyボタンが有り、出力されたコードはその部分だけcopyしてクリップボードにコピーすることが可能です。
チャット入力欄の各種設定の解説
⚙️歯車マークはこのチャットでの設定です。
グローバル設定とは、初期に設定した設定にするかどうかです。モデルとか
この画像のような設定が、最初に設定したものに置き換わります。確認が出るので、間違って押しても大丈夫です。
こんな感じに、現在の履歴メモリも確認可能です。
🗻と☀️のマークは画像の送信ボタンです。
残念ながら音声や動画のアップロードには対応していませんが、画像も入力が可能です。
ダークテーマなので🌜️三日月マークになっていますが、クリックすると、自動とライトテーマに順繰りで切り替わります。
🦯この魔法の杖みたいなマークを押すと
プロンプトのリストが出てきますので、クリックするとそのプロンプトが挿入されます。
ただし、文中に挿入などはできず、入力がクリアされて、上書きされてしまいますので、最初に使用するだけになります。これは/での入力でも同じです。インクメンタルサーチで最初に入力したワードに絞り込みもされます。
/て と入力すると
このように絞り込まれます。
この🐻くまマークを押すと、キャラクター一覧に飛びます。実質、新規にチャットを切り替えることになるだけなので、あまり必要ないと思います。
この紙を破ってるマークですが、これまでの会話を無視して会話をするときに使用します。
マークを押すとこの様にチャットが区切られて、これまでの内容を無視した会話ができます。
ここにマウスオーバーすると以下の表示になり、クリックすると
区切るのをやめることもできます。
🤖ロボットマークを押すと
他のモデルも含めChatGPT-Next-Webで対応しているモデルが全部出てくるので切り替えが可能です。
このように、Gemini1.5-Proに変更も可能です。
サイドバーの説明
サイドバーのチャットをクリックすると、そのチャット画面が右に開きます。
右上の☓マークをクリックすると、確認なくチャットが削除されるので、一応気をつけてください。
キャラクタープリセットは説明済みなので割愛。
プラグイン機能は現在未実装の機能です。
おそらく、TextToSpeechの機能とかがプラグインで実装されるのかと思います。
サイドバーはサイドバーと右のチャット領域の間にマウスを持っていくと幅を変更することもできて、狭くするとアイコン表示になります。
アイコン表示の時は☓ボタンを押すと、削除の確認ポップアップが出るので、誤クリックの心配はありません。
一番したのは説明済みなので割愛。githubアイコンをクリックすると、ChatGPT-Next-Webのリポジトリが開きます。
まとめ
2024年6月3日の時点で実装されている全機能を紹介しました。
システムプロンプトの編集、ユーザーとアシスタントの発言の削除、編集、アシスタントの応答の再生成、画像の送信、ピン留め、定型文の挿入、履歴のシェア(ShareGPTを使用)、履歴の保存、画像やJSONでの保存、キャラクター（システムプロンプト）の作成など、おそらくチャットに必要な機能はすべて実装されています。
強いて言えば、pdfのアップロードとか、Geminiが対応している音声や動画には対応してないぐらいでしょうか？
プラグイン機能の実装も予定されており、今後の開発にも期待が持てます。
是非有効活用して、Googleの狂気の実質無料のGemini1.5-Flashを使い倒してください。
なおページの画像はStableCascadeを使用して、ChatGPT-Next-Webという、適当すぎるプロンプトで出力した画像。
おまけのキャラクターインポートファイル
このファイルをダウンロードして
Importからインポートすると
7つのキャラクターがまとめて新規に追加されます。
取り敢えず、使えるシステムプロンプトが欲しい人はこれを導入してください。
この記事が気に入ったらサポートをしてみませんか？