Dify やってみた
20240515更新:ナレッジ試行(高品質と経済的)を追記
20240510更新:RAGのチャットボットもやってみたので追記
話題ばかりを目にし、もう気になって気になって…
GPTsの上位互換?!ローカル環境で無料?!… 触るっきゃない感じですね。
ただ、どうすりゃいいかわからんので、Xを眺め、テツメモさんのポストにすがらせていただいた。
私は、紹介されている内容を盲目的に実行しただけなので、過程は思いっきり省略しますが、PCに Git ➡ Docker ➡ Dify インストールでいけました。
以下、PowerShellによるDifyインストール画面のみ貼っときます。
OpenAIとCohere(無料トライアルキー)のAPIをセットして、やってみました。
・・・めっちゃ簡単(といっても 主には KEITOさんのyoutube をなぞらせていただいただけですが)
なんでもペディア
WikipediaSearch
CohereでAIアシスタント
RAGのチャットボット(Difyのテンプレートを使用)
補足
Knowledge Retrieval は result Array[Object] に
Top P を有効にしないとエラーが出ました
成果物・アシスタント・デモ実行 のプロンプトをひとつのチャットボットで使い分け
ナレッジ試行(高品質と経済的)
ナレッジの設定は「高品質」と「経済的」があります。
まず「経済的」で約200ページのPDFを与えてみました。
367個のチャンクに分けてくれました。
チャンク毎に有効/無効が設定できるようになってます。
検索テストもできますね。
以下、「ソーステキスト」画面にキーワードを入力して、「テスト中」をクリックすると、検索結果パラグラフが表示されました。
上記の検索テストにおいて、何も引っかからないキーワードもありましたので、「高品質」でもやってみました。
設定時の画面は以下です。
埋め込みベクトルを選択するところがない💦。。。示された見積もりが安価なのでGO。
チャンク数は286になりました。
「経済的」では引っかからなかったキーワードも引っかかるようになりました。なにやってっか、よくわからんが、さすがハイブリッド(笑)。
ナレッジ=RAGがこんなに簡単にできるのって… すごいな。
できることの幅は広いが、Difyだからこそ!という使い方がイメージしきれてないからあかん💦。
よろしければサポートお願いします!