見出し画像

Dify やってみた

hima2b4

20240515更新：ナレッジ試行（高品質と経済的）を追記
20240510更新：RAGのチャットボットもやってみたので追記


話題ばかりを目にし、もう気になって気になって…

GPTsの上位互換？！ローカル環境で無料？！… 触るっきゃない感じですね。

ただ、どうすりゃいいかわからんので、Xを眺め、テツメモさんのポストにすがらせていただいた。

私は、紹介されている内容を盲目的に実行しただけなので、過程は思いっきり省略しますが、PCに Git ➡ Docker ➡ Dify インストールでいけました。　

以下、PowerShellによるDifyインストール画面のみ貼っときます。



OpenAIとCohere（無料トライアルキー）のAPIをセットして、やってみました。
・・・めっちゃ簡単（といっても 主には KEITOさんのyoutube をなぞらせていただいただけですが）


なんでもペディア

チャットボット、基本、gpt-3.5-turbo-16k

WikipediaSearch

チャットボット、Chatflow、gpt-3.5-turbo-16k、カスタムツール：WikipediaSearch

CohereでAIアシスタント

チャットボット、基本、Cohere：command-r-plus

RAGのチャットボット（Difyのテンプレートを使用）

テンプレート：Knowledge Retrieval + Chatbot、Cohere：command-r-plus

補足

  • Knowledge Retrieval は result Array[Object] に

  • Top P を有効にしないとエラーが出ました

成果物･アシスタント･デモ実行 のプロンプトをひとつのチャットボットで使い分け


ナレッジ試行（高品質と経済的）

ナレッジの設定は「高品質」と「経済的」があります。
まず「経済的」で約200ページのPDFを与えてみました。 

367個のチャンクに分けてくれました。
チャンク毎に有効/無効が設定できるようになってます。

検索テストもできますね。
以下、「ソーステキスト」画面にキーワードを入力して、「テスト中」をクリックすると、検索結果パラグラフが表示されました。

上記の検索テストにおいて、何も引っかからないキーワードもありましたので、「高品質」でもやってみました。

これは設定後の画面

設定時の画面は以下です。
埋め込みベクトルを選択するところがない💦。。。示された見積もりが安価なのでGO。

チャンク数は286になりました。

「経済的」では引っかからなかったキーワードも引っかかるようになりました。なにやってっか、よくわからんが、さすがハイブリッド(笑)。


ナレッジ＝RAGがこんなに簡単にできるのって… すごいな。

できることの幅は広いが、Difyだからこそ！という使い方がイメージしきれてないからあかん💦。



よろしければサポートお願いします！