見出し画像

Claude3で記事要約・関連論文を教えてくれるChome Extensionで動くLLMエージェントをDify.aiでシュッと作る

r-kagaya

difyで、小さなタスクに特化させたLLMエージェント・アシスタントBotをシュッと作れるのが結構嬉しい・楽しいなと言う話です。色々作って遊んでるのが楽しいので、仲間を増やすためにも簡易的ですがNoteにしました。
(色々作ってる最中、スクショ撮りつつ、それをそのまま載せただけなゆるい中身です)

一例として、タイトルの通りClaude3で要約・関連論文検索してくれるボットをChome Extensionで動かすのにDifyを使っています。

お題としては小さいですが、「Claude3が使いたい」、「関連記事・論文を検索してほしい」、「自分でプロンプトをカスタマイズしたい」、などのように地味に細かい要望に答えた、独自ツールを作るにはうってつけでした。
(もちろん、作り込めばもっと複雑なアプリケーションも実現できるかと思います)

コードでもZapierでも、今回のレベルであれば実現することは可能ですが、サクッと作るにはdifyの方が楽だなと感じます。
個人的には、Difyで作ってChrome Extensionで使う。もしくはDifyで作って、Zapierでslackに繋ぐor 他ツールと連携するのが良さげです。


Difyとは

dify.aiは、生成AI・LLMを用いたアプリケーションをノーコードで構築できるプラットフォームです。
オープンソースなので、コードを確認することも、自前ホスティングすることも可能です。

シンプルにプロンプトを実行するだけでなく、RAGに対応したチャットボットも作れます。
dify自体の紹介は以下記事をご参照ください。

ちなみに、自称ですがLangChainやFlowiseよりもプロダクションレディーです。意気込みが素晴らしいですね、応援したい。

エージェントアシスタント機能

そんなdifyですが、エージェントアシスタントと称した「タスクを自律的に完了するためのツールを選択できるインテリジェントエージェント」の構築にも対応しており、
エージェントアシスタントモードでは、複数のツールを設定して、LLMが呼び出すことができる、いわゆるLLMエージェントと呼ばれるようなチャットボットもノーコードで作成することができます。

LLMから呼び出すことが可能なツールの連携が画面上から設定できるのが便利です。
ちなみにNotion DBとの連携などナレッジ・RAGの実装も可能です。

記事要約と関連記事・論文を教えてくれる、Chrome Extension

記事のURL渡したら要約と関連論文を提示してくれる超簡易な動きをするチャットボットは、以下手順だけで動くものが出来てしまいます。

手順(プロンプト)を設定

手順(プロンプト)を設定します。今回はターゲットと目的を入力するだけで自動設定可能な機能を利用します。

ツールを登録

今回は認証不要で使える && 要約と検索に必要な3つだけ登録

公開・Chrome Extensionとして使う

公開した後は、以下Chrome Extensionをインストールし、ChatBot URLをChrome Extensionの画面で入力するだけです。

これで、右下に浮遊してるアイコンから先ほど作成・公開したチャットボットにアクセスすることが出来ます、一瞬ですね。

質問を繰り返すこともできます。

モデル・パラメーターを変更

APIキーを設定すれば、デフォルトのGPT-3.5以外も利用可能になります。
最近はClaudeを使うケースが増えているので、本BotでもClaude3系のモデルを使うことにします。

フォローアップ質問を追加

Difyでは以下の追加機能が用意されていて、有効にするだけで反映されます。例えばフォローアップを有効化すると、Perplexityのような追加質問がサジェストされるようになります。

(残念ながらこのフォローアップをカスタマイズは提供されていなそうです)

おわり

difyで作ったチャットボットはAPIからもアクセスできるため、ZapierからAPIで叩けばslackに繋げたワークフローを作ることも可能です。
プロンプトの自動生成やテンプレートからアプリを作れるなど、生成AI/LLMツールを作りやすい仕組みも用意されていて、取っ付きやすい・薦めやすい印象です。

Difyに限った話ではないですが、複雑な推論やツールを使い分けるLLMエージェントを作る大変さは変わらずだとしても、
用途を絞った小さなLLMエージェントをノーコードでサッと作れる、カスタムツールも作成可能であること。
さらにアクセス方法もサイト埋め込み・Chome Extension・APIと提供され、少し手を加えて、他ツールと連携すればSlackに生やすなどやれることが色々あるのはDifyの利点の一つです。

LLMアプリケーションのプロトタイピングツールとしてもDifyは選択肢の一つになりそうですね。

似たツールであるflowiseaiもですが、ノーコードで小さな生成AI/LLMツールを自分で作れると、色んな所で効率化が図れるのでどんどん普及・育ってほしい・させたいサービスだと改めて感じました。

今度はカスタムツールの作成にチャレンジしようと思います。
今回は以上です！


この記事が気に入ったらサポートをしてみませんか？