LLMフレームワーク｜はまち

LangChainの新機能 🕸️LangGraphを試す

LangGraphというLangChainの新機能が公開されていたので、google colab上でチュートリアルをざっと試してみました。ライブラリーのインストールなど!pip install -U langchain langgraph langchain_openai langchainhub tavily-python from langchain import hubfrom langchain.agents import create_openai_funct

kani: 軽量LLMフレームワーク

kani (カニ) は、ツールの使用/関数呼び出しを備えたチャットベースの言語モデルのための軽量でハッキング可能なフレームワークです。 LLM用のフレームワークとしてはLangchainが圧倒的にメジャーですが、若干肥大化した印象もありますよね。というわけで、ざっと試食してみます。 kaniの主な特徴軽量設計　最小限のフットプリントで高レベル機能モデル非依存　OpenAIモデルのほか、LLaMA v2、Vicunaなど関数呼び出し　ロバストなFunction Cal

Langchain公式 LangSmith Cookbook

LangSmithの実行サンプルにちょうどいい感じの、LangSmithクックブックが公開されていました。今のところサンプルはPythonのStreamlitで実装するチャットアプリだけですが、今後はJS/TSのサンプルなども準備も進めているようです。チャットアプリのLLM呼び出し部分は、通常のLLMChainと、LangChain expressions.での実装がStreamlitアプリ上で選べるようになっています。きれいで教科書的なコードだと思うので、これを土台に自

FlowiseAI：GUIで手軽にLangChainを使ったAIアプリを作成できる

FlowiseAIはドラッグアンドドロップの軽快なUIで、LangChainJS を使ったAIアプリケーションを手軽に開発できるオープンソースのツールです。その特徴と使い方を簡単に紹介します。🌽 FlowiseAIの概要オープンソースのMITライセンス: 商用利用可 LangchainJSを使用したLLMフローを素早く構築可能 Node Typescript/Javascriptで書かれ、OpenAI はじめとした各種LLM（ローカル動作のggmlモデルも使えます）、各

エージェントがAIモデルを使った軽量プログラムを作成して自ら実行！Transformers Agent

Hugging Faceが公表したTransformers Agentを試してみました。大規模言語モデル（LLM）をエージェントにして、そこから様々なHF Transformersのモデル群を利用できるようにしたもののようです。 Transformers Agentのしくみエージェント：Agent 「エージェント」は大規模な言語モデルLLMを利用します。特定のツールセットにアクセスできるようにプロンプトを出します。 API は一連のツールを使用して、各タスクを実行

Transformers Agent用のカスタムツールの作成

個人的に割とイケてるという感想のHuggingfaceのTransformers Agentのカスタムツールの作成を試してみます。 pineconeが公開してくれている例を参考にさせてもらいました。 Huggingface の Transformers Agentについては以下をご参照ください。このAgentは、あまり注目されていない印象がありますが、実行時にエージェントがpythonの簡易コードを書いてから、具体的な処理に移ることや、外部ツール、プラグインとの連携が容易

マイクロソフトのLLM統合ライブラリ{{guidance}}を試してみる

マイクロソフトから先日発表された、LLM をアプリ開発に統合するためのPythonフレームワーク {{guidance}} を簡単に試食してみます。マイクロソフトからは、今回発表されたguidanceのほか、C#向けにSemantic Kernelというライブラリも発表されています。この分野は、マイクロソフト以外でもPython向けのライブラリとして、定番のLangChainや、新星Marvinなど、日々、色々なアイデアが公表されていて楽しいです。さて、guidanc

LLMとプログラミングを調和させるライブラリ、Marvinを体験してみました。

mah_lab / 西見公宏さんのMarvinの紹介記事を読んで、とても興味が湧いたので、じぶんも体験してみることにしました。😃 コンセプトなど詳しい説明は、ぜひ西見さんの記事をお読みください。動作サンプル（google colab）Marvinの使用方法は、@ai_fnをつけた関数や、@ai_modelデコレータをつけたクラスで、LLMの入出力とプロンプトを指定するだけです。従来のPythonのプログラミングのスタイルを踏襲して、複雑な処理はLLMにお任せする感じ。

LLMラッパーライブラリ、MarvinのBot作成機能で遊んでみる

ChatGPT pluginsの解放や商用利用可能な日本語LLMの公開など、何かと騒がしい昨今、いかがお過ごしでしょうか。これら話題はつよつよの識者さまにお任せして、今日はMarvinを利用してBotを作って遊んでみます。まず公式に従って、仮想環境を作ってMarvinをインストールします。 python3 -m venv venvsource venv/bin/activate pip install marvin とりあえず、MarvinのBot機能がどんなものか

LLMフレームワーク

フォローしませんか？

記事一覧