Chainlitを使ってみた

Chainlitは、LLMアプリを構築することができるオープンソースのPythonパッケージとなります。streamlitに似ています。

早速、自PCで動かしてみます。

pip install chainlit
pip install langchain

次に、app.pyという名前で以下ファイルを作成します。YOUR_OPEN_AI_API_KEYには、OpenAIで取得したAPIキーを入力します。

import os
from langchain import PromptTemplate, OpenAI, LLMChain
import chainlit as cl

os.environ["OPENAI_API_KEY"] = "YOUR_OPEN_AI_API_KEY"

template = """Question: {question}

Answer: Let's think step by step."""

@cl.langchain_factory
def factory():
    prompt = PromptTemplate(template=template, input_variables=["question"])
    llm_chain = LLMChain(prompt=prompt, llm=OpenAI(temperature=0), verbose=True)

    return llm_chain

そして、次にターミナルで下記を実行します。streamlitに似ています。

chainlit run app.py -w

何か言葉を入れてみましょう。

Chainlitは、色々なことができそうですので、今後触れていきたいです。Chainlitのドキュメントページは以下です。

Overview - Chainlit