[読書メモ] ChatGPT/LangChainによるチャットシステム構築［実践］入門

はじめに

読んだ本

https://amzn.asia/d/iUDxo5k

読んだ動機

ChatGPTリリースの衝撃から1年以上が経過した。
業界的にLLMアプリケーションは1分野になりつつあるので、アプリケーションエンジニアとして概要を押さえたい。

読書メモ

OpenAI ChatGPT 有料でできること

• プラグイン追加できるらしい。Web検索など。

• CSVファイルをアップロードして、データ分析に使う。

  • Pythonコードの生成

  • グラフ化

ファインチューニングとプロンプトエンジニアリングは異なる

• ファインチューニング

  • モデルの追加学習

  • GPUが必要

• プロンプトエンジニアリング

  • プロンプトの工夫

プロンプトエンジニアリング

• 出力形式を指定したいときは、具体例を書く

• 「ステップバイステップで考えてみましょう」と書くと、計算問題を間違えにくくなる

LangChain のキーワード

• Chains

  • 処理をひとまとまりとして繋げられる

  • ユースケースに特化したChainが公開されている

  • 自分でChainを作ることがLangChainの醍醐味

    • ロジックを組む点はプログラミングと同じなので、楽しそう

• Memory

  • データの保存先を指定できる

• Data Connection

  • LLMと外部データを接続する

  • 外部データを読み込む → translate → ベクトル化 → Vector Storeに保存 する

  • Vector Store から検索する機能

  • 社内ドキュメントの検索とかに使えそう

  • LangChain提供のDocumentTransformerが外部データの変換に便利そう

• Agents

  • Vector Store からの検索結果を踏まえて、LLMにアクションを判断 & 動いてもらう

その他のキーワード

• RAG

  • 入力にベクトルが近い文書を検索してcontextに含める手法

LLMアプリケーションのテスト

• テキストの距離による評価

• LLMによる評価

• 新手法が次々と開発される分野なので、面白そう。

おわりに

前半が基礎、後半が応用（アプリケーション作成）という構成。
アプリケーションエンジニア向けに書かれているので、とても読みやすかった。
後半（アプリケーション作成）は必要になったタイミングで再読すると、学びが多そう。

LangChainを使用するかは別として、LLMアプリケーションの概要を押さえるために良い本。
LLMアプリケーションの開発&テスト手法を追いかけるために、LangChainの動向に注目していきたい。

プロンプトエンジニアリングを食わず嫌いしていたけど、ロジックを組む箇所が予想以上に多くて面白そうだった。
視野が広がったのでこの本に感謝 (* ˊᵕˋㅅ)