harukary

ロボット系大学生→キッチン系AI/IoTエンジニア 最近はLLMアプリケーション開発を…

harukary

ロボット系大学生→キッチン系AI/IoTエンジニア 最近はLLMアプリケーション開発を行っています。

Text Embeddingにおける言語・形式・長さによる影響

まとめ文章のEmbeddingは、文章の内容の他に言語、形式、長さなどの情報の影響を受ける。 RAGでは検索するテキストの言語・形式を揃えることは重要。 RAGでは内容以外の要素の影響を受けにくい`text-embedding-3-large`を使うべきかもしれない。 背景単語のEmbeddingでは、意味がベクトルとしてEmbedding空間に埋め込まれます。一方、文章のEmbeddingでは、文章の意味に加えて言語や形式、長さなどの要素がEmbeddingに影響を

harukary

    • 【DLAI×LangChain講座2③】

      背景DeepLearning.aiのLangChain講座（LangChain for LLM Application Development）を受講し、講座で学んだ内容やおまけで試した内容をまとめました。 DLAI×LangChain講座まとめ｜harukary 現在は、第2弾（LangChain Chat with Your Data）の内容を同様にまとめていきます。 第3回は、VectorStoreとEmbeddingsです。 この講座では、PyPDFLoad

      harukary

      • 書評：ChatGPT/LangChainによるチャットシステム構築［実践］入門

        今回読んだ書籍感想LLMアプリケーションを開発する上で必要な知識を基礎から教えてくれます。 ChatGPTの基本操作から、OpenAIのAPI利用、LangChainを使ったチャットボット開発までが、コード例を交えて詳しく説明されています。 また内容はコンパクトで、数時間で完了できるようUdemyの講座のように設計されています。 ChatGPTを未経験の人にも、LLMアプリケーション開発の入門として最適な気がします。 しかし、9月時点の情報を元にしており、それ以降の大

        harukary

        • 【DLAI×LangChain講座2②】

          背景DeepLearning.aiのLangChain講座（LangChain for LLM Application Development）を受講し、講座で学んだ内容やおまけで試した内容をまとめました。 DLAI×LangChain講座まとめ｜harukary 現在は、第2弾（LangChain Chat with Your Data）の内容を同様にまとめていきます。 第2回は、ドキュメントの分割方法です。 この講座では、以下のテキストの読み込み方法が示されて

          harukary

        Text Embeddingにおける言語・形式・長さによる影響

        harukary

          【DLAI×LangChain講座2①】

          背景DeepLearning.aiのLangChain講座（LangChain for LLM Application Development）を受講し、講座で学んだ内容やおまけで試した内容をまとめました。 DLAI×LangChain講座まとめ｜harukary 上の記事を書いている間に第2弾（LangChain Chat with Your Data）が出ていました！今回からは、この内容を同様にまとめていきたいと思います。 と思っていたら3ヶ月経っていました。その

          harukary

          【DLAI×LangChain講座2①】

          harukary

          DLAI×LangChain講座まとめ

          DeepLearning.aiで無料公開されているLangChain講座のサンプルコード解説＋おまけコードで記事を書いたものです。 英語で難しい点やLangChainの抽象化レベルが高くてわかりにくい点などを解消するのに役立つかも、と思います。

          harukary

          DLAI×LangChain講座まとめ

          harukary

          様々な企業から見るチャットボットのゆくえ

          資料以下の記事がおもしろかったので、考えたことをまとめたいと思います。 資料の要約 資料のChatGPT要約を載せますが、記事を読んだら飛ばしていただいて構いません。 解釈各企業が作るチャットボットを使い分ける状況は、ユーザにとって手間は減らない結果となります。これに対してChatGPT（UI版）が強力なのは、情報を集約し、一つのインタフェースで全ての情報にアクセスできるからです。 ただし、ChatGPT（OpenAI）は既存の製品がないので、現時点では未完成の状態

          harukary

          様々な企業から見るチャットボットのゆくえ

          harukary

          ChatGPT・GoogleMapsで観光プランを生成する方法

          背景前回は、GoogleMaps APIの結果をFoliumで可視化してみました。 GoogleMaps APIの結果をFoliumで可視化してみる｜harukary 今回は、ChatGPT×GoogleMapsで、観光プランを作成してみたいと思います。 アプローチChatGPT APIで観光地の情報を出力し、その観光地を回る経路をGoogleMaps APIを使って出力します。以下の内容の応用編、と言った感じです。 サンプルコードPrerequisites いつ

          harukary

          ChatGPT・GoogleMapsで観光プランを生成する方法

          harukary

          GoogleMaps APIの結果をFoliumで可視化してみる

          背景以前からGoogleMaps API自体は気になっていましたが、今回触ってみたので、簡単な使い方をまとめます。 検索してもあまり出てこなかったのですが、GoogleMaps APIはあまり使われていないのでしょうか？無料枠で動かしていますが、料金が高いとか？一つには、ドキュメントがJavaのAPIなどとごっちゃになってて結構読みにくいこともあると思うので、ここでまとめておこうと思います。 アプローチ以下のリポジトリのサンプルコードをもとに、Foliumによる可視化を

          harukary

          GoogleMaps APIの結果をFoliumで可視化してみる

          harukary

          【DLAI×LangChain講座⑥】 Agents

          背景LangChainは気になってはいましたが、複雑そうとか、少し触ったときに日本語が出なかったりで、後回しにしていました。 DeepLearning.aiでLangChainの講座が公開されていたので、少し前に受講してみました。その内容をまとめています。 ちなみに：ゆっくりやっていたら、DLAI×LangChain講座の2が公開されてしまいました！早速受講はしてみたのですが、なかなかグレードアップしていて感動しました。急いでいこうと思います。（けど何かおまけはつけたい

          harukary

          【DLAI×LangChain講座⑥】 Agents

          harukary

          【DLAI×LangChain講座⑤】 Evaluation

          背景LangChainは気になってはいましたが、複雑そうとか、少し触ったときに日本語が出なかったりで、後回しにしていました。 DeepLearning.aiでLangChainの講座が公開されていたので、少し前に受講してみました。その内容をまとめています。 ちなみに：ゆっくりやっていたら、DLAI×LangChain講座の2が公開されてしまいました！早速受講はしてみたのですが、なかなかグレードアップしていて感動しました。急いでいこうと思います。（けど何かおまけはつけたい

          harukary

          【DLAI×LangChain講座⑤】 Evaluation

          harukary

          【DLAI×LangChain講座④】 Question and Answer

          背景LangChainは気になってはいましたが、複雑そうとか、少し触ったときに日本語が出なかったりで、後回しにしていました。 DeepLearning.aiでLangChainの講座が公開されていたので、少し前に受講してみました。その内容をまとめています。 ちなみに：ゆっくりやっていたら、DLAI×LangChain講座の2が公開されてしまいました！早速受講はしてみたのですが、なかなかグレードアップしていて感動しました。急いでいこうと思います。（けど何かおまけはつけたい

          harukary

          【DLAI×LangChain講座④】 Question and Answer

          harukary

          【DLAI×LangChain講座③】 Chains

          背景LangChainは気になってはいましたが、複雑そうとか、少し触ったときに日本語が出なかったりで、後回しにしていました。 DeepLearning.aiでLangChainの講座が公開されていたので、少し前に受講してみました。その内容をまとめています。 第2回はこちらです。 今回は第3回Chainsについてです。Chainsは「LLMを使って作る関数」といった感じです。また、LangChainの名前にもある通り、このChainは中心的な機能のようです。 Chain

          harukary

          【DLAI×LangChain講座③】 Chains

          harukary

          【DLAI×LangChain講座②】 Memory

          背景LangChainは気になってはいましたが、複雑そうとか、少し触ったときに日本語が出なかったりで、後回しにしていました。 DeepLearning.aiでLangChainの講座が公開されていたので、少し前に受講してみました。その内容をまとめています。 第1回はこちらです。 今回は第2回 Memoryについてです。 Memory | 🦜️🔗 Langchain 様々な種類のMemoryが用意されていて、さらに複数のMemoryを組み合わせるとか、カスタムのMem

          harukary

          【DLAI×LangChain講座②】 Memory

          harukary

          【DLAI×LangChain講座①】 Models, Prompts and Output Parsers

          背景LangChainは気になってはいましたが、複雑そうだなとか、スタンダードになるかはわからないよなと思い、後回しにしていました。 そんなときに、DeepLearning.aiでLangChainの講座が公開されていたので、少し前に受講してみました。 第１回のOutputParserとか感動していたんですけど、先日OpenAI本家からFunction calling機能が出ましたね。 こちらの記事では、Function callingの、Output Parser的な

          harukary

          【DLAI×LangChain講座①】 Models, Prompts and Output Parsers

          harukary

          Function callingで複雑なJson形式を抽出する

          背景OpenAI APIのChat APIにFunction calling機能がリリースされました。 名称的にもサンプルコード的にも、Chat APIでPluginsのようなツールを使うための方法のようです。 ですが、「Jsonを安定して出せる」ことが何よりの価値だと感じます。 この記事でもテキストからJson形式で抽出する方法について書きましたが、 安定してJsonを出力する部分で少し苦労しています。 これをアップデートしたいなということで、まずは勉強しました。 本

          harukary

          Function callingで複雑なJson形式を抽出する

          harukary