Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門
RAGの構築などがのっている、ドーナツ本として有名な技術書が気になったので読んでみました〜。具体的な構築手順も書いてあって参考になります
ビル・ゲイツは「人生で革新的だと思った技術のデモンストレーションを2回見たことがある」とし、ひとつはWindowsのもとになったグラフィックユーザーインターフェイスのシステム、もうひとつはOpenAIが開発したGPTモデルと述べた
GPTは大規模な深層学習モデルで、大量のテキストデータを用いて事前学習(Pre-training)を行うことで言語構造を解釈できるよう調整されているため、大規模言語モデル(LLM)とも呼ばれる
注意機構(Attension)と呼ばれる重要な構造を活用し、長いテキストの中でも離れた位置にある単語間の関係性を効果的にとらえる
生成AIに与える指示文を工夫することでAIの出力精度改善を行う手法をプロンプトエンジニアリングと呼ぶ
プロンプトエンジニアリングにおいて気をつけるべき観点
リージョン間でのリクエストを分散することで、実質的なTPM上限緩和が可能
LLMが知らない情報を外部の検索システムで検索し、その検索結果を情報源として回答を生成する手法は、一般的にRetrieval Augmented Generation(RAG)として知られており、大規模言語モデルを活用したシステム開発では重要な概念。外部情報を連携することをグラウンディングと呼ばれる
ユーザーの質問を受けて関連するドキュメントを検索したり、大規模言語モデルに回答作成の指示を与えたりするモジュールはオーケストレータと呼ばれる
Azureで負荷分散するサービスは、Azure API Management 、Azure Application Gateway、Azure Front Doorがある
LLMの概念からプロンプトエンジニアリングの入門、RAGの構築手順まで、幅広く技術を含めてまとめられている書籍で、とても参考になります。Azureだけでなく概念的なものも詳しく解説されているので、生成AIの技術書の入門としては、おすすめの1冊です
この記事が気に入ったらサポートをしてみませんか？