AoTとは、少ないトークン数で高い精度の回答を得るプロンプトエンジニアリング
8月30日、AoTと呼ばれる新たなプロンプトエンジニアリングのテクニックの論文が発表され話題となりました。
AoTプロンプトの主な内容は、問題を解決する手順のかわりにアルゴリズムを指定することで解決プロセスを内省化するというもの。
株式会社VERSAROCがお送りするAI関連マガジンでは、AoTプロンプトのどこが優れているのか、その注目のポイントや具体例を解説します。
AoTプロンプトができるまでの流れと注目される理由
AoTに限らず、従来のプロンプトエンジニアリングの問題を解決するために、新しいプロンプトは研究され続けています。まずはAoTができるまでのプロンプトエンジニアリングの流れを確認し、そのうえでAoTが注目を集めている理由をチェックしていきましょう。
CoT:手順をステップバイステップでこなす方法
CoT(Chain-of-Thought)プロンプティングとは、プロンプトに手順を明記する、「ステップバイステップで」と指示するなどして AI の問題解決能力を高める手法です。手順を教えず指示だけを出すときに比べて出力の精度はよくなります。
CoTはAIの回答精度を高めるために有効な手段でしたが、課題もありました。具体例として、解決の手順が異なる問題にプロンプトが使いまわせない、手順そのものが間違っていると出力も間違ってしまうなどが挙げられます。
ToT:2台のAIを使って手順をチェックする方法
CoTの課題を解決できる方法として注目を集めたのが、ToT(Tree of Thoughts)です。ToTはAIを2台使い、片方が手順を生成、もう片方は生成された手順の評価に徹底するという方法。
これによって、手順の一つ一つをチェックしながら実行できるため、複数の手順の中から最善のものを選びながら結果を出力できるようにしました。当然、出力の精度も上がります。
ToTについては過去の記事でも解説していますので、ぜひ参考にしてみてください。
AoT:手順としてアルゴリズムを指定する
手順一つ一つをチェックするToTは確かに回答精度を上げましたが、生成とチェックの2度の生成でコストが単純に2倍になってしまいました。APIを使ったツールなど、費用をかぶるビジネスでは2倍のコストは無視できない問題です。
そこで、トークン数を抑えつつ、ToTと同等かそれ以上の精度の回答を生成する方法として注目を集めているのが今回ご紹介している AoT(Algorithm of Thoughts)です。
ざっくり:AoTはトークン数を抑えて直感的な回答をさせる
AoTプロンプトはトークン数を抑えるために開発されたものであり、従来のプロンプトエンジニアリングよりも精度が高まるというもとは少し違います。
たとえるなら、経験から直感で回答を生成するようなものです。手順をステップバイステップで熟考する従来のやり方と違い、アルゴリズムという考え方の方向性だけを示して一気に回答を出力させます。
AoTの作り方:問題解決のアルゴリズムを指定する
AoTは、プロンプト内で解決の手順を示す代わりに、解決に有効なアルゴリズムを指定します。
これにより、AIは自身で問題をサブトピックに分解し、複数のサブトピックをまとめて解決することができるようになります。
AoTの2つのプロンプト例
具体例として、AoTのプロンプト例を2つご紹介します。
(1)AIDBさんのデモンストレーション
AIDBさんがブログ内で紹介していたプロンプトです。
深さ優先探索(DFS)幅優先探索(BFS)の2つが採用されています。
これは、論文中でも扱われていたアルゴリズムです。
(2)ハッシュセットとクラスタリングで記事アウトラインを作る
SEO関連の記事制作で頻繁に行われる、検索上位の記事のアウトランを網羅したアウトライン制作をAoTで実行するプロンプトです。
ハッシュセット・ハッシュバップ・クラスタリング・トピックモデリングなどのアルゴリズムを指定し、漏れやダブりのないアウトラインを作成します。
まとめ
AoTは、トークン消費量を抑えつつ回答精度の質も担保するプロンプトエンジニアリングの手法として注目を集めています。一定以上の効果があることから、AIは人間の「直感」のように経験から回答する機能があるのではないかという発見にも繋がりました。
指定するアルゴリズムを変えることで、成果は変わる可能性もあります。目的のタスクとアルゴリズムの相性が良ければ、少ないトークン数でよい回答をえられるかもしれません。
弊社では、ChatGPTを事業に活かしたい、使い方を相談したいなどのご相談を受け付けております。下記メールアドレスまでお気軽にご相談ください。
この記事が気に入ったらサポートをしてみませんか?