システム1・2思考?
松田語録:Wikipediaページを自動生成するStorm AIについて (youtube.com)
STORM のしくみ(上記URIの自動翻訳です)
STORMは、引用を含む長い記事の生成を2つのステップに分けます。
執筆前段階:システムはインターネットベースの調査を実施して参考文献を収集し、概要を生成します。
執筆段階: システムは、アウトラインと参考文献を使用して、引用を含む完全な長さの記事を生成します。
STORMは、調査プロセスの自動化の核心は、適切な質問を自動的に思いつくことだと考えています。言語モデルに直接質問を求めるのはうまくいきません。質問の深さと幅を改善するために、STORM は 2 つの戦略を採用しています。
パースペクティブガイド付き質問:STORMは、入力トピックが与えられると、類似したトピックの既存の記事を調査することで異なる視点を発見し、それらを使用して質問プロセスを制御します。
模擬会話: STORMは、ウィキペディアの執筆者とインターネットの情報源に基づいたトピックの専門家との会話をシミュレートし、言語モデルがトピックの理解を更新し、フォローアップの質問をできるようにします。
2つのステージの分離に基づいて、STORMはdspy(LM プロンプトと重みをアルゴリズムで最適化するためのフレームワーク)を使用して高度にモジュール化された方法で実装されます。
保田先生が「システム1,2」の思考と分けて分析をされ、LLMのシステム1の作用に、如何にシステム2の作用を導入するか、と問題提起されました。それが上の「STORMは2つの戦略を採用して」とある、「模擬会話」の戦略とされているものなのでしょうか?
スペルミス等は、おそらく情報プールから検索して抽出する情報に元々あるミスであると思われ、その事態からも、いわゆる民主的集合知形成における問題となる「衆愚」(学習前大衆知=ダニング・クルーガー効果)に陥る可能性が想定されます。
それを改善するために、弁証法的対話形式の「推論」(中世のトマスは、人間本性による認識把握はdiscrsiveな時間的複合であるのに対して、純粋現実態である神は永遠的なsimplex apprehensio単純把握による、としましたが)の「最適化フレームワーク」を与えたということでしょうか?
この記事が気に入ったらサポートをしてみませんか?