Davidson(2024)The economic institutions of artificial intelligence 要約
・Davidson, S. (2024). The economic institutions of artificial intelligence. Journal of Institutional Economics, 20, e20. doi:10.1017/S1744137423000395 がかなり興味深い論文だったので要約を半分自分用にメモしておく
・economic problemを「計画経済問題」、knowledge problemを「暗黙知問題」など、主に社会主義計算論争関係の単語を自分でわかりやすいようにかなり意訳している（他にも、かなりいい加減なオリジナル訳語を当てているテクニカルタームがあるので参照する方は注意）
・社会主義計算論争に関する参考サイト→HETのエントリー / 有志による日本語訳（いつもお世話になっております本当にありがとうございます）、Lapham's Quarterly など
・note内の強調は概ねnote執筆者による（原文から強調されている箇所もあるので、細かくは元論文を参照してほしい）
Davidson(2024)The economic institutions of artificial intelligence
アブストラクト（Abstract）
本論文は経済的制度の中における人工知能（AI）の役割について、ハーバート・サイモンの解釈に基づく限定合理性（bounded rationality）の観点から考察をしたものである
AIはその膨大なデータ処理能力や分析・予測能力などによって、限定合理性の問題を軽減するという形で経済に激変をもたらす可能性がある
上記の可能性は、AIは計画経済を可能にするかという問いを提起する
本論文では、AIはフォン・ミーゼスとフリードリヒ・ハイエクが提唱した暗黙知問題（knowledge problem）を克服できないことを示し、AIは国家レベルでも企業組織レベルでも計画経済を可能にしないということを主張する
イントロダクション（Introduction）
AIの定義は多岐にわたるが、本論文で問題となるのはAIのプログラムは人間のように実際に思考して（thinking）いるのか
←より具体的な問いとして：AIは起業家的（entreprenurial）たりうるのか本論文は、AIが一部のタスクについて人間に取って代わるためには、人間のように思考する必要があるが、AIの開発者たちにとって、人間の思考様式を完全に理解することは大きな挑戦となるだろうと述べる
AIの核となるのは、インプットされたデータを「学習」し「適応する」機械学習アルゴリズムである
AIには特定のタスクに長けた「狭いAI（narrow AI）」と、現状はSF作品と理論上にのみ存在している「普遍的人工知能（Artificial General Intelligence/ AGI）」の二種類ある
AGIの開発は（仮に開発されうるとしても）遠い未来になるだろう、というMitchell (2019)の主張：AIは特定のスキルを学習することしかできないが、人間は思考するということを学習し、その思考方法（についての知識）を新たな/異なる状況に応用できる
AI技術は、すでに経済に広く普及している（金融分野でのデータ分析、マーケティング分野での需要予測、医療分野etc…）
←人間よりも正確で速くタスクを実行するコンピュータープログラムを作成することができるようになった …が、本論文にとって重要なポイント： 一方で、AIの研究者が（現在に至るまで）再現できないタスクも数多く存在する
←マーヴィン・ミンスキーの説明（Mitchell(2019)からの孫引き）：AI研究は「簡単なことほど難しい」というパラドックスを発見した。AIの当初の目標である、自然言語で会話したり、カメラ（目）を通して見えたものを説明したり、いくつかの例を見ただけで新しい概念を学習したりできる能力は、幼い子どもでもできることだが、驚くべきことに、こうした「簡単なこと」が、複雑な病気を診断したり、チェスや囲碁で人間のチャンピオンに勝ったり、複雑な代数問題を解いたりすることよりも、AIにとっては達成するのが難しいということが判明したのだ。「一般的に、私たちは自分の心が最も得意とすることを最も認識していない」。本論文は、限定合理性（ハーバート・サイモンによって提唱され、ゲルト・ギーゲレンツァーとヴァーノン・スミスによって拡張された概念）に焦点を当てながら、Hayek(1945)が提示した、いわゆる「計画経済問題（economic problem）」の解決におけるAIの役割を探る：
AIは、経済における計画（plannning）にどのような影響を与えるのだろうか？
AIによって限定合理性の問題が解消されるとしたら、計画経済は経済における資源配分の有効なメカニズムとなるだろうか？つまり、今や中央当局による計画経済は実現可能なのだろうか？
企業組織内の計画についてはどうだろうか？
経済内部で、あるいは経済全体にわたって、今後は計画経済的な方策がより多く行われるようになるのだろうか？
Phelan & Wenzel(2023)、Lambert & Fegley(2023)：コンピュータ技術の進歩は、ミーゼスやハイエクが示した計画経済の最大の問題点（暗黙知問題（knowledge probem））を解決しない
←本論文もこれらの主張に則りながら、マクロレベル（中央集権的な国家計画経済）とミクロレベル（ビジネスでの計画）両方で分析を行うAIは情報問題を解決することはできるが、文脈的暗黙知問題（contextual knowledge problem）を解決することはできない（Kiesling(2015), (2023); Thomsen(1992)）
→コンピュータ技術の進歩は、中央計画をより実行可能なものにはしない限定合理性に関する議論（by サイモン、ギーゲレンツァー、スミス etc…）は、ローカルな環境条件とローカルな知識が重要な考慮事項である不確実性下での意思決定におけるヒューリスティックの使用を中心とする
→このような種類の限定合理性は、AIによって部分的にしか克服されないミーゼスとハイエクは、中央計画にとって致命的なのは情報コスト（information costs）であると説明した
→この暗黙知問題は、AIでは解決されないよって、AIは有用で貴重なツールではあるが、マクロレベルでもビジネスレベルでも、中央集権的計画を実行可能な経済システムにまで押し上げることはない
本論文の構成
「限定合理性：複数の概念（Bounded rationality: concepts）」では、「限定合理性」という語の三つの異なる解釈（①提唱者サイモンによる本来の意味 ②「新古典派」的解釈 ③行動経済学的解釈）を紹介し、AIは②を克服し③を理論上は克服することができるが、①は克服しない・できないことを明らかにする
「暗黙知問題：ミーゼスとハイエク（The knowledge problem: Mises and Hayek）」では、AIは暗黙知問題を解決できず、計画経済を実行可能な選択肢にはしないということが説明される
「AIと組織： ウィリアムソンとロスバード（AI and organisation: Williamson and Rothbard）」では、企業の計画は、外部市場価格と、ローカルな知識を明示的な情報に変換する内部戦略の存在下でのみ実行可能であるというウィリアムソンとロスバードの議論を参照し、この文脈においてAIは計画に使用できる便利なツールではあるものの、限界合理性の問題を解決するものではないため、AIの利用によって、より多くの計画が参照されるかもしれないが、より良い計画がなされるとは限らないと主張する
「AIとはどのような技術なのか（What sort of technology is AI？）」では、AIとはどのような技術なのかについて検討がなされる
限定合理性：複数の概念（Bounded rationality: concepts）
ハーバート・サイモン（初期のAI研究者の一人でもある）は「限定合理性」概念の提唱によって、新古典派経済学理論の中心的な仮定（効用最大化を行う合理的主体のモデル）に批判を加えた（1978年にノーベル経済学賞を受賞）
Simon(1955)での見解：人間の意思決定は、認知的制約と有限の情報量、そして意思決定に利用できる時間によって制約されているため、すべての問題に対して「最適解」を見つけることはできない
→人間はヒューリスティクスを使って問題を単純化し、最適解ではなく、満足のいく解（satisfactory solution）を見つけるConlisk(1996)：人間の認知能力は希少性を有した資源であり、経済的な意思決定に関する熟考はコストのかかる活動であるため、経済モデルや方法論に限定合理性概念を含めるべき
←しかし、経済学者の間では、限定合理性とは何か、どのように経済学的分析に取り入れるべきかについて、意見が分かれている。Gigerenzer（2017）は、経済学において「限定合理性」という用語には3つの異なる解釈がみられると論じている
①サイモンによって提唱された意味
現実世界における不確実性（≠リスク）下の意思決定を人々がどのように合理的に行うか
→サイモンは経済学者に、期待効用最大化のas ifモデルではなく、不確実性下での実際の意思決定を研究することを奨励した
②「制約の下での最適化（optimisation under constraint）」
（一部の）経済学者が「bounded rationality」という言葉だけを採用し、サイモンが意図したものとは正反対の意味にしたもの
（＝完全情報・無制限の意思決定時間のモデル内部で、予算・技術・認知能力を制約条件として加える）
→AIはこの種類の限定合理性を上手に処理できるだろう …が、
←限定合理性を単に最適化モデルに含まれる一つの制約として扱ってよいとする主張は、Conlisk(1996)によって批判されている
③非合理性（irrationality）との同一視
行動経済学者は、「bounded rationality」を合理的選択理論からの違反という意味に換骨奪胎した
←ダニエル・カーネマンやエイモス・トヴェルスキーら行動経済学者（Heuristics & Bias 学派）は、人々が単純なヒューリスティックや経験則を用いて意思決定を行う際に生じる体系的な誤りやバイアスを特定し、修正することに焦点を当てている
←Gigerenzer(2015)やBerg & Davidson(2017)は、関連した観点からリバタリアン・パターナリズムを批判理論的には、AIはデータに基づいた客観的な分析や意思決定を提供することで、人間のバイアスを克服するためにうまく機能するはず
←しかし実際には、AIはこの分野で必ずしも成功していない（Manyikaら(2019)）
例：Amazonが採用活動に使用していたAIツールが、技術職の女性候補者よりも男性候補者を優遇するように学習していたことが報告された（2018年）
あるAIツールがアフリカ系アメリカ人を再犯の危険性が高い人物と認定する可能性が高いことが報告された（2016年）ギーゲレンツァーの研究プログラム：
サイモンの境界合理性の独自の定義に従って、人間は環境構造に適応的なヒューリスティクスを利用し、不確実性や時間的プレッシャーの下でも「高速・倹約的（fast and frugal）」な意思決定を行なっている
→ヒューリスティクスは劣悪な・ミスを犯しやすい認知のショート・カットではなく、限られた情報と計算能力を最大限に活用するための賢く効果的な意思決定戦略である（'fast and frugal heuristics' research program）
→ギーゲレンツァーは、こうしたヒューリスティクスは計算効率だけでなく、不確実な環境における意思決定の頑健性と簡潔さにも関係していると主張している（Gigerenzer & Gaissmaier(2011)）ギーゲレンツァーによる「限定合理性について考えるための3つの理論的指針：①不確実性についてよく考える ② ヒューリスティクスについてよく考える ③生態学的合理性（ecological rationality）についてよく考える
③の生態学的合理性については補足説明が必要：
Gigerenzerら(1999)は生態学的合理性を「現実と矛盾しない合理性」と定義
→ヒューリスティックの利用は、環境に適応的な意思決定戦略という意味で生態学的合理性を有しているヴァーノン・スミス（2002年にカーネマンとともにノーベル経済学賞を受賞）はギーゲレンツァーを引用して自らのハイエク的な経済思想を展開（Smith(2008)）：
「我々の文化的・生物学的遺産の一部であり、意図的な人間の設計ではなく個々人間の相互作用によって生み出された、個人の行動を支配する慣行、規範、進化する制度的ルールといった形態で形成された自生的秩序を指す」（→スミスは、生態学的合理性を有した制度として、市場経済を擁護）ハイエク-ギーゲレンツァー-スミス的な「自生的秩序」による市場社会像：
人々は自分たちの置かれた環境（「現実世界の経験（real world experience）」）に適応的なヒューリスティックを身につけ、論理学的・構成主義的な合理性ではなく、生態学的合理性に立脚した制度・慣習・組織を作り上げていくAIは論理学的・構成主義的な合理性を洗練させることはできても、現実世界の経験によって生態学的合理性を獲得することはできない
ライン・キースリングは「文脈的暗黙知問題（contextual knowledge problem）」として同様の現象に言及している：
文脈依存的・暗黙の知識は、市場という文脈から独立には存立し得ない
→Kiesling(2015)は、この種の知識は事前に計画された（ex-ante）/市場以外の（non-market）メカニズムによって複製され得ない ことを主張
→AIはex-ante/non-marketなメカニズムであるAIは情報（information）にアクセスすることはできても、知識（knowledge）にアクセスすることはできない（Boettke(2002)「情報は既存の知識のストックのことを指すのに対し、知識は知の領域が新たに拡大し続ける運動のことを指す」）
新たな知識は主体（actors）が自分たちが置かれている文脈のなかで生み出される
AIは情報の検索に非常に長けているが、知識は目的志向的な人間の行為を通じてのみ発見されるものなので、AIには獲得され得ない
暗黙知問題：ミーゼスとハイエク（The knowledge problem: Mises and Hayek）
「計画経済問題（economic problem）」を解くことが（新古典派経済学が言うような）連立方程式を解くだけの単純な論理パズルなのだとしたら、AIの誕生は巨大なアドバンテージといえる
→利害中立的で完全合理的なAI経済主体による「テクノ社会主義」がうまくいくかもしれないしかし、ミーゼスとハイエクは計画経済問題の解決は単なる論理の問題ではないと主張した
また、ギーゲレンツァーが示したように、限定合理性（bounded rationality）は非合理性（irtationality）とは異なり、テクノロジーによって解決されうる単なる合理性の制約ではない
『社会主義：経済学的・社会学的分析』(1922)や『官僚制』(1944)でミーゼスは、どんなに人物あろうと、市場における分業以上に無数の生産財の相対的な価値・社会における効率的配分を決定することはできないと主張
←限定合理性の議論と同様の問題を捉えているあたかも（as if）意思決定をしているかのようにタスクを実行する機械を作ることはできても、経済におけるすべての選択と決定は最終的には人間が行う
←これはAIにおいても変わらない（以前は人間が行っていた仕事の一部が、機械に委ねられ効率化されるようになっただけ）コンピュータ技術が進歩すれば暗黙知問題は解決できるという主張は長くなされてきた（例えばLange(1967)）
反論として、ここではヴァスリー・レオンティエフ（1973年のノーベル経済学賞受賞者）の「スマート・マシン」論に対する、ドン・ラヴォアの批判を取り上げる（Lavoie(1985)）：
レオンティエフ[やランゲ]はコンピュータの本質を根本的に誤解している。コンピュータは賢い機械（「スマート・マシン」）ではない。なぜならば、コンピュータが「知っている」のは、プログラマーから明示的に指示されたことだけであり、実際には、プログラマーが本当の精神的作業をすべて行っているためである
レオンティエフはコンピュータを知的な精神（intelligent minds）と勘違いしている。彼は、心の認知的プロセスと人間社会の市場はどちらも非設計的で複雑な自然発生的秩序であるのに対し、コンピューターのオペレーションは設計された、比較的単純な内容（明示的な数値データに限定された機械的なデータ処理）であるということを見落としている
大規模言語モデル（LLM）はプログラマーに「明示的に指示」される必要はないものの、一般的な原則はラヴォアの批判と変わらない。AIは、機械にプログラムされた、あるいは機械が読み取ることのできるデータしか「知らない」
←LLMは「学習」するが、人間とは異なり、「事前学習データを超えて生成する」ことはできない（Yadlowskyら(2023)）
暗黙知問題を象徴するハイエク「社会における知識の利用」(1945)の記述：
「合理的な経済秩序の問題が有する特異的な性格は、ある状況に対して我々が利用しなければならない知識(knowledge)は、集中的あるいは統合された形では決して存在せず、すべての独立した個人が持っている不完全でしばしば矛盾する知識の分散した断片という形態のみ存在するという事実によって論じることができる。したがって、社会における計画経済問題は、単に「所与の」資源をどのように配分するかという問題ではない——「所与の」というのが、経済的「データ」によって設定された問題を意識的に解決するという単一の思考に対して所与であるという意味であるとするならば。むしろ、社会の構成員の誰もが知っている資源を、これらの個人だけがその相対的な重要性を知っている目的のために、どのように最良に利用するかという問題なのである。あるいは、簡潔に言えば、誰にとってもその全体像は所与ではないような知識の活用についての問題なのである。」ハイエクはその後のAI技術の進歩を想像していなかっただろうが、中央集権的計画経済に必要となる「データ」の中身を検討すれば、AIをもってしても計画経済問題の解決策でもないことは明らか：
ハイエク「すべての関連情報・全構成員の選好・利用可能な手段についての完全な知識をもってして初めて、計画経済問題は解決することができる」
↔︎オスカー・ランゲ「中央計画者が主体の選好、社会における資源と、それに基づいた各財のワルラス均衡価格の3つについてさえ知っていれば解決できる」ハイエクは、ランゲは暗黙知問題の解決を前提にしてしまっていると批判：
選好と資源は発見されるものであり、「所与の」ものではない（preferences and resources are discovered; they are not ‘given’）Kiesling(2023)はこの点について、文脈的知識(contectual knowledge)の例を挙げて説明している：
「ジュース１缶をどのくらい選好するか/いくらまでならだすか？」という問いの答えは、自分が無料の給水機が設置されている空港内にいるのか、真夏の炎天下で長時間歩いた直後かによって変わるつまり、「私のジュースに対する選好」という知識は、非常に個人的かつローカルな文脈・状況を踏まえてのみ生起するものである
ここで、ギーゲレンツァーの生態学的合理性という概念がハイエクの計画経済問題への論考とマッチする
ハイエクの考え：個人は限られた、分散した知識を持ち、各々の置かれたローカルな状況に基づいて意思決定を行う
このような意思決定プロセスは、情報の分散性によって現実的には不可能である最適解を求める思考ではなく、個々人が自身の置かれた環境において、利用可能な知識と資源を利用して「満足のいく」意思決定を行うという意味で、生態学的合理性を反映した自生的秩序であると言える
もちろんAI（およびデジタル技術全般）が需要予測や在庫管理などに活用できる・されているのは事実であり、AIがこれらのビジネス的実践においてコスト削減と効率化を推進できる可能性は高い（地域の気象情報や過去の消費者行動にアクセスできるAIが、冷たい飲み物の需要が高い日とそうでない日があると予測することは容易に想像できる。もちろん、人間もそのような判断を下すことができる）
しかし、そのためには暗黙知は（いくらかのコストをかけて）明示的な知識に変換され、AIに伝えられなければならない
経済活動に活用できる資源を発見する人間の能力こそが、Kirzner(1997)で説明されている起業家的洞察力（entrepreneurial insight）である
起業家は自分の置かれた環境の中で、ローカルな暗黙知（ex. ある財の価格が「間違っている」という、個人的な経験から得た直感）と選好に基づいて不確実性下の意思決定を行うため、起業家的洞察力の発揮にも生態学的合理性が重要である
↔︎AIは既存の（所与の）情報セットに基づいて訓練される。つまり、不確実性ではなくリスクを伴う意思決定を行う起業家的洞察の難しさのひとつは新規性の実現（Potts (2010, 2017)）
→人間でさえ新規性に苦労するなら、AIにどうやって新規性を持った起業ができるのかPhelan & Wenzel (2023)も同様の指摘をしている：
計画経済問題をAIで解決するには「人工知能を持った起業家が必要だ」
→必要なのは「既成概念にとらわれない思考」ができる機械だが、問題は、AIは「箱の外で考える」ことができないことLambert & Fegley (2023)も、AIの訓練に使われるデータはすべて「完全に過去のもの」であると指摘している
→つまり、機械にも読み取り可能な形式で簡単に伝達できる既知の情報のサブセットで学習したAIは、起業家的機能を再現するのに十分な「知識」を持つことができない
AIと組織： ウィリアムソンとロスバード（AI and organisation: Williamson and Rothbard）
新制度経済学（NIE）：制度が人間の行動や経済的成果をどのように形成するかを研究する経済学の一分野
制度＝法律、契約、財産権、市場、組織、文化……など、社会的相互作用を支配する公式・非公式のルール、規範、慣習のこと
NIEは、個人が合理的で利己的であると同時に、認知の限界、情報の不完全性、取引コストに縛られていると仮定し、制度が不確実性を減らし、協力を促進し、経済主体間の期待を調整するために重要であると考え注目する
NIE学派のオリバー・ウィリアムソン（2009年にNIE学派のエリノーア・オストロムとノーベル経済学賞を共同受賞）は限定合理性と機会主義（opportunism：主体は単に自己利益のために行動するだけでなく、悪知恵を働かせて日和見的に自己利益追求行動をとる傾向にあるという前提）に立脚した人間像から市場の失敗（情報非対称性やモラル・ハザード）を分析した
ウィリアムソンは異なるガバナンス構造がなぜ生まれ、それらが経済パフォーマンスにどのような影響を与えるのかを限定合理性の観点から説明
←限定合理性が存在しない世界（非限定的合理性の世界）では、「計画」というガバナンス構造が生じる（逆に言えば、計画は、非限定的合理性の文脈においてのみ効率的な契約プロセスである）ここでもまた、AIが限定合理性の問題を軽減し、計画経済を促進することができるのではないかという考えが生じる
ここで、国家レベルの中央計画と企業レベルの計画との区別が重要になる
大企業は計画立案に非常に成功しているように見えるが、国家レベルの中央集権的計画経済は成功していない
→ロナルド・コースは、「なぜすべての生産が一つの巨大な企業で行われないのか」という疑問を投じた多国籍企業のなかには、国民国家よりも「大きい」企業もあり、こうした企業は計画経済的な企業経営に成功しているように見えるが、小さな国民国家にはそれができないのはなぜなのか？
企業計画にはどのような限界があり、AIはその限界を変えるのだろうか？
Klein(1996)は、コースの疑問に対しては既にいくつかの答えが提案されてきたと論じている：
権限と責任の問題(Arrow(1974))、残余財産権によって引き起こされるインセンティブの歪み(Grossman & Hart(1986); Holmstrom & Tirole(1989))、市場ガバナンスの特徴を企業内で再現しようとすることのコスト（Williamson(1985))、そして、ミーゼスが社会主義計算論争において明らかにした経済計算の問題点を企業に拡張したもの(Rothbard(1962[1970]))ミーゼス-ロスバードの論点：
すべての資本財（ロスバードの説明では生産段階 (stage of production)）には、その財が取引され市場価格が確立される市場が存在しなければならない
企業は、外部市場で決定される各資本財の価格を参照しなければ収益性を確立することができない
この制約を破るためには1つの大企業が経済内のすべての生産資産を所有する必要があるが、企業が多くの生産要素を垂直投合すればするほど、非合理的な資源配分、損失、労働者の貧困化などの問題は肥大化する
ここでロスバードは、ミーゼス-ハイエクの見解とコースの見解を調和させただけでなく、さらなる洞察も提供している：
中央集権的な計画は失敗する。成功する計画とは、ローカルな知識を考慮に入れたローカルな計画であるLanglois(2023)は中央集権的な管理的生産体制を敷いていたGM（ゼネラル・モーターズ）の失敗という逸話を通じてこの見解を支持
ウィリアムソンも、中央集権的計画経済に対して批判的（機会主義的な中央集権者の問題や、ミーゼス・ハイエクの議論では曖昧だったインセンティブ問題）
ウィリアムソンの議論は、限定合理性に立脚している
Wiliamson(1975)では、限定合理性は「神経心理学的限界(neuropsychological limits)」と「言語的限界(language limits)」からなると説明されている
神経心理学的限界＝主体が「情報を誤りなく受け取り、保存し、取り出し、処理する」の能力の限界
言語的限界＝主体が自分の意図を完全に表現し他の個人とコミュニケーションをとる能力の限界
この定義では、一見、AIは限定合理性の制約を緩和してくれるように思われる（AIは情報の保存、検索、処理において人間の知能を凌駕するし、他のAIと曖昧さのない言語でコミュニケーションを取ることができるため）
→ここで、ウィリアムソンは生態学的合理性（彼はこの語自体は用いていないが）についての議論を提示している：限定合理性は、不確実性および/または複雑性という条件下においてのみ主題となる
どちらの条件もない場合、所与の条件に対する最適な行動は最初に完全に特定することができる
したがって、経済的な問題となるのは、環境条件との関係における限定合理性なのである
ウィリアムソンと類似した観点として、Langlois(2023)やBoettke(2002)は企業組織内において、ローカルな情報が経営的意思決定に必要な知識へと翻訳されるプロセスの必要性を論じている
企業組織におけるこれらの問題が、AIによって解決される可能性は低い
必要な情報を受け取れば、AIは多くの分野で人間を凌駕することができる
しかし、限定合理性の問題を解決するためには、AIにその（しばしばローカルな）情報を読み取り可能なフォーマットで伝達しなければならないという意味で、AIは人間と同様に「言語的」限界に直面している
AIは、人間が直面する多くの計算上の制約を克服することができ、その結果、ウィリアムソンの枠組みにおける限定合理性による制約の一部を緩和することができるという事実は変わらない
しかし、AIに情報を伝達するという言語的課題は残る
AIは限定合理性を完全に排除するものではない
ウィリアムソンのフレームワークに基けば、AIは企業組織にとって計画可能な範囲を拡大し、AIのおかげで企業内の階層構造が減り、計画的経営の余地が増加するという予測が導かれる
しかし、この考察は必ずしも、より良い計画がなされるようになることを意味するわけではない（単に大量の将来予測が可能になってその中から優れたものを選ぶことができるようになる、というだけの話かもしれない）
まとめると、AIは企業組織においては限定合理性の問題を緩和することはできるものの、文脈的暗黙知の問題や変化する状況に対する適応不全などの問題を克服することはできない
AIはどのような技術なのか？（What sort of technology is AI?）
AI は、経済のさまざまな分野にわたって幅広く利用され、経済を激変させる可能性を秘めた新たな汎用技術（general-purpose technology, GPT）理解するべき
経済と社会全体の両方を大きく変えた蒸気機関、電気、コンピューター、インターネットと同様に、AI は単一の特定の用途に縛らではなく、幅広い用途へと開かれた汎用的な技術
基本的なデータ処理から複雑な問題解決に至るまで、人間の認知タスクをAIの利用を通じて自動化することで、人的資本が増強される
この人的資本の増強は、生産性を劇的に向上させる可能性を秘めている（労働時間を延長した電気、通信と情報アクセスに革命をもたらしたインターネットなどの他の汎用技術と類似）
さらに、AI は効率的なデータ処理、予測、意思決定を可能にすることで、人間の活動のさまざまな領域にわたる調整を促進し、それによって個人の認知的負荷を軽減し、幅広いタスクの生産性を向上させるだろう
AI は限定合理性の上でうまく機能するような既存の制度的メカニズムをより最適化し、調整や意思決定のためのより効率的なツールを提供する
しかし、まったく新しい制度の出現を誘発する可能性は低い：
AI は複雑な問題を単純化できるが、文脈的暗黙知問題を解決することはできない
マクロレベルとミクロレベルの両方で経済的な問題を解決するには、依然として人間の洞察力と意思決定が必要となる
結論（Conclusion）
AIはデータ分析能力、複雑な予測を行う能力に長け、自動化や最適化を通じて経済に革新をもたらす可能性はある
また、AIが人間の認知能力の限界を克服することで、意思決定プロセスを大幅に強化することも期待されている
AI は短時間で膨大なデータセットを選別して分析できるため、さまざまな洞察を導き出し、豊富な情報と意思決定のための選択肢を意思決定者に提示できる
さらに、AI は人間の意思決定におけるバイアスを軽減する役割も果たすかもしれない
しかし、AIが限定合理性の問題を解決することはない
具体的には、高度な計算能力を有したAIをもってしても、中央集権的な計画経済は実行不可能であるという議論が挙げられる
ミーゼスとハイエクが提唱した暗黙知問題にAI は本質的に対処できない：
人間もAI も、経済内に存在する諸個人間に分布している、膨大で分散的で（しばしば）主観的な情報を、統合して解釈する能力を欠いている（ので、人間であろうとAIであろうと中央計画者にはなれない）
これを可能にするのは市場メカニズムのみである
企業組織の計画にも、このような市場メカニズムによって統制された外部（生産要素）市場という環境が必要条件となる
結論として、AI は経済の効率性・生産性を高め、イノベーションを促進する大きな可能性を秘めた強力なツールではあるが、マクロレベルでもミクロレベルでも、経済の複雑な問題に対する包括的な解決策を提供するものではない
従来の経済パラダイムに挑戦し、限定合理性の影響の一部を緩和する能力にもかかわらず、AI には固有の限界がある
AIにはクリエイティブな活動や文脈の微妙なニュアンスを把握する作業など、人間よりも苦手な分野がある（ミンスキーの「簡単なことほど難しい」という言葉）
起業家的な洞察を得ることもこの一つ（これは人間にとっても難しいことだが; Potts(2010, 2017)）
過去 10 年間で AI は驚くべき進歩を遂げた
AI 研究者ができることの範囲が拡大するにつれ、私たち経済学者は選択と意思決定（coice and decision-making）というテーマについてより深く理解できるようになるだろう
即座に浮かぶ疑問は、「いつ意思決定を AI に委任できるようになるのか？」というもの
Bergら(2023) は、現時点では AI の信頼性が低すぎるため、熟考を必要とするようないかなる決定も任せるすることはできないと主張し、AI を制限するためのスマート・コントラクト[＝特定の条件が満たされると自動で履行される仕組みになっているような契約のこと]を導入することを提案している
また、「AIは人間の介入なしに意思決定を行うことができるのか？」という疑問も浮かぶ
これは立て続けに、「『決断を下す（make a decision）』とは何を意味するのか？」という哲学的な疑問を引き起こす
人間はどのように意思決定を行うのか？人間には選択をする際に完全な自由意志を有しているのか？
AI 研究者も経済学者もこれらの質問に対して満足のいく答えを持っていない
文献リスト（References）
所感（メモ）
AI技術によって計画経済（経済計算：社会における資源・財・生産要素・労働力などの最適な分配を計算し、全体の消費量と生産量を管理すること）は可能か？という議論は近年のアメリカ経済思想コミュニティでややホットな話題らしい
→不可能派の主張はハイエクのKnowledge Problemに立脚したものがほとんど（Phelan & Wenzel(2023)、Lambert & Fegley(2023)、Kiesling(2023）など）で、本論文もソレまだざっくりとしか目を通していないが、可能派（いわゆるCyber-Communist；Cockshott & Cottrell (1993)、Nieto & Matteo(2020)）はミーゼス論文（Mises(1920)）での計画経済の非効率性に関する批判に応答するというランゲ的な主張からあまり発展していないように見え、社会における知識の分散性とその利用というハイエクの議論は表層的にしかなぞれていない印象（例えばNieto (2021)）
→不可能派にとって、”ハイエクを連打する”というこの戦略は今のところうまくいってそうに見える計画経済議論のもう一つの”急所”と言えるインセンティブ問題についてはほとんど言及がないが、ソ連型経済の失敗という歴史データがあることを考えればもうちょっとつついてもいい気がする（というより、Cyber-Communist陣営がインセンティブ問題に対して、議論に値するような答えをまだ出せていないということなのかもしれないが）
本論文では新制度学派、特にウィリアムソンが出てきて、少しだけインセンティブ問題に言及する部分があった
本論文の新規性（貢献）は、ミクロ（企業組織）レベルのplanningも、経済という領域特有の問題により、どれだけ技術が発達してもAIに任せきりにはできないだろうという主張を加えたこと
←後述するが、個人的にはこの議論はやや微妙に見えた論文内で明示的ではないが隠れた新規性として、依拠している思想家としてハイエク-ミーゼスらオーストリアンだけでなく、限定合理性概念を提唱した心理学者ギーゲレンツァーと、リバタリアンとしても有名な実験経済学者バーノン・スミスを出していること（Phelan & Wenzel(2023)、Lambert & Fegley(2023)では限定合理性に関する議論は登場しない）
計画経済という話題から離れても、「AIは"information"を学習・処理・分析することはできても、"knowledge"を獲得することはできない」というこの論文の指摘は面白い
人間の認知（「脳」？「こころ」？「身体」？）には、言語化・記号化できない暗黙知や文脈依存的なローカル知、ざっくりといってしまえば「勘」や「コツ」のようなものを身につけるメカニズムがあると考えられる（この論文で言う「生態学的合理性」）
人間の認知とAIの情報処理は本質的に「異なる」という意味で、「人間とAIとでは得意なことと不得意なことが異なる」という主張に認知科学的・心理学的な肉付けがなされる
例えばスポーツのAI審判やAIの裁判官は「間違えない」という意味で構成主義的には人間よりも合理的であっても、こうした限定合理性を持ち得ないという意味から、未知の問題や環境の変化に対する柔軟性を著しく欠く可能性がある
これは、「そういった（審判や裁判官のような）人間の仕事は、侵してはならない”聖域”なんだ！」という倫理的・ヒューマニズム的なAI使用制限論よりも有力かもしれない（/あるいは、そういった直観に立脚したタイプの主張をよりうまく補強してくれるかもしれない）
（8:18〜 メジャーリーガーのマックス・シャーザーが非常に面白い観点から人間の審判の擁護をしている。「ロボット審判を、人間の審判の正確性を測り高めるために使えばいい」という彼の主張は、図らずもこの論文の主張とも重なっている気がする）
第1、2部（"Bounded rationality", "The knowledge problem" ）と第3部（"AI and organisation"）で、「限定合理性（bounded rationality）」の定義がブレていることが一番気になる
前半（マクロな/ミーゼス-ハイエク的な）問題を議論するパートでは、Gigerenzer(2017)のいう「３つの定義」の３つ目（時間・認知コストなどが限定された環境に対して適応的な、という意味での合理性；サイモン-ギーゲレンツァー式の進化心理学的な概念；「限定合理性を持ち合わせている」ということは徹頭徹尾ポジティブな意味になることが重要）が用いられている
→AIは人間のように高速倹約的なヒューリスティックを環境に応じて使い分けたり、”コツ”のような暗黙知を身につけたりすることはできない：つまり、AIは（人間と違って）限定合理性を持ち得ないという主張がなされている後半（ミクロな/ウィリアムソン-ロスバード的な）問題を議論するパートでは、「３つの定義」の１つ目か２つ目（従来の意味での合理性 [Complete RationalityだのBaysian RatioranityだのUnbounded Rationalityだの呼び方とニュアンスが論者によって微妙に異なるが、要するに「めっちゃ計算できてまったく間違えない」] の能力が、人間は限定されているという意味；「限定合理性」と「非合理性/合理的選択理論からの逸脱」の同一視；「限定合理性を持ち合わせている」ということは（だいたい）ネガティブな意味になる）が用いられている
→AIは非合理性と非効率性を減らして、企業組織の意思決定を助けるだろうという話と、それでもAIにもできないことはあるだろう（起業とか）という、言ってしまえば当たり前のことしか言えていない
→ギーゲレンツァーとウィリアムソンが同じ「bounded rationality」という語を用いているという共通点からこの議論を持ってきたのだと思うが、両者の差異は明白
ヒューリスティックの利用のような人間のミクロな意思決定メカニズムに関する学説として「限定合理性」を提案している心理学者のギーゲレンツァーと、行動経済学（リバタリアン・パターナリズム）に対抗してミーゼス-ハイエク的な市場メカニズム擁護の論陣を敷くために「限定合理性」を引用した（実験）経済学者のヴァーノン・スミスとの間には、「限定合理性」や「生態学的合理性」の含意をめぐってかなり距離がある（Dekker & Remic(2019)）
ギーゲレンツァーは人間の認知（とてもミクロなレベル）で議論をしている：
ヒューリスティックの利用などの人間特有の計算・意思決定能力は、コンピューターなどとは全く異なる意味で、「合理的」なのだという（心理学説的な）話スミス（や本論文）は、社会経済的な制度・慣習・メカニズム（マクロなレベル）の議論にギーゲレンツァーの議論を輸入した：
市場のような長い歴史的淘汰を潜り抜けてきた制度・慣習・メカニズムは、歴史的淘汰の過程の中で適応的な性質を身につけてきたという意味で、「合理的」であるという（経済思想的ないしリバタリアン的な）話AIを人間の認知・こころのメカニズムと対比して考えるというハーバート・サイモンの出発点と、心理学者としてサイモンの後継者を自称するギーゲレンツァーの立場を考慮すると、この二つの差異を無視することは危ういのでは？
最後の「AI研究と経済学における選択と意思決定の研究の相互作用」という記述からも、AIと人間を経済主体として捉え、その差異や役割に着目する研究は今後増えてくると思われる
→AIをはじめとする認知科学との接続を考えれば、ホモ・エコノミクス的人間像を規範的に維持し続け認知バイアスという「エラー」を探索するタイプの行動経済学（Heuristics and Bias学派）が批判の対象となりやすくなり、サイモン-ギーゲレンツァーのプログラムの注目度が増すという未来はありうるかも？
【感想】AIの利用が計画経済論争という経済学史的なテーマと結び付けられているこの話題は読んでいてとても面白かったし、限定合理性という概念をめぐる議論が経済学・経済思想にとっても重要な問題となるといういい具体例が見つかったこともよかった
スミスの影響（？）で、アメリカの心理学・経済学コミュニティでは完全に限定合理性がリバタリアン的立場と結びついてしまった感があるが…….
追記（2024/05/14）
←私は経済学方面に関心が寄っていてAIをはじめとする機械学習技術に関してはあまり詳しくない（おそらくDavidsonも？）のだが、AI関連の話題に関心のあるフォロワーさんがとても示唆的なコメントをたくさんぶつけてくれた。
AIの主体性 / AIに対する経済的行為の委任をめぐる問題（Principal-Agent関係も含め） など、非常に考えを深めたい面白そうな問題が山積みになったので、いつかきっちりとリプライをしたい。（ピージェイさん、ありがとうございます）
この記事が気に入ったらサポートをしてみませんか？