認知バイアスは内部からどのように感じられるか

こちらは “What cognitive biases feel like from the inside”の日本語訳です。
by chaosmage　2020年1月3日

「なぜ医者は自分が最高の医者だと思い込むのか」というSSCの記事に基づく。

このミスマッチは、科学的には「確証バイアス」と呼ばれるものである。

このミスマッチは、科学的には「選択バイアス」と呼ばれるものである。

このミスマッチは、科学的には「透明性の錯覚」と呼ばれるものである。

このミスマッチは、科学的には「後知恵バイアス」と呼ばれるものである。

このミスマッチは、科学的には「楽観性バイアス」と呼ばれるものである。

私たちがバイアスについて話す通常の方法よりもこの表が優れているわけ

抽象的なコミュニケーションは非常に難しい。（参照：透明性の錯覚:なぜ誰もあなたを理解していないのか）それゆえ，そのようなコミュニケーションはしばしば失敗する。(参照：高みを目指しすぎず、まずは狙いを低く) さらに、コミュニケーションが失敗していることに気づくことさえ難しい。(参照：透明性の二重の錯覚) したがって、抽象的なコミュニケーションが実際に成功することがいかに希少であるかを把握するのは困難である。

合理主義者はこれに気づいている。（例）スコット・アレクサンダーは具体例をたくさん使っているが、それこそ彼が最高のコミュニケーターである大きな理由であろう。エライザの Sequences がうまくいく理由の一つは、彼が具体例や時にはフィクションまでも使って説明するからである。しかし、たいていの人は、合理性について語る時に抽象的な言葉ばかりを使っている。

例えば、この最近の動画は比較的親しみやすいと多くの人に好評であった。実際に、証拠だけでは確率を生成してはならず、事前確率を更新するだけであることを強調し、繰り返すなどして、この動画では多くのことを正しく行っている。それでも、動画の半分以上を、人口の3％以下しか理解できないような数学的表記を映すことに費やしている。大多数の人々にとって、動画内で使われている例だけが、「定着」する可能性があるが、そのたった一つの例は抽象的な説明にたどり着くための手段でしかなく、ベイズの定理自体の理解にはつながらない。

これでは上手くいかない。そうではなくて、ベイズの定理をどのように適用するかについて、3～5個の鮮やかな例（できれば面白いものや魅力的なもの）を紹介した動画の方が、多くの人の印象に残るだろう。

私たちの非常に要求の高いコミュニケーションスタイルは、LessWrongians （注釈：この記事の原文が投稿されているウェブサイト LessWrong の読者）が平均して、一般の人々よりもずっと賢く、ずっとSTEM的な教養を持ち合わせ、ずっと若いことを正しく予測している。そうでなければ、LessWrong のコミュニティーには加わることもできないだろう。これによりLWコミュニティーは同質化され、部族的であると感じられることで、感情的には満足のいくものになっている。しかし、これでは世界のほとんどの人が間違った決断をしたままである。私たちは、正気度の水位を上げる必要があるが、抽象的なコミュニケーションを続けていては、それを達成することはできない。

上の表では、わかりやすいコミュニケーションを行うために、以下のことを実践している。

• 人々が自分の考え方の欠点に気づく手助けをしているだけであり、目標が高くない。この記事を読んだからと言って、読者がこのテーマで科学的な論文を書けるようになることはないだろうし、その必要もない。

• 認知的バイアスを、内的な見方と外的な見方の間にあるミスマッチへと還元している。両者の具体的な見解を列挙し、それらを並列に並べている。（注：内的な見方と外的な見方は、LessWrong における用語で、前者は事象に関する自身の理解に基づいて予測する見方、後者は事象の詳細ではなく、過去に起こったほぼ同様の事例をもとに推定する見方のことである。上の表では、自分を評価する際には内的な見方が、他者を評価する際には外的な見方が有意になるというミスマッチが表されている。）

• これらの見解は、多くの人が自身の体験と一致させることができるように、一般的に感じられる方法で書かれている。

• 並置された見解から事象の理解を推し量る作業を読者に委ねている。何といっても、特定の事柄から一般化することは、一般論を統合して特定の事柄に適用するよりもずっと簡単である。このようにして得られた理解は不正確なものになるかもしれないが、読者の心の中に実際に届くという利点がある。

• 専門用語をほとんど使用しておらず、もっと知りたいと思う少数の人のために、バイアスの名称を挙げるだけに留まっている。