合理性。

規模不感受性 

ある町の住人に 2000/20000/200000羽のオイルまみれの鳥を救うために何ドルなら出せるかと尋ねたところ、それぞれ $80, $78, $88という答えが返ってきた。実際のところ何羽の鳥が救われるかというのは往々にして人々がいくら支払ってもよいと思うかに影響を与えない。これを規模不感受性という。

アメリカのとある州で行われた同様の実験では、57個の自然保護区を維持するために払ってもよいと人々が考えた金額は1個の保護区を維持するのに同じ人々が払ってもよいと感じた金額のたった28％増しでしかなかった。

オイルまみれの1羽の鳥の映像は人々にある程度のお金を支払う気にさせるには充分だが、瀕死の2万羽の鳥、苦痛にあえぐ20万羽の鳥は誰も想像できない。

Valuation of Prototype

基本的な観察結果として、対象が指数関数的に増大したとしても、人々の感受性は線形関数的にしか増大しないということがある。1つの仮説としての説明は感受性は人々の目が0を追うのにかかった時間と比例しているという説ー実際は10倍になっていても、人々からは０が1つ増えたかのようにしか見えない。たった1つ！

Purchase of moral Satisfaction

代替仮説として、人々は自らの道徳を満足させるのに必要な金額を支払ったらあとは大して気にしないという説もある。どれだけ人が支払うかはその人の懐事情と道徳の規範性によるだろうが、死にかけている鳥の数はどちらにせよ影響を持たない。

合理性を用いた格闘

合理主義は脳にとっての武術だ。

利用可能性ヒューリスティック

事故死と病死はどちらが多い？自殺と他殺はどちらが多い？意外も意外、事故死の方が多いと答える人、殺人は自殺よりも頻繁に起こると考える人のなんと多いことか。
明白な1つの仮説としては事象を見聞きする回数の違いがある。事故死は病死よりドラマチックで、他殺は自殺よりセンセーショナルだ。より多く耳にする方がより多く起こっているという思い込み。

伝聞バイアスは深刻になりつつある。昔は知識は自分で経験して蓄えるか他の経験者から得るものだった。今では何人もの手を経て自らの手に情報が渡ることが普通になりつつある。君がブログで読む記事は誰かによって最初に発見され、別の誰かによって報道各社に知らされ、記者によって咀嚼され、ブロガーによって濾過されている。

伝聞バイアスによって蓄積される危険性は増大する。「聞いた事がない」＝「起こらない」ではないことを人々は忘れがちだ。川の上流にダムを築いたとき、氾濫の頻度は減るかもしれない。そしてそれが人々に安心感を与える。しかし頻度が減ったとはいえ、一度氾濫が起こってしまえばその規模はダムがなかったころとは比べ物にならないものになる。

記憶は可能性を考えるうえでこれ以上なく不確かなものであり、未来を審議するなど以ての外である。

出典：Map and Territory (Rationality: From AI to Zombies Book I) by Eliezer Yudkowsky