"The Knowledge Illusion" についての読書メモ
「The Knowledge Illusion: Why We Never Think Alone」という本を読んだ。「知ってるつもり -- 無知の科学」というタイトルで土方奈美さんによる翻訳本も出版されている。
本の内容は、
個人一人ひとりはあまりにも複雑なこの世界を理解しきれないため、ある程度抽象化された、それぞれの「錯覚」の中に生きている。この無知を自覚して、集団としてお互いの知識を補正し合うことの重要性に気づくことで人はより賢くなれる。
といった感じ。冗談を交えつつ書かれており、飽きることなく最後まで読めた。ただ、本に登場する主張が、どの研究に基づいていて、専門家の間でどれほど共有されているものなのかがところどころ曖昧だった。ここらへんは自分でレビュー論文などを読んで知識を補足する必要がありそうだ。
こちらで日本語版の翻訳者である土方奈美さんによるより詳しい概要が読めるので興味がある人はどうぞ。
以下、読みながら関連してるかもなあと頭によぎったことを一部メモしていく。
6章 Thinking With Other People
The knowledge illusion occurs because we live in a community of knowledge and we fail to distinguish the knowledge that is in our heads from the knowledge outside of it.
Sophisticated understanding usually consists of knowing where to find it. Only the truly erudite actually have the knowledge available in their own memories.
The knowledge illusion is the flip side of what economists call the curse of knowledge. When we know about something, we find it hard to imagine that someone else doesn’t know it.
The curse of knowledge is that we tend to think what is in our heads is in the heads of others. In the knowledge illusion, we tend to think what is in others’ heads is in our heads. In both cases, we fail to discern who knows what.
Because we live inside a hive mind, relying heavily on others and the environment to store our knowledge, most of what is in our heads is quite superficial. We can get away with that superficiality most of the time because other people don’t expect us to know more; after all, their knowledge is superficial too.
要約：私達は多くの事柄について表面的な理解にとどまっているが、それが表面的な理解であることに無自覚である。それでも日常生活がなんとかなってしまうのは、他の人の物事の理解も表面的で、お互いそれ以上の理解があることを期待しないためだ。
道徳的規範に「黄金律」というものがある。黄金律とは「他人から自分にしてもらいたいと思うような行為を人に対してせよ」という内容の倫理学的言明である(Wikipedia)が、これは相手が自分と同じ考えを持つだろう(＝自分が相手と共感できているだろう)という仮定が成立していないと意味をなさない。
ただし、「共感すること」が「自分と相手の双方で、同様の知識をもとに同様の感情が導き出されること」だとするならば、「知識の錯覚 (knowledge illusion) 」に基づくと、「人々は自分がどう思うかと相手がどう思うかは必ずしも一致しない、ということに無自覚である」ということになる。この無自覚によって、良かれと思って起こした行動が、相手にとっては不愉快に感じられる、というような失敗が起こり得る。
大半の人が考えが一致しないことに無自覚であるならば、人が不愉快に感じてしまう状況は避けられないだろうし、実際毎日のように誰かが誰かを傷つけたり傷つけられたりしている。人々が無自覚なままで、かつ人が不愉快に感じないよう行動するための機械的な手続きは存在しないのだろうか。それとも大半の人が自覚するようにどうにかするしかないのだろうか。
9章 Thinking About Politics
In general, we don’t appreciate how little we know; the tiniest bit of knowledge makes us feel like experts. Once we feel like an expert, we start talking like an expert. And it turns out that the people we talk to don’t know much, either. So relative to them, we are experts. That enhances our feeling of expertise.
When group members don’t know much but share a position, members of the group can reinforce one another’s sense of understanding, leading everyone to feel like their position is justified and their mission is clear, even when there is no real expertise to give it solid support. Everyone sees everyone else as justifying their view so that opinion rests on a mirage. Members of the group provide intellectual support for one another, but there’s nothing supporting the group. The social psychologist Irving Janis labeled this phenomenon groupthink. One common finding is that when people of like minds discuss an issue together, they become more polarized. That is, whatever view they had before the discussion, they are even more extreme in their support of it after the discussion.
要約：物事をよく理解していないけど意見が一致する人々が集まると、お互いの「理解している」という感覚が増幅し、土台のない幻想に基づいた主張ができあがる。これを社会心理学者の Irving Janis は「groupthink」と名付けた。似た考えを持つ人々が集まって話をした後、その考えをより一層支持する傾向にある。
We found that attempting to explain how a policy worked not only reduced our participants ’ sense of understanding, it also reduced the extremity of their position. If we consider the whole group together, the fact that people were on average less extreme means that the group as a whole was less polarized after the explanation exercise. The attempt to explain caused their positions to converge.
要約：作者らは実験を行い、被験者に政策についての因果関係を説明させようとすると、被験者の「理解している」という感覚が低下し、自身の立場の極端さも低下した。政策を説明させることで集団内の極端な意見が減り、合意に近づいた。
以前読んだ、Jason Brennan の「Against Democracy」という本の中で、「合理的無知(rational ignorance)」という概念が出てきた。
The rational ignorance theory says that most people remain ignorant about politics because the expected cost of learning political information exceeds the expected benefits of possessing that information.
(Brennan. J (2016), Against Democracy, p34 (kindle版) より)
要約：合理的無知理論によると人々が政治について無知であるのは、政治に関する情報を学習するコストが、その情報を処理する利益よりも高いからである。
今回の本を読んでいると、人々は頭の中でそれぞれの効用を比較して「合理的」な選択として無知なのではなく、ただ単に無知なのかもしれない、と思った。
10章 The New Definition of Smart
Awareness that knowledge lives in a community gives us a different way to conceive of intelligence. Instead of regarding intelligence as a personal attribute, it can be understood as how much an individual contributes to the community. If thinking is a social entity that takes place in a group and involves teams, then intelligence resides in the team and not just in individuals.
要約：知性を個人の特徴として捉えるのではなく、個人がどれだけコミュニティに対して貢献したかで捉えることができる。思考というものが集団として行われるものであるなら、知性はチームにあって、個人だけにあるものではない。
Performance will be best whenever you have a team that has the full panoply of skills required to do the task. Those skills are more likely to be available if people are working together.
要約：多数のスキルを持つチームのパフォーマンスが最も高くなる。
ただし、この本では Anita Woolley の研究を紹介しているが、それを見る限り集団的知性の因子 c がまだ確立されていないことなど、まだまだ不確定要素が多いと言えそうだ。
最終章 Conclusion
自身の評価が現実とはずれてしまう例として、運転スキルの自己評価の例を目にすることが多い。この本でも、ダニング＝クルーガー効果を説明する際に運転スキルについての例えが出てくる。
思い返すと私自身は車の運転スキルについての詳しい情報を調べたことがなかったので、少し調べた。
もとの論文はお金がかかるため、無料でアクセスできるこの論文("I Am a Better Driver Than You Think: Examining Self-Enhancement for Driving Ability")からの孫引きになってしまうが、例えばアメリカ人909人を対象としたある研究では、その909人のうち673人が、自分の運転スキルは平均以上だと答えたという。平均以上の人は50%以上は存在し得ないので、673人のうち一部は自分のスキルを過大評価していることになる。(最初のリンクの論文では、過大評価が生じるのはそれぞれが考える「上手な運転」の評価基準をもとにしているからではないか、といったことを議論している。) 他にも、一部の運転に関する特徴については80%以上の人が自分は平均以上だと答えたとするこのような研究もある。
本の最後に、無知であることが必ずしも悪いことではないかもしれないことを述べていたが、これに関する研究は挙げられておらず、「マルコポーロやコロンブスといった人たちはきっと無知であることから生じる自信をもとに行動してて、それがきっかけで大発見があった」みたいな主張で、説得力に欠けている印象を受けた。全体としてわりと緻密な議論の組み立て方だっただけに、最後にとって付けた感じが少し残念だった。
人が全知になれない以上、その未来に期待していいのかどうかがどうしても気になってしまう。無知であることに希望はあるんだろうか。もちろん未来が不確定である (あるいは人間の認知の範囲内では不確定であるように見える) 以上、誰もその答えを持ってはいないのだけれども。
蛇足
最後に、機械が複雑な意思決定において人間の集団知性を上回ってそうな事例を書いておく。
・複雑な社会的な問題にも対応できる3ステップのシンプルなルール(リンク)
複雑な判断でも、以下の3ステップのルールを適用することで複数の専門家による判断よりも優れた判断を下すことができる。
1. 2～5つ程度の属性をとってくる
2. L^1-regularized (lasso) logistic regression(??) (おそらく、結果が0か1かの事象を見る際に使うロジスティック回帰の延長にある何か) をする
3. 結果を整数値に四捨五入する
このルールは、誰を釈放するか、誰に補助金を与えるか、雇用するとき誰を面接するか、を決める際の助けになるという。
Despite its simplicity, this rule significantly outperforms expert human decision makers. We analyzed over 100,000 judicial pretrial release decisions in one of the largest cities in the country. Following our rule would allow judges in this jurisdiction to detain half as many defendants without appreciably increasing the number who fail to appear at court.
要約：単純なルールだが、専門家よりも優れた判断結果を示した。法定前の被告人の保釈するかどうかの決定を分析すると、この方法に則ることで法廷に現れない人の数を増やすことなく、勾留する人の数を半減させることができる。
このルールは最終的な結論が「はい」か「いいえ」のような2択の場合に限られているが、社会における複雑な意思決定においても、データと数理モデルと計算力を用いることで、専門的な知識を持たない人でも「良い結果」を出せる世の中になりつつあるようだ。
・IBM の Project Debater
2019年2月にIBMが作ってるAIシステムの Project Debater とプロのディベーターであるHarish Natarajanが、"We should subsidize preschool" (プレスクールに補助金を交付すべきか否か)というテーマでディベートを行った。(その映像はここ。公式記事はここ)。AIも人間もテーマを知らされてから15分の準備の時間を与えられて、ディベートが行われた。
IBMの Project Debater は、自身が話す番では研究機関やジャーナルの研究結果を引用したりと、とにかく提示したエビデンスの数が多く、一般人がディベートの際にその場で提示できる量を遥かに凌駕していた。一方で、「予算は大きいからお金を何にでも使える」(動画内25:15あたり)といったような、通常とは異なる認識を示したり、最後のまとめで「他の補助金の選択肢も考慮しなければならない」という Natarajan の主張を「プレスクールへの補助金は有害(harmful)である」と拡大解釈したり(動画内38:24あたり)と、一部至らない点も見られた。しかしエビデンスベースで議論を組み立てるというスキルは、一般人と遜色ない、あるいは知識がある分一般人よりも優れているように見えた。
もちろん Natarajan の方もすごくて、よく15分であそこまでわかりやすく、しかも筋の通った意見を言えるものだなあと感動した。(それに比べてこのnoteはなんて要領を得ないんだろう。。。)
単純な多数決による民主主義と、熟議を重視した民主主義の対比をよく見るが、今の社会がどちらなのか、より一層熟議が重視される社会はどのようなものなのかをいつも考えてしまう。熟議に重要なのはエビデンスに基づいた知識と、 fallacy (誤謬や詭弁) を排除する手段と、倫理的な思考なんじゃないかと (今の) 私は勝手に思っている。しかし1つ目のエビデンスに基づいた知識については、The Knowledge Illusionでもあったように個人単位ではどうしても限界がある。膨大な量が存在する研究の知識を統合させて蓄積する、集団の知識の一部として Project Debater のようなAIが組み込まれた、そんな未来に期待してしまう。
この記事が気に入ったらサポートをしてみませんか？