失敗の科学（2016/12/23）／マシュー・サイド【読書ノート】

なぜ、「10人に1人が医療ミス」の実態は改善されないのか ?
なぜ、燃料切れで墜落したパイロットは警告を「無視」したのか ?
なぜ、検察はDNA鑑定で無実でも「有罪」と言い張るのか ?
オックスフォード大を首席で卒業した異才のジャーナリストが、医療業界、航空業界、グローバル企業、プロスポーツリームなど、あらゆる業界を横断し、失敗の構造を解き明かす !

あえて集中しない
集中しすぎると時間感覚が麻痺し、視野が狭くなりがちです。集中しすぎてしまうと、失敗に気づかなくなる可能性があります。集中状態で失敗している最中は、気づいたときには手遅れになっていることが多いです。集中しすぎることで、他の重要なことに気づかなくなることがあります。
事例：飛行機の墜落事故
1978年にアメリカで起きた飛行機の墜落事故は、パイロットが集中しすぎた結果、燃料がなくなり墜落した事例です。
パイロットは着陸用の車輪が出ているか確認するために集中しすぎ、燃料がなくなることに気づかなかった。この事故から学ぶべきポイントは、集中しすぎると他の重要なことに気づかなくなる可能性があるということです。
集中は大切ですが、過度に集中しすぎると失敗のリスクが高まります。
失敗を防ぐためには、適度に集中し、他の重要なことにも注意を払うことが重要です。

本書の主要ポイント

クローズドループ現象

「クローズド・ループ現象」は、過去の治療法、特にガレノスによって広められた瀉血療法の歴史を例に、学習や進歩が阻害される状態を説明しています。瀉血は、患者の調子が良くなれば治療の成功とされ、患者が亡くなれば治療法ではなく病気の重大さが原因だと考えられていました。このように、治療法に対する批判的な検証がなされず、失敗や欠陥が無視される「クローズド・ループ」と対照的に、「オープン・ループ」では失敗から学び、進歩が促されます。クローズド・ループ現象は医療界に留まらず、政府、企業、病院、日常生活に至るまで広く見られ、本書ではこの問題を探求し、陥らないための方法や脱却策を探ります。

暗闇のゴルフ

プロフェッショナルな技能の習得において、長時間の練習が成功への鍵とされることは一般的です。チェスのグランドマスターやテニスプレイヤー、看護師のように、何千時間もの練習によって高度な直感と判断力を発揮する例は多いがこのような熟練は「1万時間のルール」に基づき、一定の努力で達成可能とされている。
しかし、全ての職種で訓練が同様の効果をもたらすわけではない。心理療法士や入学審査員などの研究では、長期の訓練や経験が必ずしも成果に結びつかない。
この現象の理由を理解するために、暗闇でゴルフをする状況を想像してみよう。明るい場であれば試行錯誤を通じて改善が可能だが、暗闇ではボールがどこへ飛んだか見えないため、何も学べない。フィードバックの不在が上達の妨げになるからだ。
心理療法士の場合、治療の成功を判断する客観的なフィードバックが不足しているため、経験を積むことが必ずしもスキルの向上につながらないのである。専門職の練習の価値は、その職種が提供するフィードバックの質に大きく依存するといえる。

フィードバックは道を示す「明かり」

放射線科医が乳房X線画像で腫瘍を診断する際、手術結果による遅延したフィードバックでは、その時点での記憶が薄れ、直感的な判断力の向上にはつながらないことが多い。さらに、誤診が発覚するのが遅ければ遅いほど、医師は自らの間違いから学ぶ機会を失い、これが若手医師の診断スキルの向上が遅れる一因となっている。この問題を解決するためには、ただ経験を積むだけでなく、診断の正誤をすぐに確認できるシステムの導入が必要である。科学の進歩の歴史を振り返り、失敗から学ぶ重要性を理解し、成功だけではなく、それを支える失敗にも注意を払うべきである。

進化とは、選択の繰り返し

進歩や革新は、頭の中だけで美しく組み立てられた計画から生まれるものではない。生物の進化もそうだ。進化にそもそも計画などない。生物たちがまわりの世界に適応しながら、世代を重ねて変異していく。最終的に出来上がったノズルは、どんな数学者も予測し得ない形をしていた。
失敗から学ぶにはふたつの要素がカギとなる。ひとつは、適切なシステム。もうひとつは、その適切なシステムの潤滑油となる、マインドセットである。

スケアード・ストレート・プログラムの効果はなかった

反事実は目に見えない

ランダム化比較試験（RCT）

マージナル・ゲイン：小さな改善の積み重ね

脳に組み込まれた「非難」のプログラム

リビアン・アラブ航空114便

脳は一番「直感的」な結論を出す

人々は他者の行動を見て、その人の性格が原因だとすぐに結論づけることが多いが、実際には状況的な要因が影響している可能性もある。
たとえば、隣の車線に無理やり割り込んでいく車を見たら、たいていの人が「なんて自己中心的で短気な奴だ」などと決め付けるだろう。もしかすると急に太陽の光が反射したせいで、ドライバーがハンドルを切り損ねたのかもしれない。無理な運転をしていたほかの車を避けようとしたとも考えられる。情状を酌量する要因はいくらでもあるだろう。しかし、大半の人はそんな可能性にまで考えが及ばない。
この現象は「根本的な帰属の誤り」と呼ばれ、直感に基づく単純な結論に傾く脳の傾向を指す。しかし、自分の過ちになると、人は状況的な理由を考慮し始める。航空事故の調査官でさえ、ブラックボックスのデータを調査する前に「パイロットのミス」と直感的に思い込むことがある。非難は時として認知バイアスから来るが、便宜上または自分へのプレッシャーを減らすために他人を責めることもある。

---

組織内の懲罰志向も問題だが、公人に対する我々の姿勢ほど非難に溢れたものはない。とくに政治家には手厳しい。正当な理由があって非難する場合ももちろんあるが、何の理由もない場合も多々ある。公的機関で起きるミスも貴重な学習のチャンスなのだが、世間にはそういう認識がほとんどない。すべて政治家の能力不足、または職務怠慢の証拠、あるいはその両方と受け取っておしまいだ。その結果、公人はミスに対する恐怖感を強め、大きな認知的不協和を抱え、自己正当化や言い逃れを生み出していく。
公人への非難を煽る新聞や週刊誌をなくしたところで、問題は解決しない。そもそもこうした商売が成り立っているのは、それだけ需要があるからだ。結局、我々はシンプルで都合のいいストーリーが好きなのだ。複雑さよりシンプルさを求める傾向は、誰もが本質的に持っている。こうして巷に大量に出回るシンプルな記事こそ、講釈の誤りの副産物にほかならない。

公正な文化では、失敗から学ぶことが奨励される。失敗の報告を促す開放的な組織文化を構築するには、まず早計な非難をやめることだ。
"真の無知とは、知識の欠如ではない。学習の拒絶である"
[カール・ポパー]

ノベンバー・オスカー事件

マインドセット

ミシガン州立大学の心理学者ジェイソン・モーザーは失敗に伴って生じる2つの脳波に注目した。「エラー関連陰性電位（ERN）」は自分の失敗に気づいた後50ミリ秒ほどで自動的に現れる、エラー検出に関連した信号だ。もうひとつの「エラー陽性電位（Pe）」は失敗の200〜500ミリ秒後に生じる信号で、自分が犯した間違いに意識的に着目するときに現れる

固定型マインドセットの被験者は、間違いに注目していなかった。むしろ無視していたと言っていいだろう。一方で成長型マインドセットの被験者は、間違いにしっかりと注意を向けていた。まるで、失敗に興味津々といったように。この実験ではほかにも、Peの反応が強い被験者ほど、失敗後の正解率が上昇するという結果もで出た。失敗への着目度と学習効果との密接な相関関係が窺える。

成長が遅い人は失敗の理由を「知性」に求める
事前検死
リーン・スタートアップ（小さく始める）

何にでもあてはまるものは科学ではない

オーストリアの精神医学者、アルフレッド・アドラーの心理療法についても同じことが言える。
アドラーの理論の中心となったのは「優越コンプレックス」だ。彼は「あらゆる人間の行動は、自分を向上したいという欲求(優越性の追求、または理想の追求)から生まれる」と主張した。
1919年、カール・ポパーはアドラーに会い、アドラー理論では説明がつかない子どもの患者の事例について話した。ここで重要なのはその詳細ではなく、アドラーの反応だ。そのときのことを、ポパーはこう書いている。

彼(アドラー)はその患者を見たこともないのに、持論によってなんなく分析した。いくぶんショックを受けた私は、どうしてそれほど確信をもって説明できるのかと尋ねた。すると彼は「こういう例はもう1000回も経験しているからね」と答えた。私はこう言わずにいられなかった。「ではこの事例で、あなたの経験は1001回になったわけですね」

ポパーが言いたかったのはこういうことだ。アドラーの理論は何にでも当てはまる。たとえば、川で溺れる子どもを救った男がいるとしよう。アドラー的に考えれば、その男は「自分の命を危険に晒して、子どもを助ける勇気があることを証明した」となる。しかし同じ男が子どもを助けるのを拒んでいたとしても、「社会から非難を受ける危険を冒して、子どもを助けない勇気があることを証明した」となる。アドラーの理論でいけば、どちらにしても優越コンプレックスを克服したことになってしまう。何がどうなっても、自分の理論の裏付けとなるのである。ポパーは続けた。

人間の行動でこの理論に当てはまらないものを、私は思いつかない。だからこそ～あらゆるものが裏付けの材料になるからこそ～アドラー支持者の目には強力に説得力のある理論だと映った。一見すると強みに見えたものは、実は弱点でしかなかったのだと私は気づいた。

クローズド・ループ現象のほとんどは、失敗を認めなかったり、言い逃れをしたりすることが原因で起こる。疑似科学の世界では、問題はもっと構造的だ。つまり、故意にしろ偶然にしろ、失敗することが不可能な仕組みになっている。だからこそ理論は完璧に見え、信奉者は虜になる。しかし、あらゆるものが当てはまるということは、何からも学べないことに等しい。

立証と反証には微妙な違いがある。科学の世界では立証することが重要だ。物事を観察して、理論を構築し、裏付けとなる証拠をできる限り集めて立証する。しかしここまでにも見てきたように、科学には反証もまた欠かせない。反証となりうるデータも検討しない限り、知識は進歩しない。

「水は100℃で沸騰する」という仮説を例にとって見よう。これは一見正しいが、ご存じのように高度が上がると話は違ってくる。こうして理論が当てはまらない条件を見つければ、新たな、より強力な仮説を構築する舞台が整う。なぜ海抜0メートルでは100℃で沸騰し、なぜ標高の高い場所ではその温度が下がるのか、どちらの理由も説明できる仮説を導き出すチャンスだ。科学の進歩はそうしてもたらされる。

科学は通説に異議を唱え、さまざまな仮説を検証して、進歩を遂げてきた。個々の科学者の中にはときに独断的な者も現れるが、全体で見れば科学者は、科学理論(特に知識の最先端を行く理論)には誤りがあったり不完全であったりすることが多いと認識している。

航空業界は科学界とは異なるが、土台となる精神は共通している。考えようによっては、飛行機の旅もある種の仮説だ。安全に目的地まで飛べるかどうか、各フライトがその検証になる。航空機の機種、パイロット、各地の航空管制など条件はさまざまだ。航空事故はいわば反証に当たる。ちょうど科学理論の反証が進歩をもたらすように、航空事故もシステムの安全性を改善する上で非常に重要な役割を果たす。

認知不協和：意外な行動を取ったカルト信者と予言を外した教祖

1954年秋、ミネソタ大学の研究者フェスティンガーは地元の新聞の奇妙な見出しに興味を引かれました。「シカゴへの警告：惑星クラリオンからの予言―大洪水から避難せよ」。この記事には、自称霊能者の主婦、マリオン・キーチが「神のような存在」からメッセージを受け取ったと主張している内容が掲載されていました。「1954年12月24日の夜明け前、大洪水が発生し世界は終焉を迎える」。キーチはすでにこの予言を友人たちに伝えており、中には仕事を辞めて彼女と一緒に暮らし始める者もいました。この新聞記事が出る頃には、キーチはすでに彼らの精神的な指導者となっていました。信者たちは、「世界の終わり直前に宇宙船が天から現れ、信じる者だけを救う」と信じていました。

野心的な科学者フェスティンガーは、これをまたとない研究のチャンスと捉えました。カルト集団に信者として潜入すれば、彼らの行動を世界の終わりまで観察することができます。彼が特に興味を持っていたのは、予言が外れた後、信者たちがどのような行動を取るかという点でした。一般的には、信者たちがキーチを見限り、通常の生活に戻ると考えられるでしょう。しかし、フェスティンガーは信者たちがキーチを否定するどころか、以前よりも彼女を信奉するようになると考えていました。

フェスティンガーと彼の2人の同僚は、11月初旬にキーチに接触し、彼女の信頼を得るための作戦を実行しました。一人は心霊現象を体験したという話をでっち上げ、もう一人は新聞記事を読んで不安になったビジネスマンを演じました。そして11月の終わりまでには、3人はキーチの家に入る許可を得て、カルト集団の一員となることに成功しました。そして、彼らは信者たちの行動を内部から観察する機会を得ました。

予言の日、真夜中になっても宇宙船は現れず、大洪水や世界の終末の兆候もありませんでした。フェスティンガーと同僚は居間で信者たちの反応を観察しました。信者たちは最初は庭をチェックして宇宙船が来ていないか確認していましたが、真夜中を過ぎると皆、がっかりした表情を浮かべ始めました。しかしやがて、何事もなかったかのように普段通りの行動を始めました。フェスティンガーの予想通り、彼らは大切な予言を外した教祖に失望することはありませんでした。それどころか、以前よりも熱心な信者になる者もいました。

信者たちはどうしてこんな行動を取ったのでしょうか？
彼らが目の当たりにした状況は、彼らが持っていた信念と完全に矛盾していました。彼らが抱いていた信念は、宇宙船が彼らを救いに来て、世界が終わるというものでした。しかし、実際には何も起こらず、彼らは裏切られた気持ちを抱えていました。この時点で、彼らには二つの選択肢がありました。一つは自分たちの信念を見直し、事実を受け入れること。もう一つは信念を守り通し、矛盾を無視することでした。

信者たちは後者を選びました。彼らは自分たちの信念を守り通し、矛盾を無視することで心の平和を保とうとしました。そして、彼らはその選択を正当化するために新たな信念を作り出しました。「宇宙船が来なかったのは、私たちの信仰のおかげで神が世界を救ってくれたからだ」という新たな信念を抱くことで、彼らは自分たちの行動を正当化し、以前よりも熱心な信者になったのです。

フェスティンガーはこの研究をもとに、後に「認知的不協和理論」として知られるようになる理論を提唱しました。この理論は、人間が持つ二つ以上の矛盾する信念や価値観を同時に保持することで生じる心理的な不快感（認知的不協和）を解消しようとするプロセスを説明しています。フェスティンガーは、この不快感を解消するために、人間は自分の信念や態度を変えるか、新たな情報を受け入れて矛盾を解消しようとすると主張しました。そして、彼の研究は心理学の分野において重要な貢献を果たしました。

第1章 失敗のマネジメント

「ありえない」失敗が起きたとき、人はどう反応するか
「完璧な集中」こそが事故を招く
すべては「仮説」にすぎない

第2章 人はウソを隠すのではなく信じ込む

その「努力」が判断を鈍らせる
過去は「事後的」に編集される

第3章「単純化の罠」から脱出せよ

考えるな、間違えろ
「物語」が人を欺く

第4章 難問はまず切り刻め

「一発逆転」より「百発逆転」

第5章「犯人探し」バイアス

脳に組み込まれた「非難」のプログラム
「魔女狩り」症候群 そして、誰もいなくなった

第6章 究極の成果をもたらす マインドセット

誰でも、いつからでも能力は伸ばすことができる

終章 失敗と人類の進化

失敗は「厄災」ではない

失敗の科学