見出し画像

脳機能の安定性に学ぶ「反・脆弱性」

tk

不確実性下の意思決定をテーマにした研究者であり，トレーダーでもあるナシーム・ニコラス・タレブ氏が著した「反脆弱性」がとても良かったです．

私たちは，システムの頑健さについて考えるとき，「脆弱か」か「頑健か」の二択で考えてしまいがちです．そこでタレブが新たに導入した３つ目の概念*が「反・脆さ」です．初めて聞くと不自然な概念のようにも感じますが，数々の事例を観察するにつれて，反脆弱性という概念がいかに普遍性の高いものであるかを痛感させられます．

反脆弱性の定義は次の通りです．脆弱なシステムは外乱に対して脆く，負の影響をもたらします．頑健なシステムは外乱による負の影響を最小化します．そして，「反脆い」システムは，外乱を正の影響へと変容します．

*3つの概念を合わせてタレブは「トライアド（三つ組）」と呼んでいます．書中では，様々な具体例をもとにトライアドのどれに属するシステムかを考察していくスタイルになっています．トライアドは線形性，対称性，凹凸，確率分布，揺らぎなどの数学的概念を用いて抽象化することができます．

本書のブックレビューや要約は巷にあふれており，ここで改めて書く意義はありません．しかし，反脆弱性と生命システムの鮮やかな関係について記述したものはほとんどありません．そこで，この記事では「生命システム，特に脳機能に学ぶ反脆弱性」と題して，この概念を具体例から考えることをテーマにします．

この記事では，生命システムの反脆弱性の例として主に3つ，取り上げます．

1. 反脆弱的な生命システムの簡単な例 - 筋肥大とワクチン
2. 脳活動の確率的挙動と曖昧さ，そして人間らしさ
3. 人工知能から考える知能の汎化性能 - 適応と一般性のトレードオフ

1. 簡単な例 - 筋肥大とワクチン

生命システムは，至る所で「反脆弱性」を活用しています．外乱を正の影響へと変容させる生体の仕組みとしては，どんなものがあるでしょうか？

タレブも書中で挙げている例として，筋肥大があります．筋肉を大きくしたい時，高重量・高負荷で6~15回などを目安に1セットを組むと良いとされます．高負荷により意図的に筋繊維を破断し，その修復過程で筋肉が肥大します．

また，ワクチンが効果的だとされるのは，弱毒化した病原体の抗原を投与することで，体が病原体に対する抗体を産生することを促し，免疫を獲得するからです．インフルエンザに去年かかった人は今年かかりにくい，というのも外乱を正の影響へと変容させる例です．

生命が地球に誕生して以来，地球環境は様々な変化にさらされてきました．特定の環境に「最適化」「特化」した生命体は，環境の変化に脆弱です．なぜなら環境は常に変容するからです．「環境は常に変化する・予期できないリスク* が存在する」という前提に立ち，予め「外乱が来たら正の影響に変容する」という仕組みを内包した生物のみが生き残ってこれた．ダーウィニズムにもとづけば，自然選択の淘汰こそが「生命体の反脆弱性」の力強さを証明しています．

*タレブは，非常に低い確率で発生するが，影響の程度が無視できないほど大きい事象のことを「ブラックスワン」と呼んでいます．ブラックスワンは経験的に予測するのが非常に困難です．利得なら正のブラックスワン，損害なら負のブラックスワンとなります．

2. 脳活動の確率的挙動と曖昧さ，そして人間らしさ

2.1. 脳の動作機構と不確実性

私たちは普段，問題なく思考・行動ができ，難しい局面でも臨機応変に対応し決断を下すことができます．しかし，それを可能にしている「脳」という物質を解きほぐしてみると，なぜそこまで安定しているのかが分からないくらい，脳が不確実性をはらんだシステムであることが分かってきます．

脳は電気信号で情報処理をしていると考えられています．脳は，主に神経細胞がたくさん集まってできており，細胞同士が特殊な結合をしてネットワークを作ります．電気信号の元となっているのは，細胞の内側と外側での化学的イオンの交換です．細胞の内側と外側は細胞膜により隔てられていますが，タンパク質で構成されるイオンの通り道（イオンチャネル）が開閉することにより，イオンが移動します．普段，細胞の内側は電気的に負に帯電していますが，活動するときには一瞬だけ（数ミリ秒）急激に正の方向へ移動します．これは活動電位，細胞の発火などと呼ばれますが，活動電位が他の細胞へと伝わることによって，電気信号を用いてネットワーク全体で情報を処理しています．

電気信号に使用している「化学的イオン」は分子のスケールです．分子のスケールでは，物質は確率的な挙動をします．一方で，私たちが肉眼で見るスケールでは，物質はおおむね決定論的（＝次に起こることが理論上は予測できる）な挙動をします．例えば，野球ボールを机に置いたとして，それが勝手に動くことはありません（決定論的）．しかし，分子は，常に「ブルブル」とふるえています．文字通り，ブルブル（というより暴れているに近い？）ふるえていて，落ち着くことがないのです．これは物質が持つエネルギーに由来するもので，質量が軽い物体ほど，大きく振動します．

言葉の定義を突き詰めるとキリがないのですが，このような理由から分子の動きは「ランダム」です．熱ゆらぎ，あるいは単にゆらぎと言います．高校化学で習うブラウン運動は，分子の熱ゆらぎに由来するものです．

細胞が電気信号に使用しているのはイオンだと述べましたが，イオンやイオンチャネルが確率的な挙動をするため*，神経細胞の発火も確率的です．平たく言うと，次の動きを正確に予想できないということです．ゆえに，神経細胞の活動はランダムなゆらぎに由来するノイズを常に持っています．あるときには発火するのに，あるときには発火しない．これがコンピューターなら大問題です．コンピューターは0か1かの信号を伝達する半導体がたくさん集まってできており，脳の情報処理構造と類似していますが，半導体が気まぐれで電気信号をちゃんと伝達してくれない時があるなんて困ります．

*確率論的挙動と決定論的挙動は二元論ではなく，本来は連続的な概念です．関与する分子が少数であればあるほど確率性が増し，マクロな系になればなるほど結果は安定し，決定性が増します．身近な例では，表の方が微妙に出やすいコインがあったとして，10回しかコインを投げない時には裏が出る回数の方が多いことも十分にあり得ますが，10万回コインを投げた場合には，ほとんどの確率で表が出る合計回数の方が多くなります．化学反応に関わる分子の数が多いほど，確率のわずかな偏りが，決定論的な結果を導きます．

2.2. 工学システムと生命システムの比較

それなのに，人間はどうして安定して情報処理を行えるのか？ここに，コンピューターのような工学システムと，脳のような生命システムに大きな違いがあります．工学システムは「頑健」または「脆弱」なシステムであるのに対し，生命システムは「反脆弱」なシステムであるといえます．

下図は工学システムと生命システムの比較です（なお，表の内容は私が受講した大学の脳科学入門講義を参考に筆者が独自に作り直したもので，タレブの公式見解ではありません）．

画像4

例えば，コンピュータの挙動は同一の入力に対して常に同じです．ブラウザのアイコンをクリックして，気まぐれで開かないなんてことはありません（もちろんメモリが圧迫されているなど外部の影響があれば開かないこともあります）．また，プログラミングをしている人なら，一字一句間違えないように打たないとプログラムが動作しないことにもどかしさを感じた経験があるでしょう（C言語で文末のコロン;を忘れただけで動かない，など）．しかし，人間には「バグ」がありません．どんな入力を受けたとしても，計算が破綻することなく，何かしらの応答をします．

これらの「工学的システム」と「生命システム」の違いを決定づけている一つの要因は，生命システムが「確率的揺らぎ」をうまく利用していることではないか，と考えられています．最近の神経系研究では，こうしたノイズやゆらぎによる秩序の形成が注目されており，最たる例として，ノイズにより信号が増幅され感度が上昇するという確率共鳴現象や，非線形性に伴って生まれる秩序である自己組織化現象が挙げられます．

3. 人工知能から考える知能の汎化性能 - 適応と一般性のトレードオフ

3.1. 深層学習とは

人間の知能をモデル化する上で，人工知能（狭義には機械学習とも呼ばれる）は良い題材です．人工知能の研究によって人間知能を理解する取り組みのことを構成論的アプローチと呼びます．人工知能技術で最近ホットなのは，深層学習（ディープラーニング）と呼ばれる一分野です．これは神経細胞同士の結合を単純化したモデルであるニューラルネットワークを多層（4層以上）に組み合わせたものを指します．

画像4

丸いノードが神経細胞，線が神経細胞同士の結合を模したものです．細胞の結合は，入力データに応じて結合の重みを変化させていくことで，データに適応します．例えば画像認識なら，各ピクセルの画素値を入力とし，出力層で「これは猫か？」といった分類の情報を出力できるようになります．
画像引用元: https://axa.biopapyrus.jp/deep-learning/nn.html

機械学習の一分野である教師あり学習では，訓練データをモデルに学習させ，モデルがまだ学習したことのない未知のデータであるテストデータに対して，どれくらいの正答率で分類や予測ができるかを調べます．例えば，「この画像はりんごの写真か，みかんの写真か」を判別させるモデルを作りたいとすれば，りんごの画像15000枚とみかんの画像15000枚の計3万点の画像の画素値をニューラルネットワークに入力し，学習させます．すると，見たことのない未知の画像に対して，「りんごか，みかんか」を高精度で分類可能なモデルが出来上がります．

3.2. 人工知能モデルの汎化性能

ここで問題になるのが過学習や汎化性能といったキーワードです．過学習とは，訓練データに対して敏感にフィットしすぎてしまうことにより，モデルの一般性が損なわれてしまうことです．例えば，訓練データにおいて分類精度100%を達成していても，テストデータで正答率が低ければ，分類モデルとして使い物になりません．一方で，モデルが未知のデータに対しても高い適応力を持っていることを，汎化性能と呼びます．

画像3

オレンジの線が真の関数，青色の線がモデルの予測．左側の例では，モデルが十分に学習できていません．中央の例では，モデルがちょうどよくフィットしています．右側の例では，モデルがデータに過剰適応しており，真の関数を説明できていません．（画像引用元: scikit-learn公式）

ニューラルネットワークにおける汎化性能を高めるための一つの手段として，ドロップアウトがあります．これは，モデルを学習させる際に，あるノードをランダムに無効化して，存在しないかのように扱う，というものです．つまり，脳とのアナロジーでいえば，ある神経細胞を一つ選んで，「気まぐれで意図的に学習させない」処理を行います．こうすると，モデルの汎化性能が飛躍的に上昇します．これに関する秀逸な例えは，会社で行う業務が属人的にならぬよう，ランダムに人を欠勤させて，その人がいなくても業務が回るような仕組みづくりを心がける，というものです．つまり意図的な外乱により，システムに免疫をつけさせるということでもあり，ワクチンの作用と似ています．これはまさに「反脆弱性」の利用といえます．脳が確率論的挙動をしているのも，こうしてシステムの冗長性を意図的に作り，予期せぬ環境の変化に適応するためなのかもしれません．

3.3. 学習の汎化性能は，記憶の曖昧さとのトレードオフ

人間の記憶力は，コンピューターに比べると非常に低いです．また，実は人間よりもネズミや鳥といった下等と考えられている生物の方が，物事を写真のように正確に記憶する力に優れていることが知られています．

上記記事の池谷先生の言葉を借りれば，人間の記憶は「あえて曖昧に」作られています．それは，一般性・汎化性能を高めるためです．コンピュータは正確にデータを保存できますが，曖昧に・抽象化して物を覚えるのが苦手です．一方で人間は，「あれはりんごだよ」と一回でも教えられれば，腐ったりんごだろうが，青りんごだろうが「りんご」と識別できる．そうした凄まじい汎化能力と引き換えに，人間は記憶の正確性を手放したといえます．

ちなみに，風景を写真のように正確に記憶できる人たちがおり，サヴァン症候群に分類されることもあります．これらの事例が示唆しているのは，人間の脳は理論上は物事を正確に記憶でき，コンピュータのように処理を行うことができるということです．また，人間計算機と呼ばれるような，数百桁の掛け算を暗算で出来る人も存在します．なお，ニューラルネットワークも単なる計算機（任意の連続な関数に対する近似器として機能する性質を普遍性定理と呼びます）として使うことは可能です．
小脳と呼ばれる器官は，私たちが日頃，机にあるコップを掴む，などの正常に体を動かすために必要な計算を瞬時に，休むことなく行っており，そのエネルギー効率は現代のコンピュータを遥かに凌ぎます．ロボットではこれを解くためのプログラムを人工的に作成する必要があります．小脳が破損すると，コップを掴むなどの当たり前の動きもできなくなります．それらの計算が意識に昇ることはありませんが，私たちは皆，脳に非常に高性能な計算機を宿しているのです．

4. まとめ

これらの例から学べることは，私たちはこの世界の不確実性を常に念頭におく必要があり，安易な最適化を行ってはならないということです．システムを決定論的に，そして最短経路で最適化することは，ときにブラックスワン的事象に対して脆弱なシステムを作り上げてしまいます．一方で，ノイズや不確実性といった要素が，マクロな全体の系や長期的時間スケールとしては，安定に機能することもあるということを心に刻んでおくべきです．そうした仕組みが，不確実性に対する免疫をつけ，結果として「反脆弱」に機能するシステムを作り上げることに繋がるのではないでしょうか．

5. 付録: ヒルの逃避行動にみる意思決定の機構

電気信号の元となっているイオンは常に揺らいでいると言及しましたが，それゆえに細胞内外のイオン濃度も常に揺らいでいます．

ヒルを突くと，張って逃げる場合と泳いで逃げる場合があります．この意思決定の元となっているのは，ヒルの脳内にある208番目の神経細胞が関与していると実験で明らかになりました．208番目の神経細胞におけるカルシウムイオンの濃度がゆらゆらと揺らいでいて，たまたま高いときには泳いで逃げ，たまたま低いときには這って逃げる．人間の脳もヒルの脳も基本的な動作原理は変わらないでしょうから，人間の多様な意思決定パターンも究極的にはイオンの揺らぎに由来する可能性があります．もちろん，神経細胞は数千億個と非常に多く，その一つ一つの原因を追跡するのは現実的には不可能です．その追跡不可能な複雑性こそが人間らしさであり魅力ではないでしょうか．

6. 参考資料・文献

ビジュアルと共に，非常に分かりやすく書かれた反脆弱性のまとめです．

多様性の安易な線形的最適化は，全体でみると均質性を作り，システムを脆弱にします．確率的ゆらぎや分布の偏りは許容されるべきです．

これまた深津さんのツイート．無理してノイズを抑えようとするのはマクロで見れば本末転倒です．振動，不確実性を考慮に入れて問題解決すべきでしょう．

以下はこの記事の作成に参考にした書籍及びウェブサイトです．



この記事が参加している募集

推薦図書

41,946件

この記事が気に入ったらサポートをしてみませんか？