見出し画像

【試論「人工知能概念はいつから存在したといえそうか?」1パス目】「数学中心史観」拡充からの出発。

そもそも「数学通史」みたいな世界観に足を踏み入れた発端は以下の投稿だだったのです。

古代から近世に至る磁力と重力の発見過程に注目した大著山本義隆「磁力と重力の発見(2003年)」。

およびその補講的に執筆された欧州における対数と少数の発見過程に注目した山本義隆「少数と対数の発見(2018年)」。

こうして発足した近代科学は現在の「機械学習と意味分布論の時代」にどう接続するのでしょうか? かかる軌跡を探る過程で大きく役立ったのがノーバート・ウィーナー「サイバネティクス(Cybernetics、初版1948年、増補1961年)」だったのです。


古典的数学歴史書としての「サイバネティクス」の歴史的意義

というのもノーバート・ウィーナー「サイバネティクス」なる著作、1948年の初版刊行時点と1961年の増補版改訂の間に(機械学習理論における「単細胞パーセプトロン」と等価とされる)ロジスティック回帰分析の発明(1958年)
なるパラダイムシフトを挟んでいるのです。

ロジスティック回帰(単細胞パーセプトロン)概念登場以前

1948年刊行の初版段階で収録された第8章までは「ニュートン物理学における絶対的時空間」が電磁気学 (Electromagnetism)の扱う時系列データや量子力学(特にハイゼンベルグが1925年に発表した不確定原理)の登場によって動揺する有様を描きます。

すでにバビロン人の時代に遡って蝕が予知出来る一定の時期で起こり、その周期は過去に向かっても将来に向かっても一定である事が認められていた。時間そのものも、恒星の運行から測定するのがほかの方法で測定するよりもよいことが知られていた。太陽系に生じるすべての現象の様式は、プトレオマイオスの周転円の形式であっても、あるいはコペルニクスの軌道説の形式であっても、車輪または一連の車輪の回転によってあらわされる。ここでは未来は一定の様式に従って過去を繰り返すものである。天球の音楽は前から聞いても後から聞いても同じであり、天文学上の事柄は過去に向かっても将来に向かっても同じように起こる。天体の相互位置を示す為の天球儀を右に廻しても左に廻しても、初めの位置と方角を除いては何の違いも生じない。最後にこれらすべてのことがニュートンによって一連の公理系としてまとめられたとき、この力学の基本法則は時間変数tを変換しても不変のものとしてあらわされた。

(しかし実際には)重力の天文学さえ運動を減衰させる摩擦過程を含んでおり、厳密にニュートンの図式に合うような科学は一つもない。生物学は完全に一方向向きの現象を扱っている。誕生は死の正反対のものではなく、組織の発達を意味する同化作用は、組織の破壊を意味する異化作用の正反対のものではない。細胞の分裂も時間的に対象な様式では行われないし、受精卵をつくる生殖細胞の結合も同様である。個体は時間的に一方向を向いた矢であり、種族も同様に過去から未来に向けられている。古生物学の記録には、断絶したり錯綜したりはしているが、単純なものから複雑なものへと進む長期にわたる決定的な傾向が見られる。

ノーバート・ウィーナー「サイバネティクス」第1章ニュートンの時間とベルクソンの時間

ここで1925年のハイゼンベルグの不確定原理に言及。

この理論によれば、現在と過去のデータを完全に集めても、未来は統計的にしか予測出来ないのである。したがってニュートンの天文学のみならずニュートン物理学までが、統計した状態を平均したものとして描かれた事になり、これもまた進化論に属することとなってしまったといっても言い過ぎではない。

ノーバート・ウィーナー「サイバネティクス」第1章ニュートンの時間とベルクソンの時間

随分と大きく出ました。今日でこそ随分と論調も落ち着き、

  • ユークリッド幾何学の想定する範囲内で起こる事象はユークリッド幾何学に従い、(視野をその外側まで広げた)非ユークリッド幾何学の世界で起こる事象は非ユークリッド幾何学に従う。

  • ニュートン物理学が扱うサイズで起こる事はニュートン物理学に、量子力学的サイズで起こる事は量子力学に従う。

なんて穏便な言い回しが定着しましたが、1940年代に入ってもその衝撃はこんな感じで後を引いていたのです。まさしくイタリア・ルネサンス期(14世紀-16世紀)、天文学や解剖学が飛躍的に発展したボローニャ大学やパドヴァ大学の教授や学生の間で広まった「科学実証主義(Scientific Positivism)の祖型」新アリストテレス主義(Neo Aristotelianism)を彷彿とさせる展開。

  • 実践知識の累積は必ずといって良いほど認識領域のパラダイムシフトを引き起こすので、短期的には伝統的認識に立脚する信仰や道徳観と衝突を引き起こす。

  • 逆を言えばどんな実践知識の累積が引き起こすパラダイムシフトも、長期的には伝統的な信仰や道徳の世界が有する適応能力に吸収されていく。

ちなみにノーバート・ウィーナーは、ここでいう「不可逆的時間経過」概念の大源流をベルクソンの時間哲学に求めていますが、私自身はどちらかというとさらにその大源流に位置するハーバート=スペンサーの社会進化論、すなわち進化を「一から多への単純から複雑への変化」と捉える立場。

任意の状態(Situation)はすべからく淘汰(Selection)を経て究極的には「(画一的で貧相な)単純状態(Simple Situation)」から「(多様で豊かな)な複雑状態(Complex Situation)」へと成熟を遂げていく。

上掲「ハーバート・スペンサーの段階的発展説」

これはもう「機械学習と意味分布論の時代」を「ネットmemeの生存競争の場」として読み解こうとする立場ゆえの信念みたいなもの。まぁ可能な限りシンプル極まりなく、かつ(上掲の新アリストテレス主義の上位互換バージョンとして)直感的に扱えるパッケージングなので、とにかく振り回しやすいのです。「発生する問題はその都度運用でカバー」みたいな現場主義も最初から組み込まれてますし。そしてノーバート・ウィーナーもまたロジスティック回帰(単細胞パーセプトロン)概念登場以降はそちら側に歩み寄っていった様に見えるのです。

ロジスティック回帰(単細胞パーセプトロン)概念登場以降

実はロジスティック回帰(単細胞パーセプトロン)概念登場が登場した時点における「学習モデル」とは「教師あり学習=多項式$${a_0x_0+a_1x_1+a_2x_2+…+a_nx_n+e}$$で表される回帰式(線形分解表現)における最小二乗法などを用いた重み付け項$${a_n}$$最適化問題」に他ならず、その部分は現在なおそうしたアルゴリズムの革新部分はあまり変わっていなかったりします。

機械学習には様々なモデルが存在します。以下、ChatGPTの回答です。

ロジスティック回帰 (Logistic Regression)…線形モデルの一つで、カテゴリ型の目的変数を予測するためによく使用されます。二値分類だけでなく、多クラス分類問題にも対応可能です。

サポートベクターマシン (SVM)…高次元空間での分類問題に強く、非線形の問題にもカーネルトリックを使用して対応できます。パラメータの調整が重要ですが、適切に調整されたSVMは非常に強力な分類器になります。

決定木 (Decision Trees)…データから決定ルールを学習し、木構造を構築して分類を行います。解釈しやすいモデルですが、過学習に注意する必要があります。

ランダムフォレスト (Random Forest)…複数の決定木を組み合わせたアンサンブル学習の手法です。各木の予測を平均化することで、一般に決定木よりも過学習に強く、高い精度を達成できます。

勾配ブースティングマシン (Gradient Boosting Machines, GBM)…弱学習器(例えば、浅い決定木)を順番に学習させ、前の学習器の予測残差を次の学習器が学習する方法です。ランダムフォレストと同じくアンサンブル学習の一種で、高い精度を達成可能ですが、パラメータ調整が重要です。

k近傍法 (k-Nearest Neighbors, k-NN)…予測したいデータ点に最も近いk個の訓練データ点を見て、その多数決により分類を行います。シンプルながら効果的な方法ですが、特徴空間の次元が大きい場合には性能が落ちることがあります(次元の呪い)。

これらのアルゴリズムの選択は、データの特性や目的によって異なります。実際には、複数のモデルを試し、交差検証などを行いながら、最も性能が良いモデルを選択するのが一般的です。

上掲「ノーコードで機械学習にチャレンジしてみよう!」

今でも一部の人は現役で向かい合わねばならないCUI(Character User Interface)のヘルプオプションを思い出しました。逆をいえば、そういうインターフェイスあるいは考え方の登場そのものが人類史における歴史的画期だったといえましょう。

とりあえず私の用意した歴史観は以下の4段階で構成されている訳ですが…

  • 数秘術師や魔術師の時代(イタリア・ルネサンス期~近世)

  • 大数学者や大物理学者の時代(大航海時代~1848年革命の頃)

  • 統計学者と母集団推定の時代(産業革命時代~現代)

  • 機械学習と意味分布論の時代(第二次世界大戦期~現在)

このうち「数秘術師や魔術師の時代」に発生した最大のパラダイムシフトは虚数や自然対数・指数概念の発見そのものというより、莫大な量の計算をあらかじめ済ませて作表し出版する様になった「科学諸表革命」であり、ただし人力による作業には限界があるのでコンピューターが発明され、

  • 一通りの作業がコンピューター内で完結する様になり、

  • しかもコンピューターが原則としてネットワークに接続されデータを共有する様になって「ビッグデータ」なる観測対象が出現。

そうした前準備段階があって初めて本格的な「機械学習と意味分布論の時代」が幕を開く訳です。こうした歴史を繋ぐのが英国人計算機科学者チャールズ・バベッジ(Charles Babbage,1791年~1871年)の手になる「史上初のプログラミング可能な計算機」階差機関(Difference Engine、1830年代から1840年代にかけて設計されるも未完成)の頃から既に構想されていた「ハードコピー」、そしてモニター使用が始まって以降普及した「ソフトコピー」概念。

歴史上の機械式用途固定計算機で、多項式の数表を作成するよう設計された。対数も三角関数も多項式で近似できるため、そのようなマシンはかなりの汎用性があった。

1991年、バベッジの本来の設計に基づいて階差機関が組み立てられ、完全に機能した。これは19世紀当時の技術の精度に合わせて作られており、バベッジのマシンが当時完成していれば動作していたことを証明した。9年後、サイエンス・ミュージアムはバベッジが階差機関用に設計したプリンターも完成させた。

ここで便宜的に「プリンター」と呼んでいるのは実際には印刷用の原版を作る機械である。バベッジの意図としては、数表を出版する際に間違いやすい人手による植字という工程を経ずに大量に印刷したいという考えがあった。そのプリンターが紙にも結果を出力するようになっていたのは、階差機関の性能をチェックする手段という意味があった。

上掲Wikipedia「階差機関」

かかるコンピューター普及過程における(誤入力の可能性も視野に含めた)機械操作への不信感が生んだ時代のヒット商品「算盤付電卓」だったりします。古代ギリシャ時代の思想家が概ね共和制に否定的で寡頭制や独裁制に軍配を挙げたのを思い出しますね。その状況をいつの間にか逆転させたのもまた「信頼感」の問題だったのです。

年寄りはクラフトワークの「電卓(Pocket Computer,1981年)」あたりを思い出すかもしれません。コンピューターのイメージ自体がまだまだぐらんぐらんに揺らいでいたこの時代特有のコンピューター観の貴重な歴史証言…

こうした歴史的過程にあっては、ロジスティック回帰(単細胞パーセプトロン)概念のもたらしたパラダイムシフトもまた、全体としてはやはり数理的革新というより「多項式$${a_0x_0+a_1x_1+a_2x_2+…+a_nx_n+e}$$で表される回帰式(線形分解表現)の重み付け項$${a_n}$$最適過程」を「学習結果に従って未来を予測する」と言い換えて(CUIに代表される様な)その効力を認知されやすい「逐次型対人応答システム(Man-Machine System)」の世界に引っ張り出した事そのものにあったのです。そして(非線形領域への進出といった)数理的革新自体は、むしろ以降急激に研究が進んだ結果としてついてきたといえましょう。

①とある事象の発生確率とその時の条件集のデータセットを連立方程式に見立て、最小二乗法などにより近似的確率多項式 を解く。

②すると、ここで求めた近似的確率多項式から、次に与えられた条件でのその事象の発生確率が計算可能となる。

計算のこの部分に特別な画期的要素はありません。むしろ真の画期はこの過程について「とある事象の発生確率とその時の条件集のデータセット=教師あり学習データ」「理論式の導出=学習」と解釈する新しい考え方が生じてきた事そのものにあったのです。

しかも人類が「人工知能登場」を認識したのはこのタイミングではなく1970年代初頭、そうやって蓄積された医療用理想式の集合体を駆使して伝染性血液疾患の種類を特定し、推奨する抗生物質を決定する予備診断用エキスパート・システムMycinの登場(1970年代初頭)が登場した時だったのです。

上掲「数理的こぼれ話10パス目」

ノーバート・ウィーナー「サイバネティクス」の1961年増補箇所(9章、10章)が追記された時点ではまだこうした効用は発揮されておらず、従ってロジスティック回帰(単細胞パーセプトロン)概念登場の影響を受けての関心拡大は別次元、すなわち(鳩や猫や犬に芸を仕込む)学習心理学や(様々な状況下で人体に起こる変化を観察する)生理心理学の分野に向けられる展開を迎えたのです。その後の展開を考えると、あくまで「統計学者と母集団推定の時代」の主要観察対象であった「(人間や生物や機械の様な)個体差(外れ値)の影響を受けやすい集団」とは別系列の数理究明だった事が重要…

生物組織を特徴づけるものと我々が考えている現象に、次の二つのものがある。学習する能力と、増殖する能力とである。この二つは一見異なっている様だが、互いに密接な関係がある。学習する動物というのは過去の環境によって、今までとは異なる存在に変化することができ、したがって、その一生の間に、環境に適応できる動物の事である。増殖する動物というのは、少なくとも近似的には、自分自身と同じような別の動物を作り出すことができる動物である。"同じような"といっても完全に同じで、時間がたっても変わらないというわけではないだろうから、もしこのとき生じた変化が遺伝するものならば、その素材に自然淘汰がはたらき得ることになる。遺伝によって行動の仕方が伝えられるものならば、それらのいろいろな行動の形態のなかにあるものは、種の生存の為に有利であることが見出されて、固定され、種の生存に不都合な他の行動形態は排除される。こうして、ある種の、種族的(Racial)、または系統発生的(phylogenetic)な学習が生じる。この反対が個体の個体発生的(ontogenetic)な学習である。種族的、個体的学習はともに、動物が自分自身を環境に適応させていく手段である。

ノーバート・ウィーナー「サイバネティクス」第9章「学習する機械、増殖する機械」冒頭

要するに線形フィードバックの限界に突き当たり、その突破口を非線形フィードバックに求める様になったのが初版刊行時からの最大の変化。そのヒントが自然観察から得られると発想したあたりは「(天体や自然現象を主要観察対象とした)大数学者や大物理学者の時代」、生物や機械の集合なども観察対象とする様になったという点では「(産業オートメーション化の分野では二人三脚の関係にあった)統計学者と母集団推定の時代」と重なりますが、検出せんと志向する数理があくまで「時系列に伴う(最適化に向けての)フィードバック現象の進行」だった点にこそ、その独自性があったのです。

電気工学の初期に現在の発電系統に用いたのと同じ定電圧型の発電機を、並列にでなく直列につなぐ試みがなされたことは、歴史的に見て興味深い事である。このときは個々の発電機の周波数の相互作用は互いに引き合うのではなく、互いに反発しあうことが発見された。したがって個々の発電機の回転部分を共通の回転軸、または歯車でしっかりと固定しない限り、この種の系統は手がつけられないほど不安定であった。他方、発電機を並列に母線に結合すれば、本質的に安定で別々の発電所にある発電機を結びつけて、1個のまとまった系統にできるのである。生物学的な類推でいえば、並列系統は、直列系統よりも、よい恒常作用(homeostasis)を有していた為に生存し、直列系統は自然淘汰によって死滅したという事になる。

この様に周波数のひきこみを生じる非線形の相互作用は自己組織系(Self-organizm System)をつくりだす事がわかった。

ノーバート・ウィーナー「サイバネティクス」第10章「脳波と自己組織系」
  • 題名にもある通り、第10章の主要テーマは脳波であり、そこに突如「周波数の引き込み」についての説明が割り込んでくるという事は、例えば「人間の覚醒状態や睡眠状態が安定している(回路方程式における定常状態)のも、同様に周波数の引き込みによるものかもしれない」といった推測を示唆している様に見える。その後の研究はむしろ化学的変化の分析など多方面に拡散していく様で、かかる仮説の行方自体は不明だが、入眠時(回路方程式における過渡現象)に独特の波形が現れたりと「電子回回路としての人体」に注目するアプローチにもそれなりの光明がないではない?
    引き込み現象に基づく人間とロボットの暗黙情報のコミュニケーション
    脳波の基礎知識
    過渡現象と回路方程式

この様に科学実証主義なる関数は、それぞれの時代に相応しい定義域(観察対象)と値域(解析結果)を拾捨選択しながら独特の発展の仕方を遂げてきた訳です。そういた観点から既存の技術発展史とのフィッティングを考えてみるのもまた一興かと思いました。こうしてテーマ切り出しに成功したので、とりあえず独自シリーズ化を決意した次第。

そんな感じで以下続報…

この記事が気に入ったらサポートをしてみませんか?