シンギュラリティが訪れない理由 〜AI脅威論に欠けた３つの視点〜
AIブームとともに近年AI脅威論がまことしやかに語られています。
筆者は現在のAI脅威論の多くは問題を孕んでいると感じています。
AI脅威論とは？
AI脅威論の代表がシンギュラリティ（技術的特異点）
Wikiによると
ひとたび自律的に作動する優れた機械的知性が創造されると、再帰的に機械的知性のバージョンアップが繰り返され、人間の想像力がおよばないほどに優秀な知性(スーパーインテリジェンス)が誕生するという仮説である。
筆者は、少なくとも現在AIと呼ばれている技術の延長上には、シンギュラリティ理論の説く世界は訪れないと思っています。
近未来にシンギュラリティに到達すると説くAI脅威論は、そのほとんどが考慮すべき視点を欠いた結果、非現実的な結論に到達していると筆者は感じています。
今日は筆者の考える「AI脅威論に欠けた３つの視点」について述べてみます。
視点1 経済学の視点
AI脅威論は「AIが早晩人間の知性を超え、社会を支配する、囲碁名人に勝利したのはその前兆である」と説きます。
しかし、経済学の論観点からみると、囲碁名人に勝ったAIも人間の知的活動のほんの一部をカバーしているに過ぎません。
経済学の合理的意思決定理論では、人間は目的(選考)、制約(ルール)を元に、自らの予測(信念)に基づき、設定した選択肢から最適なものを選ぶ行為を、意思決定としています。
この観点で昼休みの予定決定と囲碁を比べてみましょう
「昼休みの予定決定」の際、実は私たちはいろんな作業を行っています。まず目的を自分で決める必要があります。「空腹を満たす」、「私用を済ませる」、「仮眠を取る」、「医者に行く」などなど数ある候補の中から、自分の選好に従って選択を行う必要があります。また、昼休みは12時～13時というルールが決まっている場合も我々は必要に応じてそのルールを変更します。「来客対応で時間をずらす」、「通院のため延長する」、「仕事のため返上する」、などです。
また、そこから生まれる行動の選択範囲も膨大です、その中から適切な選択の枠組みを作る必要があります。これらの手順を経た後に初めて、枠組みの中から最適な選択肢を選定するという作業ができるのです。
「囲碁」の場合はどうでしょう。勝利という目標、囲碁のルール、19x19の碁盤に指すという選択肢はあらかじめ決まっていて、AIがやっているのは最適な選択肢を選定するという作業だけです。
今のAI技術にできるのは目的、ルール、選択の枠組みが決まった状態で、最適な選択肢を選ぶための情報を提供する部分だけです。人間を超える知性を持つ可能性はありません。人間の知的活動の一部を補助する道具というのが今AI技術に対する適切な位置付けといえるでしょう。
視点2 科学哲学の観点
AI脅威論は「進化したAIは意識を持ち、自由意志を持つ」と説きます。
しかし、科学哲学の観点からみると、「意識」,「自由意志」が何であるか自体が非常に難しい問題であり、AI脅威論者はその難しさを理解せず安易に「意識」,「自由意志」に言及しているように映ります。
意識とは何かは非常に大きな謎です。DNA発見でノーベル賞を授与されたフランシス・クリックは晩年を科学的アプローチによる意識の研究に捧げています。その流れを汲んで現在意識の研究を行っているのがクリストフ・コッホ、非常に斬新なアプローチで意識の謎に切り込んでいますが、まだその結論は出ていません。
一方、科学哲学では第一線の論客が意識に関する議論を戦わせています。その代表がダニエル・C・デネット、その独自の見解は多くの分野から高い評価を得ています。
「意識」,「自由意志」のように「当たり前に使っているが、何かと問われると根源的な謎の迷宮に入り込む」存在に対して、科学哲学の土壌で様々な議論が交わされています。それらの議論を知れば、今のAIの延長上に自然発生的に現れるというのは想定に無理があることがわかると思います。(議論詳細は文末の参考書籍ご参照下さい)
視点3 科学技術の観点
AI脅威論は「現代の高度な科学技術を持ってすれば、AIが作れないと考える方がおかしい」と説きます。
しかし、科学技術の観点からみると、科学は特定のエリアでは大きな成果を出し、一見もう残った謎などないようにとれるが、実は光が当たっていない分野ではまだ追求すべき謎が多く残されている、というのが実際のところです。
非線形科学の世界的第一人者である、京都大学名誉教授 蔵本由紀氏はその著書「新しい自然学」の中で
私たちが科学を通して理解しているのは、人間にとってごく従順な自然の一面に過ぎず、複雑で気難しい自然の他の面については実はまだ何もわかっていない。この「無知への自覚」こそ、すべての考察における建設的な出発点になるべきではないか。
と、科学万能論への懸念を述べています。
天体の運動や極微の世界については、実に見事に予言し描写する現代の科学だが、ごく身近な素朴な問いの大半にはまるで答えられないのである。
と指摘し「2028年10月26日に小惑星が地球数万キロメートルに接近することは予測できるのに、強風に飛ばされた風船が10秒後にどの空間位置を占めるかの予測を風船サイズの誤差以内で予測することは難しい」という現実を具体的としてあげています。
また、
量子力学の法則を手にしているからには、原子核をわざわざ破壊するというような余計なことさえしなければ、森羅万象のミクロ的な物理的基礎についてはまず不自由がない。しかし、だからといって森羅万象の探究ははたして量子力学の「応用問題」にすぎないのだろうか。
と述べ、構成単位の法則の把握と、全体の法則把握は別のものだと、安易な還元主義に釘を刺しています。
また、数量モデルを使った脳研究の第一人者であり、ディープラーニングの源流となったニューラルネットワークの先駆者でもある、東京大学生産技術研究所教授 合原一幸氏はその著書「人工知能はこうして創られる」の中で
脳全体の情報処理の機構はほとんど未解明なので、したがって単一のニューロンレベルでは優れた数理モデルを作れても、それをどうつなげて大規模ネットワークとしての脳を構築するかは今日でも極めて困難な問題です。
〜中略〜
そもそもシンギュラリティと関係した議論における「人間の脳を超える」という言明自体がうまく定義できていないのです。
と、そもそも解明されていない脳の仕組みを「超える」という言い方自体うまく定義できるものではないとしています。
終わりに
今日は筆者の考えるAI脅威論に欠けた３つの視点について述べさせていただきました。
筆者は、現在AIとよばれている技術には大きな可能性があると感じています。その可能性を伸ばしていくためにも、AIへの正しい理解の浸透が必須だと思っています。
参考書籍
この記事が気に入ったらサポートをしてみませんか？