深層学習

暗黙知の説明 by 深層学習の父ヒントン博士

 2019.7.4の日経朝刊にトロント大名誉教授のジェフリーヒントン教授のインタビュー記事がのりました。彼の主張のサマリー的な大見出しが2つ。

・(AIの)「判断」に説明責任なし

・兵器への転用を懸念

 End-to-end Computing (→説明は「人工知能が変える仕事の未来」https://goo.gl/9N7cJE)、すなわち、多対多の入出力の対応関係を、数10億本もの膨大な結線上の重みとして学習する 深層学習は、伝統的なITや、自分の論理的思考のあり方しか理解できない老若男女の古い頭の人たちには理解できない。このように露骨に批判しています。

 これはまったくその通りです。「AIに勝つ!」https://amzn.to/2F13wFR では、このことを、「従来の形式知のルール記述と違って、例えばカキとミカンを100%見分ける仕様書は10万ページ使っても書ききれない暗黙知だ」と説明しています。人間の脳による認識、分類でも事情は同じで、なぜカキに見えたか、ミカンに見えたかは、議論しても仕方のない、脳内の莫大な(形式知として認識不能な)分量のパラメータセットとの照合で決まっている可能性が高いでしょう。

 本来的にブラックボックスである課題に適用する分には、何の問題もないわけです。この点、野村もまったく同感できます。しかし、人々とプロジェクト群、男女のマッチング問題などは、膨大な組み合わせがある点は一見似てますが、論理、形式知で十分に理解、説明できる「理由付け」によってマッチングが行われるべきものです。End-to-endの左辺と右辺の対応付けでニューラルネットでモデル化出来るからといって、ブラックボックスは不可。数理最適化のアルゴリズムを理論的にも実装面でも超高速化することで対応しなければなりません: https://metadata.co.jp/services/xtech.html

  ブラックボックス問題と関連して、かつてTayが人種差別発言を学習してしまい閉鎖された事件などのバイアス問題が話題となりました。これについては、トレーニング(機械的学習)のための正解データセットに紛れ込んだ人間のバイアスが問題なのであって、ローンの審査、人事・採用にしても、改めて理想的な、公平、平等な正解データを作るしか解決方法がないのは言うまでもないでしょう。まったくオーソドックスなご見解です。

 兵器への転用を懸念されるのももっともではあります。しかし、徴兵制の国で、自分の息子や娘を政治家によって戦場の前線に出され命を落とすのを黙認するよりはロボット兵士を作り彼ら同志で戦わせればいいという見解には頷けるものがあります。問題なのは、やはり「自動兵器」。

Hinton: "私は何より自動兵器の存在を懸念している。それは遠い未来に起きることではない。すでに自動兵器を作ることは可能だ。それをコントロールすることに誰もが責任を負うべきだ。"    

 実際、私が3か月ほど前、フェイスブックで紹介したように、銃で有名なカラシニコフ社が、あろうことか「カミカゼ」という名の安価な自爆ドローン兵器が出現しています。ルール無用の戦争への意志を放置していたらこういうことが起こります。このドローンに人間が大勢いる地域を視覚AIや、あらゆるセンサで機械学習した結果、最大人数をコスパよく殺戮するようにAIを作る人間が出てきてしまうのです。それは殆どの場合「安全保障」「自衛」の名の下に行われます。

 最後に、昨年の明るいニュース、チューリング賞です。コンピュータの出現よりはるか以前に、アルゴリズムが終結することについての数学的な証明を成し遂げた天才アラン・チューリングの名を冠したこの賞は、情報科学界のノーベル賞です。End-to-end computingという形容を作り出した、現Facebook AI研究所長、ニューヨーク大のヤン・ルカン博士には、ツイッターでおめでとうのメッセージを送りました:

 独創的な研究を成功させる秘訣の1つは多様性。ヒントン博士は、なぜ北米がAI研究で世界をリードしているかを問われて、自分自身やヤン・ルカン博士など、移民が尊重され、社会の最上位階層にすぐのし上がって、研究なら研究をリードできる、自由と機会平等があるからだ、と答えました。

グーグルは創業者のセルゲイ・ブリンも移民だし、主要ポストにインドからの移民が就いている。
移民は農場で穀物を積むためにやってきていると思うなら間違い。移民は意欲に燃えている人のことをいう。

まったくその通りですね。日本に多数来てくださっている「移民」も、いつまでも大企業下請けの町工場で単純作業したりコンビニでレジ打ちするために来ているのではありません。日本も偏狭な民族主義を捨てて、多様性を尊重する社会にならねばなりません。 

この記事が気に入ったら、サポートをしてみませんか?気軽にクリエイターを支援できます。

Like!ありがとうございます!
1
メタデータ(株)の野村です。人工知能研究40年、WordNet活用研究への貢献から、言語学の深みを活かした自然言語処理応用で知識処理、文書分析、対話、要約を高度化へと研究開発を展開。産業、社会、行政、教育(特に芸術、人文科学)の様々な問題について、なぜ?と自問自答し続けています。

この記事が入っているマガジン

Virtual Life
Virtual Life
  • 10890本

バーチャルとリアルの行方

コメントを投稿するには、 ログイン または 会員登録 をする必要があります。