ビッグデータと人工知能 – 可能性と罠を見極める

第三次人工知能（Artificial Intelligence: AI）ブームが到来し，そのエンジン役であるビッグデータ（Big Data）解析や深層学習（Deep Learning）が耳目を集めている．チェス，将棋，碁といった頭脳ゲームで機械が人間を打ち負かすようになり，機械翻訳の水準も向上し，ある用途に特化して用いられる弱い人工知能（weak AI）は既に身近なものになってきた．さらには，使用目的を限定しない汎用人工知能（Artificial General Intelligence: AGI）や人間の知能を遙かに凌ぐ超人工知能（Artificial Super Intelligence）の実現について，人工知能専門家ではない人達が語るようになっている．商魂たくましい企業の中には，何にでも人工知能と名付ければ良いと思っているかのようなところや，汎用人工知能を名乗って勇み足を咎められているようなところもあるが，それくらいに人工知能が広く世間に受け入れられるようになっている．今後ますます人工知能が進歩すると，その社会への影響は非常に大きなものになると考えられている．最近，大きな話題になったのは，事務職を筆頭にホワイトカラーの大部分が人工知能に職を奪われてしまうという報告だ．一般事務職だけでなく，弁護士や会計士など安定かつ高給な職業と思われてきた士業も人工知能に取って代わられると指摘され，注目を集めた．

ビッグデータと人工知能 – 可能性と罠を見極める
西垣通， 中央公論新社， 2016

このような背景のなか，本書「ビッグデータと人工知能」では，その副題「可能性と罠を見極める」にある通り，人工知能の可能性を認めながらも，人工知能が人間に取って代われるかのような将来像を徹底的に否定している．その批判の根底にあるのは，自律的な生物と他律的な機械とは根本的に異なるという認識だ．人工知能がどれだけ発展しても，みずから目標を設定したり，感情や意識を持ったりするようなことはないと断じる．深層学習はパターン認識技術にブレークスルーを起こしたが，画像処理にせよ自然言語処理にせよ，パターンを照合しているだけで，意味解釈をして何かを行っているわけではない．人工知能を搭載した人型ロボットが，人間のような知能を持っているかのように見えたり，感情を持っているかのように見えたりすることはあっても，実際にそのようなものを持っているわけではない．人間の言葉や行動の意味を理解したり，気持ちを感じたりしているわけではない．膨大なデータと高速な演算によってそう見せかけているにすぎない．本書では，人間と機械は決定的に異なり，人工知能が人間を代替することはなく，人間が職を人工知能に奪われるようなことも起きそうにないと指摘している．もちろん，人工知能が定型的な作業を肩代わりするようになるだろうし，職場への人工知能やロボットの導入は進むはずだ．しかし，その人工知能やロボットを使う人間が必要であり，業務内容が変化していくにしても，完全に職を奪われてしまうようなことはないという指摘だ．

機械翻訳の精度が大幅に向上したり，人工知能が書いた小説が受賞候補に残ったりと，その躍進には目をみはるものがあるが，著者は次のように釘を刺している．

はっきり言おう．機械翻訳がかなりの有効性を発揮する場合もあるが，全面的に有効だということはない．人工知能で外国語学習が不要になる日など，決してこないのである．

ちなみに，人工知能に文学作品をつくらせるといった試みは，芸術活動としては明らかに邪道である．過去にない新たな作風の作品を創りだすのが近代芸術の大前提だからだ．コンピュータが効率よくマガイモノを大量生産して市場を制覇するなら，それは「芸術の死」を意味する．

さらに，著者の西垣氏は，人類が2045年に経験すると予想されているシンギュラリティ（技術的特異点）について，そのような事態は起こりえないと一蹴している．人工知能が人間を超えたその後の世界については，そこにバラ色の未来を描き出す楽観論者もいれば，その危険性どころか人類滅亡すら危惧する悲観論者もいる．しかし，楽観論者も悲観論者もシンギュラリティが来ることを前提にしている．そもそも，その前提が間違っているのではないか，というのが本書の指摘だ．プロミングされた通りに動作し，過去に与えられた指令を墨守するだけの機械と，時々刻々と変わる状況に合わせて意思決定をしている人間とは異なる．「あらかじめ設計されたルールにもとづいて作動を繰りかえす空間的存在が機械だとすれば，一回性のある出来事を重ねていく時間的存在が生物というものなのである」とし，静的な過去に縛られた機械と動的な現在を生きる人間の違いを強調するのが著者の立場だ．機械学習で機械も賢くなるという指摘に対しては，プログラムが少々抽象的で複雑になっているだけで，プログラムの変更方法も含めて動作が事前に厳密に決められていることに変わりはないとしている．そうであるのに，なぜ，多くの人達がシンギュラリティ仮説を支持しているのか．そこには，ユダヤ＝キリスト教文化圏における超越的な創造主への信仰と近代科学の発展があると著者は指摘する．生物の中で最高位の人間が，神が人間を造ったように，理性と科学の力で人工知能を造るというわけだ．しかし，それほど信心深くないにしても，神を冒涜することへの恐れから，シンギュラリティに対する悲観論が生まれるのではないかというのが著者の推察だ．

しかし，そもそも，「人間より賢い」とはどういうことだろうか．仮に実際にシンギュラリティを迎えて，人工知能が人間よりも賢くなったとしよう．凡人が天才を理解できないように，人間より賢い人工知能のことを人間は理解できないのではないか．理解不能な意味不明な意思決定をする人工知能は，人間にとって，馬鹿げた意思決定結果を表示する玩具とどう違うのだろうか．そのような人工知能は「廃品」でしかない．このような疑問も著者は投げかけている．

それでも，汎用人工知能あるいは超人工知能が人間より賢いと信じ込ませたい人達と信じたい人達がいれば，人間より賢い人工知能の判断に従うべきだという社会規範ができかねない．賢い人工知能が目指す社会とはどのようなものだろうか．意思決定するためには目標を設定しなければならない．そのためには価値観を持たなければならない．ところが，人工知能は価値観を持たず，目標を設定することもできない．ここに隙がある，というのが著者の指摘だ．表向きは人間より賢い人工知能の権威を振りかざしながら，裏で密かに誰かにとって好都合な目標が仕込まれる恐れがある．ここで著者は次のように問うている．

一神教の支配とは，ほとんどそんなものである．絶対者の権威のもとで，統一的な支配の論理が言あげされ，下々の人々はそれに従わざるをえない．ところが実際には，絶対者は空っぽで，一部の支配層の人間たちが都合のよいように社会を動かすのである．シンギュラリティ仮説をそんな計画の一環と見なすのは，うがち過ぎというものだろうか．

さらに著者は，人工知能を崇めるような社会では，様々な意思決定を行うのは人間より賢いはずの人工知能であり，重大な事故や問題が生じても誰も責任を取ろうとしない無責任社会が出現するという問題点を指摘している．我々のプライバシーやセキュリティはとてつもない危険にさらされることになるかもしれない．

そこで著者は，意思決定においては，価値基準を人間が決めることが重要であり，専門知に支えられた集合知を活用すべきだと説く．一般の人々の多様な知恵が適切な専門知のバックアップをうけて組み合わされ，熟議を重ねて問題を解決していくのが，これからの知の望ましいあり方だとする．そのためには，ビッグデータを解析して専門家を支援すると共に，集合知の精度や信頼性を向上させなければならない．そのような人工知能の開発が有望であり，そこで重要な役割を果たすのが，IA（Intelligence Amplifier）と呼ぶべき専用人工知能であるとされる．

人工知能の研究開発には大きな期待が寄せられており，莫大な予算も投じられている．しかし，日本のＩＴ研究開発には重大な問題があると著者は指摘する．

日本のＩＴ業界は原則として，徹底した欧米追随である．とくに米国の動向をしらべ，その技術をいち早く輸入することに長けている研究者やビジネスマンが事実上のリーダーシップを握っている．彼らのような輸入営業マンは，いつも米国のニュースに聞き耳をたてていて，マスコミ受けするトピックスが見つかると，何でもよいから大声で騒ぎ立てる．その目的は，決定権をもっている素人のスポンサーに働きかけ，政府や企業から多大な研究予算を獲得することにある．

（中略）

大切なのは，まったく違う文化的背景から出てきたシンギュラリティ仮説の中身を，根本からよく考察し吟味することである．そういう努力をせず，かわりに，ただその政治的，経済的な効果のみに注意をそそぎ，あとはひたすら，純粋に専門技術的な短期目標達成のために猛進する—これはまさに，19080年代の第五世代コンピュータ開発プロジェクトがたどった軌跡ではなかったか．

あのプロジェクトが失敗した原因は，技術水準や努力の不足ではなく，リーダーの視野が狭かったことなのである．とりわけ言語コミュニケーションについての見識が決定的に貧しかったことがあげられる．そして500億円を超える血税は泡と消えた．

また，次のような問題もあるという．

日本のＩＴ専門家の視野が狭いのは，彼らが不真面目で勉強不足だからではない．それどころか，彼らはおおむね頭脳明晰で，誠実な努力家なのだ．原因は，理系と文系を峻別する教育，そしてこれにもとづく日本の社会制度にある．さらに言えば，ＩＴ専門家を単なる「技術屋」とみなし，ＩＴの影響力の大きさを無視して，彼らの社会的地位を低いままに保っている風潮にあるのだ．

（中略）

もしシンギュラリティ仮説が真実だとすれば，その影響をまともに受けるのは，政治や経済をはじめとする社会の機構や制度ではないのか．とすれば，文系と理系にまたがる知識教養を身につけたＩＴ専門家チームによる，本格的な深い検討が不可欠なはずである．そういう人材を育ててこなかったことが，最大の失敗だったのではないか．

教育の問題はＩＴ専門家の育成だけにとどまらない．本書で著者は「われわれ一般日本人の，人工知能やロボットにたいする見識は，あまりに脳天気で幼稚すぎる」と指摘し，ＩＴ機器の操作はできてもコンピュータの内部メカニズムの初歩的知識すら持たない人がほとんである現状を問題視している．これまでの情報教育の軽視や，文系と理系を隔ててきた教育制度に問題があるとしている．

人工知能やビッグデータに関連する書籍は数多く出版されているが，技術的な解説や事例紹介がほとんどで，概ねバラ色の未来が描かれている中にあって，本書は人工知能の可能性を認めながらも，その限界や問題点を指摘しており，興味深い内容であった．元々，第二次人工知能ブームの最中にＩＴ研究開発に従事し，その後，情報文化論の研究に移行した著者ならではの切り口であろう．

ビッグデータと人工知能 - 可能性と罠を見極める (中公新書)

© 2018 Manabu KANO.