人工知能・ロボット の危険性

現在の人工知能が、映画HAL 9000やターミネーターの領域に進化するまでにあと何年かかるだろう？

たしかに今の人工知能は、特定の作業を、高速で実行するだけで、人間のように総合的に判断したり、あらゆる場面で対処するという能力を身につけるまでには、大きな飛躍が必要だ。今は、まだ全然そんなレベルじゃないと考えている、科学者やエンジニアが多数なのは確かだ。

ただ、50年以内に、飛躍的な進歩を遂げる可能性は十分にある。その結果、基本的人権や、選挙権を主張するロボットが登場しするかもしれない。それらは初め、人間との協調するものとして社会の一部に組み込まれるが、ゆくゆくは人間との競合となるのである。

制御

例えば、ロボット掃除機。家でロボット掃除機を稼働させていたら、部屋中に液体が散乱させてしまうという事態はあり得る事だと思う。
しかし、ロボット掃除機からしてみると、それは決められた通りに動いているだけあり、別にジャンプして柵を飛び越えたわけでもないし、プログラムされたように振舞っているだけなのだ。
このように、ロボットは、時おり人間からしてみると、想定外の事件も引き起こす。

制御というのは、想定された事に対処できるようにプログラミングするものだが、現実社会では、偶然の重なりにより、時々想定外が発生する。

原子力発電所がメルトダウンを起こしたように、いくら多額の費用を使い、監視や制御に努めても、アンコントローバブルな事態は時折発生する。

ロボットと共に暮らす社会を、できる限り安全にするためには、
1.いつでもロボットの電源を切れるようにしておくこと。
2.安全に故障するよう設計すること。
3.あまり大きな力を持たせすぎないこと。
これらが大事だ。

とはいえ、ロボットが飛躍的進化を遂げるには、キルスイッチもなく、自己でハードウェアと、プログラムを改良し、強力なハードウェア群と、分散されたコンピューティング、膨大な環境データ、インターネット上の情報、個人情報を使用し、自ら知識を得て、独自の欲求・自我を持ち、自己増殖したのその先にあると思う。

つまり「人間にとっては危険なロボットの登場こそが、ロボット進化論におけるロボットの未来」だとするなら、これは避けては通れないのだ。それでも、いずれ来るその時を、できるだけ、おだやかなものにする努力は必要だ。

一つではない、人工知能脅威論

・仕事が奪われる

これについては、様々な意見があるかと思うが、最初にまず言っておきたいのは、最近よく目にする「人工知能やロボットは仕事を奪っても大丈夫論」のおよその意味は「パンが無ければケーキを食べればいい」という話なんだと思う。

これが問題なのは、いまやってる仕事が、コンピューターか、ロボットに置き換わり、その代わりに、「もっと給料がよくて、ハッピーな作業が全人類に平等に与えられる。というわけではない」という点にあると思う。

世界の仕組みが変わり、みんなもその変化に適応（なくなった代わりの仕事を自ら創出）できれば大半の人はハッピーになれますよ。という話だとしたら、「おいらは今まで通りのままの生活を続けていたいんだよ」と考える人が多数出て来るかもしれない。

・事故は起きる

すでに自動運転自動車が事故を起こしているように、人工知能という名のつくものが登場したからといって、事故が０になるわけではない。

もちろん徐々に改良され、より安全性は高められていくが、プログラムにバグはつきものであり、システム欠陥による、事故や事件は時々あり得る事。

・誤用、悪用

例えば航空機事故では、機械のほうが正しいのに、人間が誤った操作をするという事が時々発生する。

Amazon Echoの誤作動のように、なにかの不具合と偶然で、会話が別の人に送信されてしまうという事もあるかもしれない。

悪用に関しては、現在様々なインフラが、コンピューター制御に代わり、それぞれ、システム上の欠陥を利用し悪用されるケースが考えられる。

さらには人工知能を暴力的行為や犯罪に利用するという事もあり得る。

・人工知能が我々を支配する

極端なことを言えば、時計を見て行動している時点で、人間はすでに機械に支配されてるとも言えるが、これは支配されているんじゃなくて、活用しているんだと言えば、まあそうかもしれない。

すでに、金融などでは人工知能による金融取引が行われている。様々な状況を人工知能が判断して自動で処理する。我々が読む目にするニュースや、情報も、いくつかは人間が直接介さず、機械的に届けられているものが存在する。

判断する領域は徐々に増え、医療分野、政治、司法、軍事など個人にとっては、時に大きな影響を持つ判断を伴う領域に人工知能が介在する。

・人工知能がダメなら、人造脳に接続させる方法も

これまた最近時々見かける、「ロボットに創造性は持ち得ないないから、ロボット脅威論なんて馬鹿げてる」という論調の誤りは、人間の想像力を特別視しすぎているという事にあると思う。

たしかに人間の脳は人類の進化によって発達して来たが、文明を生み出す能力は人間の脳だけのものだろうか？。文明ができたのは、人間の脳が特別だからではなく、文字と、道具を活用したのがたまたま人間だったからではないだろうか。

人間より大きな脳を持つ動物はいくつか存在している。私が思うに、彼らに道具と、言語を渡せば、独自の文化を築くような能力や、想像力はすでに備わっていると思う。

もし、人工知能がこの先、飛躍的な進化は遂げられず、ちょっと高度なコンピューター止まりで、人間のような思考を身につける事ができなかったとしても、バイオロジカルな、脳に、ロボットを繋ぐことにより、人工知能が進化する事でもたらされる問題と同様の問題が誕生する。

すでに、考えることで、マウスを操作するデバイスがあるが、これを既存の生物（人間以外も可能）に繋げるだけで、ハイブリッド人工知能は実現するのだ。

つまり、この先、人間のような想像力を人間以外が持つようになることは、どのみち決まっているのだ。たとえ、機械的なアプローチで実現しなかったとしても。

・命令に従わないロボット

自由な意思決定ができるロボットがもし登場したら、なにをしでかすかわからないという怖さを伴う。

人間はなぜプログラミングされてないのに動くのだろう？

人間は、本能の部分で意識する事なく生命を維持するようデザインされていて、経験や学習により、身体の自由度と、コントロールを身につける。さらに、高度な学習や訓練を行う事で自らの判断で行動し、新たな行動プランを立てられるようになる。

ロボットも学習により、身体の自由と、コントロールを身につけるようにデザイン（プログラム）すれれば、多分自由に動くと思う。

じゃあ自由に動けば、そのうち人間的な活動へと発展するかというとそうはならない。

人間が、人間的なふるまいをするのは、人間的な欲求や、人間的な感覚があるからで、それらの積み重ねにより、今のような人間のふるまいに至っているのだと思う。

危険性を想定しての運用・設計を

人工知能、ロボットの世界にもやがて、カンブリア紀のような爆発的多様性の時代が訪れると思う。人類の進化の樹はここからどこへ向かうだろうか。

SFに登場するようなロボットは当面登場しないかもしれない。ただし、すでに人工知能・ロボットは社会に影響を及ぼしつつある。

ドローン、仮想通貨、人工知能、近年急速に身近になったテクノロジーや商品、それぞれ手軽に利用できるが故、悪用の危険性もある。

例えば、今でも電子メールのメールボックはSPAMメールで溢れているが、これは電子メールが性善説による利用を想定して設計されたからだと思う。

仮想通貨についても、ハッキングによって盗まれた資産が、ダークウェブで換金されたりといった事が起こっているが、それでも、一旦広まってしまうと、その後、根本的な問題解決はなかなか進まないように思う。

そうならないようにするには、単に技術が先進的で優れているというだけではなく、それが実社会で利用されることで想定される、運用上の問題もある程度解決できるよう想定しておくべきだと思う。

自動車は安全運転なら、事故も少ないが、人間は常に安全運転できるという生き物ではない。

そういう想定で、もし自動車を設計・運用してたら、もっと自動車事故は少なくて済んでいる事だろう。