8・まとまらないまとめ

A：盛り上がっちゃったところで恐縮ですが、そろそろまとめさせていただきます。全体的に見ていかがですか？地に足のつきまくった話に見えますか？

伊東：はいとっても。現実的でいいゲームだと思います。

A：ありがとうございます。今回は本当に少しの少ししかお見せできなかったんですが、主人公は他にもデジタル義賊として、システムを悪用する社会の力と対峙していくわけです。現実世界でも、もう情報化は不可避のもので、電気ガス水道に次ぐ第4のインフラになるでしょう。

伊東：そうだと思います。

A：じゃあ情報の蛇口を開け締めするのは誰か？という話も出ると思います。

伊東：中国は今それを目指してるんです。彼らはこう考えています。一人一人の人間が大事なんだけど、一人一人は本当に賢いのだろうか？一人一人のいい加減な人間に任せると、人類全体が悪い方向に行くのではなかろうか。そうならないためには、ちゃんとした人々が社会をコントロールし、みんなのための社会を作ったほうがいいんじゃないだろうか。というのが共産党の考え方です。あくまで「考え方」ですね。

A：はいはい。

伊東：でも実際は、人間は悪いやつもいっぱいいるので、理想に燃える人がいる一方で、私腹を肥やす人間も必ず現れ、社会主義共産主義は破綻する、というのが我々の歴史でもあります。でも「考え方」としてはそういうものもありますよね、では何が悪いかと言えば、人間が入ってるからです。
　人間には欲望があって、悪い人が混ざってしまいます。でももしこのctOSが完全に人工知能で制御され、基本的動作原理が「人間を幸せにすること」というもので、もしバグがなければ、欲望を持つ「人間」より、世の中を幸せにしてくれるという未来も、あるかもしれない。

A：……きょうメタルギアをやってもらえば良かったかなぁw まさに小島監督の描いた未来と同じでした。

伊東：そうなんですか？　まあ、かも知れないの話ですし。

A：やっぱり、身も蓋もない話ですが、結局人間が問題なのであり、ポルシェ博士の御謹言にある「技術の進歩を止めることはできない。大切なのは人間が追いついていくことだ」という問題が何世紀も続いていて、インターネットも四半世紀この話をしているわけですね。

伊東：インターネットの次は人工知能と量子コンピュータですね。昨日ちょうど晴海でAIの展示会をやっていまして、AIもまだまだプリミティブなものでしたが、将来はそうなるかも知れないですね。

A：そこまでAIにやらせるなら、一社一国に握らせるのではなく、全部AIにやらせなよと。

伊東：でもそのAIを作るやつがワルモノだと、結局ワルモノたちがAIを通して人間を支配しようとするという、SFなんかにありがちなパターンのお話になりますね。

A：大手各社がんばってAI作って欲しいですね。AlphaGoなんかでディープラーニングも極まってきましたでしょうし。

伊東：ディープラーニングも悪いところがあって、元のデータによって変わっちゃうんですよ。ポイズニングという攻撃手法で、わざと悪いデータをいっぱい学ばせて間違った結果を出させるという。

A：マイクロソフトのAIがそんなことされましたね。ヒトラー万歳なAIになっちゃった事件。

伊東：ありましたね。みんなが冗談で悪い言葉学ばせたという。

A：そういうことが冗談で済まなくなる社会が来る前に、今の子供たちにプログラミングをはじめITの教育を受けさせることは、伊東さんは賛成ですか？

伊東：ちゃんと教えられればいいですけどね。でもあまり意味はないと思います。今プログラムを学んでも、彼らが大人になることには使えなくなってる言語や技術がほとんどだと思います。

A：ですか。今の技術に根ざした技術ではあるかも知れないけど？

伊東：考え方を学ぶという意味で、ちゃんと教えられる人がいればいいでしょう。表層的なことだけを教えても意味はないです。大事なことを教える手段としてプログラミングを教えることは賛成ですが、たぶん教えられる人はそういないので、そうはならないでしょう。

A：僕よくコンピュータを車に例えるんですが、運転技術や最新性能の前に、車の動くおよその仕組みや、交通法規やマナーとか、そっちの方が大事ですよね。それはずっと変わらないし。それを教えるために、今ある技術を学ばせる。

伊東：そうですね。それは思います。

A：うあー時間が足りないー！一晩中こんなお話をしたいですが、それはまたの機会に是非！

伊東：ええ、面白かったです。ありがとうございました！

(了）

参考リンク
Microsoftの人工知能は、なぜ虐殺や差別を「支持」するようになったのか
 https://www.buzzfeed.com/jp/sakimizoroki/microsofts-ai-chatbot-into-a-neo-nazi-jp?utm_source=dynamic&utm_campaign=bfsharetwitter

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊
お気に召しましたら投げ銭願います。