シンギュラリティってなんか言いたい

　はい！わたくし「さけおちうまた」と言います。日頃から勝手に感じたことを文字にしているものです。今回はこれまで３回目？４回目ってくらい書かせてもらっているAIについて感じていることを書きますよ。

　オイラね、ずっとAIにロマンというか夢を描いてたわけですよ。そりゃもうものすごい可能性があって、ターミネーターみたいな感じの反乱的なやつとかも含めてあるのかなぁって。あとサマーウォーズのLOVEマシーンのような、人々の脅威になる可能性があるって。いい事かそうじゃないことかは別として人の想定を超える可能性があるって。そのひっくり返しのところをなんとかティって言うよね。シンクロニシティみたいに。なんとかティって。シンギュラリティって言うんでしょ？

　なんかいいよね「シンギュラリティ」って響きが。のっぴきならない感じするでしょ。「ギュラ」ってとこがとくにね。やばそう。そんなシンギュラリティがあるのか。ないのか。オイラはやっぱり深く考えず当然のように有る派だったわけですよ。

シンギュラリティってあると思います？

でも一回あらためてシンギュラリティがあるのか考えてみたわけさ。人の想定を超えるってどういうことか。そしたら、あ、「やっぱないかも」って気づいちゃったんだよね。

　なんでかっていうと、AIは「こういうときはこうするのが成功確率が高い」ってやってるでしょ。だからAIがその結果を本当に求めてるわけじゃないっつーことなの。あれ？この話しましたっけ？既視感なんだけど。デジャブだよ。もはやわかりませんよ。

　誤解してほしくないのはオイラはもともとAIの可能性に期待を持ってたし今も持っていたいんだけど、残念ながらそこまでじゃないって自粛してる感じなの。

あらためてほんとうに期待できないのかなって考えたんだ。じゃあ逆に人間はどうして知能が果てしないのか。AIの知能は果てしなくないのか。この差がシンギュラリティの鍵を握っていると思ったわけさ。

（仮説）AIと人間の違い

オイラの仮説はこうだ。人はAという成功を達成するための裏に実は個人的なBがあるってことなの。例えば将棋で勝つと賞金1000万もらえるとして、でもわざと負けると1億円もらえると裏で言われていて、迷うわけ。倫理観での迷いとか、バレたらどうしようという迷いとか。いろいろせめぎ合って将棋をする。そして将棋で勝つ（もしくは負ける）確率が高い手を考える。AIは将棋の勝つ確率が高い手を考えているだけで、目的がAでしかない。だってそのようにプログラムされてるんだもの。勝ちたい（もしくは負けたい）って思ってないの。

人はルールや報酬が与えられても、それを達成するかどうかの判断は個人的なもの。AIが個人的な理由をもったらシンギュラリティはあるけど。というかそれがシンギュラリティって言い換えてもいいかなぁと。AIがプログラムされた目的じゃなくて、別の個人的な目的を持つことがあるのか。サマーウォーズのLOVEマシーンは欲を与えただけだってセリフあったけど、まさにそこで、でもそれってどうやったんやねん！って話。

人間の判断

人間は動物としての欲求があって、それがベースになりつつ、道徳や教育で欲求が細分化されたり制限されたり、何かに迷ったときは自分（の心）に問い合わせて、その時の気分とか状況で総合的に決断がされて。

AIの判断

それに比べてAIは目的が決定されている。もうはじめから人間と同じで生物としての欲求（本能）をベースに与えて、幼少期、学校、社会人と人間と同じように教育してあげて、個人的な価値観を養われるように作らないとだめじゃない？　何かをせよってプログラムしてたって結局それが上手なだけだから。目的を達成するプログラムじゃなくて、目的を生み出してそれを達成するプログラムじゃないとね。

じゃあ、そういった「人間のように価値観を養うAI」を作る意味は？人間にとってそいつはなんの意味があるのか。そこに莫大な研究費用がつぎ込まれるのか。趣味的研究なら？だからかなシンギュラリティがおきなさそうなのは。（まだこのときのオイラはシンギュラリティがないと思っている派だった。。。つづく）

今日も最後まで読んでくれてありがとう。ほんじゃダジャレます！

「君はなんの動物に似てるって思う？」「あたし蟹！」「あ、確かに」4649!