AGIの世界に試される叡智

　汎用人工知能 AGI が10年で実現するという。
　得意の「大ホラ」をぶち上げたのは、この人、孫正義氏だ。でも、この人のホラはホラに終わらないこともある。

　彼の定義によれば、全人類の叡智の総和の10倍がAGIたる条件で、それが10年掛からずに実現するという。
　AIと違うのは、何でもできる点にある。AIは何かに特化したものだが、AGIは何でも対象に出来る。つまり、全方位に対応した万能の存在だ。

　AGIは、今の私たちがAIに抱いているものとは質が違うものになるだろう。
　人が使ったり使いこなすものではなく、パートナー的存在になるのかも知れない。

　AGIが人に何かをアドバイスする時、人がそれに従うのかが問題だ。従わない人がいた時、その自由が担保されるのか。AGIの助言を無視する人は許せないと言い出す人がいそうだし、無視したのなら全て自己責任だろと言われそうだ。話は意外とややこしそうだ。

　いわゆる適正体重を超過した人がおやつにケーキを買おうとショーケースの前に立った瞬間、やめたほうがいいですよ、何故なら・・・、としつこく忠告してくるだろう。無視して決済に進んでも、本当に買いますか？　はい、いいえ、というダイアログが出てくるのだろう。家に持ち帰って食べようとすれば、本当に食べてしまうのですか、そんな事をすればあなたの寿命は32時間減りますよ、今月あなたは既に569時間寿命を縮める行動を選択しています、やめたほうがいいのではないですか、と再度忠告してくるだろう。
　そうだとしたらAGIはかなりウザい存在になりそうだ。

　最適解を選択し続ける事が良いことなのか。そもそも誰にとっての最適解なのか。行動の正しさについてAGIが関わって来るとなれば、その社会的な適用範囲を誰がどう決めるのか。あらゆる判断の根拠がAGIになった時、そのことの結果については誰が責任を負うことになるのか。
　人が責任を負うとしたら、AGIに従った時に問題視されるのか、それとも従わなかった時なのか。人類の叡智を遥かに超えている前提で従わない選択肢はあり得るのか。

　AIGの能力がそれほどまでに高かったとしても、全地球の安寧に必要な能力を兼ね備えているかは分からない。その規模になると人類叡智の10倍では全然足りないのかも知れない。そうだとすればAGIは局所的な最適解を追求することになるから、ともすれば他国を侵略しろ、戦争をしろと言い出しかねないのではないか。
　その進言に対して人間が、AGIの出した答えを鵜呑みにするのか、否定するのか。その判断は実に難しい。相手国もAGIを利用していたら、それを鵜呑みにしたとしたら、戦争を仕掛けてくるはずだからだ。
　ますます人間の叡智が問われる時代なのか、それとも人類の叡智の超えた存在が争いに向かわないように自然に誘導するようになる時代なのか。
　ここに来て叡智が試されている。

おわり