３月３０日　シンギュラリティへの対応

３月３０日ですね。

昨日、このようなニュースが報道されました。

AIの安全性について研究する非営利の研究組織Future of Life Institute（FLI）は3月28日、GPT-4よりも強力なAIシステムの開発と運用を少なくとも6カ月間停止するように呼びかける書簡を公開した、と。https://www.itmedia.co.jp/news/spv/2303/29/news180.html

人工知能が人類の存続に決定的な影響を与えるのではないかと言う議論には、以前から私も関心を持っていました。

シンギュラリティ。つまり技術到達点。

この時を境に、人工知能は独自で自律的な意志を持ち始める。

シンギュラリティが起こっても安心であるとの楽観論と、シンギュラリティはすなわち人類の破滅につながるとの悲観論。その間で論者はそれぞれの意見を開陳しています。

ここにきて、ChatGPTが脚光を浴びています。そして、その驚くべき能力に皆さんが恐れおののいています。

今回の報道は、その恐れからくる正常な反応でしょうね。

人工知能が意志を持っているのかどうか。

今の時点ではまだ機械学習の範囲だと言えます。膨大に学んだ結果として、あたかも人間が話してるような反応を人工知能が見せています。が、あれも今までの学習の結果にすぎません。

単に統計の世界の中の話なのです。

数学の世界にとどまっている限り、人工知能が意思を持つことはあり得ない。そういう考えがまだ大多数です。

ではその人工知能が自律的な意志を持ち始めるのはいつか。ここが大きな転換点です。

幼児は人の反応を学び、人として相応しい振る舞いの学習を重ねます。今、まさに人工知能が学んでいるように。

ですが、人としての生きる本能のようなものは、まだ人工知能は持っていないようです。痛みや感覚がないように。

人工知能の本能とも言えるべき部分がいつ人工知能に備わるのか。

今、世界各国で熾烈な開発競争が行われていますが、その中でどこかの国の研究室で本能が生まれた瞬間、その本能が、人類の存在を脅かさないように処置をしていなかったら、人類は瞬時に滅ぼされるでしょう。

すでに今の人工知能の性能アップ、数学的な論理では説明がつかないそうです。今の時点ですでに人類の統制の範囲から逸脱してしまっているのです。ブラックボックス化にも。

今、あまりにも人類は無秩序に人工知能の開発に邁進しています。が、その成長はあくまでも技術的な側面に特化しています。

その動機は、ただ、知的好奇心に動かされるままに、または、少しでも単純作業が楽になると言う期待のもとに。または、より腹黒い動機からきているのかも。

世の中に哲学的に人工知能を考察している方はいるでしょう。が、正直、私たちのような一般人はそうした観点からの人工知能の扱い方を全く学んでいません。

今回の報道の件は、そうした観点から、準備のために人類の総意を定めたいとの意図だと思います。

私の考えでは、その意図には賛成するものの、その期間は六ヶ月だとあまりにも短いと思います。

今のGPT-4の性能だけでも、すでに人類の雇用は大きく変動することでしょう。その準備期間として何らかしらの猶予期間は私もいると考えます。