AGIとASIの区別には意味がない

人間は線形思考しがちです。線形でない事象もいろいろあるのでそれに備えなければならないと思います。そのひとつとしてASI (人口超知能) についてお話しします。

AGIとASI

最近、ASIという言葉を聞くようになりました。

ASI（人工超知能）は、単なる技術の進化を超えた、人類の知的能力の境界を拡張する革新的な人工知能の形態を指します。

ASI（人工超知能)とは？基本定義と社会への影響、課題について解説

簡単にまとめると：

• AI (Artificial Intellingence) 特定のタスクについて人間並みの作業を行う（人工知能）

• AGI (Artificial General Intelligence)　人間のように柔軟に未知の作業をも行う（汎用人工知能） 

• ASI (Artificial SuperIntelligence) 人間をはるかに超越する知能（人口超知能）

人間の線形思考の限界

人間はしばしば線形に物を考えます。残念ながら世の中には線形でないこともたくさんあります。18ヶ月で半導体のパワーが2倍になる（あるいは、同じパワーでコストが半分になる）というムーアの法則もその一例です。
倍々ゲームの恐ろしいところは最初のうちは全然変化が起こっていないように見えることです。後半になると恐ろしいスピードで増えていきます([ビジネス+IT], [ATIS])。

Singularity is Nearが語るべき乗のパワー

Singularity is Nearは未来学者Ray Kurzweilが書いた未来予言書です([Wikipedia]) 。2005年に出た本ですが、その中に、人類を超えた知能の話が出てきます。Ray Kurzweilに言わせると、べき乗のパワーはあまりにもすごいので人間は知能を追い越される瞬間を認識できないそうです。遠くにあったものが少し近くなってきたなあ、と思った瞬間、目にも止まらない速度で抜いていってかなたに見えなくなるそうです。
NVIDIAのJensen HuangはGPUの性能は10年で100万倍になっているし、今後10年でさらに100万倍にするそうです。ムーアの法則が10年で100倍ですから、その1万倍です。
人間がAGIとASIの区別をする瞬間は認識されないようです。区別しても意味がないと思います。

むすび

生きている間にASIの時代になるのもまんざら夢物語でもないようです。ASIが来ても、その瞬間に社内や人間がなくなるわけでもないので、身の振り方を考えたいと思います。
一応、OpenAIが能力の低いものが能力の高いものを制御することは原理的に可能、という論文を出していますが、そのお話はまた別途したいと思います([OpenAI]) 。

参考文献

• [AIsmiley] ASI（人工超知能)とは？基本定義と社会への影響、課題について解説 https://aismiley.co.jp/ai_news/artificial-super-intelligence/ 2024年

• [ATIS] ムーアの法則　－指数関数の恐ろしさ－ https://www.atis.gr.jp/topics/2018/ムーアの法則　－指数関数の恐ろしさ－/ 2018年

• [OpenAI] Weak-to-strong generalization https://openai.com/index/weak-to-strong-generalization/ 2023年

• [Wikipedia] The Singularity is near https://en.wikipedia.org/wiki/The_Singularity_Is_Near 2005年

• [ビジネス+IT]「ザ・セカンド・マシン・エイジ」、ムーアの法則に人がついていけない時代が到来か 篠崎彰彦教授のインフォメーション・エコノミー（68）
  https://www.sbbit.jp/article/cont1/30373　2015年