ディープラーニングにおけるAIの限界

冬の時代はもうすぐ到来する

　ディープラーニングの限界は、この技術が一般に認知される前からわかっていたはずである。それにも関わらず、現状のAIがここまで過剰な期待や危機感、恐怖を生み出すことになったのは、画像診断や生成AIなどの画期的な成果を面白がったメディアや人文系の人達が、半ば自覚的に踊らされ続けた事が原因だと思っている。
　金を集めたい企業や技術者たちは、終焉がすぐに来るのがわかっているから、明らかな誇大広告や妄想と言えるようなものまで、あえて強く否定するようなことはせず、極端な脅威論以外は微笑みをもって放置し続けた。誇大広告の伝聞が新たな誇大広告を生み、AIは人類の脅威とまで言われるようになった。
　しかしAIの能力は、実際は全くそのよう状況にはない。今後のAIは確かに利便性や効率の良さを生み出すと思われるが、人間の本質に置き換わるような存在にはならない。人間の本質とは、創造であり、そのために不可欠なのが「概念」の理解である。
　AIの仕組みは、人間の作った大量のデータを受取り、そのデータから特徴や「確率」を学習する。今、生成AIなどで注目されている技術は、その特徴や確率を、ほんの少し数字をいじって出力しているに過ぎない。AIはどんなにデータを受け取っても、概念そのものを得ることは出来ないのだ。
　例えば、『砂浜』とAIに入力すれば、Wikipediaに載っている砂浜の知識や、砂浜に生きる生物や、砂浜のシーンが登場する小説の文章などを出力が出来るだろう。しかしそれらは、人間から学習したデータで、「砂浜」というワードに最も関連して登場したワードや文や文脈を、確率的に表示しているに過ぎない。AIは考えているわけではないし、その概念を理解しているわけではない。繰り返しになるが、関連するワードを確率的に表示しているだけだ。だから大規模言語モデルは、学習パラメーターが多いほど、違和感の無くなる単語や文の出現する確率がより高くなるだけなのだ。
　学習していない内容に関しては、無理やり一番近いデータを持ってくることになるので、いくらでもハルシネーション（幻想）は起こり得るので、頓珍漢な答えを言うだろう。学習している範囲の中で確率的に最もマッチするワードを探そうとするアルゴリズムだから当然の事だ。物事の概念を理解している人間であれば、そのワードが文脈で言われている概念から外れている事は即座に理解出来る。
　現状の技術の延長で、AIにシンギュラリティーが起きるなどと言っているのは、ハルシネーションと同程度の妄言と言わざるを得ない。近いうちに多くの人間がそのような事実に気づくだろうと思われる。次の「AIの冬の時代」はすぐ近くに到来しているはずだ。
　私は全く違う仕組みのAIを考えており、それは概念を扱うことも可能だ。
しかし異なる概念をどのように作用させ、思考の機序を設計するかが課題になっている。