大規模言語モデルでドラえもんはできるのか

大規模言語モデルで世間を賑やかしていて、日夜新しい発見、ニュースが目に入ってきます。
個人的に注目しているのはReActであり、大規模言語モデルが自律的に行動選択できるようにすることであらゆる可能性が広がります。
それを再起的に繰り返すことでBingのように自分で情報を調べに行くことはもちろん、自分で書いたコードのバグ修正を行ったり、情報が不足してる点をSlackで質問したりと、自律的に仕事をすることもすでに可能なのではと思っています。

そしてGPT-4で画像が入力として与えられるようになることで、ついに目も手に入れます。
実際に触ったわけではないのでどれくらいの可能性を秘めてるのかは分かりませんが、目とReActを組み合わせることでドラえもんのような自律型のロボットがすでに作れるようになるかもしれません。

ドラえもんはすでに夢物語ではなく、現実的な未来となりました。
この記事では今の技術をベースに、ドラえもんのようなものができるかどうか、そしてその課題について考えていきます。

短期記憶と長期記憶

今のGPTで私が一番に課題に感じるのは、トークン長です。
過去の出来事を記憶させるにはプロンプトとして全て与えていく必要がありますが、そこには限界があります。
いわばジェイルズハウスロックにかかったような、メメントのような状態です。

そのため要約するなど情報を圧縮することでより記憶できる情報量を増やしていくのが一般的です。
人間も体験したこと全てを覚えているわけではなく、大事なことだけ特に記憶に残りますが、同じようなものです。
ただ人間との違いとして、それが長期記憶に反映されることはなく、情報量の少ない短期記憶で全てを賄う必要が出てきます。

もしかしたら自前で長期記憶領域を作り言語モデルの問い合わせに応じて記憶を引き出す形ですでに解決可能な問題かもしれません。
とはいえ 「Generative AIに仕事が奪われるか」問題で現状人間が圧倒的に優位なのはこの記憶力の差だと感じています。

長期記憶が実現した世界

仮に長期記憶が実現したとして、どのようなAIに行き着くのかも考えてみます。

真っ当に考えれば全AIの経験を集約させたマザーAIがあり、全端末がそれを介して思考し、全ての経験が反映されるようなものが合理的そうです。
ただ無秩序に学習してしまうとどう育っていくかは想定できません。
それこそ人間の負の部分ばかり経験し闇堕ちしてSF映画のように全AIが人間を滅ぼす展開も見えてきてしまいます。

またAIだから全ての経験が、無限に記憶できるわけではなく、限界がありどこかで忘却していくものと思っています。
今のGPTの時点であらゆる人間より物知りなので人間以上なのは間違い無いですが、とはいえあらゆる経験を集約させた存在はむしろ性能が落ちそうです。

そうなるとAIは個別に経験し、個別に学習していく、まさにドラえもんのような世界観になるのかなぁと考えています。
（頭脳を共有する端末が数個あることはありそう）

反応速度

常に言語モデルを介して現実世界に干渉するには、ものすごく処理に時間がかかります。
たとえ１秒に１回言語モデルを介して次の行動を起こせるようになったとしても、人間から見たら愚鈍なロボットの出来上がりでしょう。
将来的に性能が上がっていったとしても、おそらく限界があるのではないかと思います。

人間は常に言語での思考を介して行動を起こしているわけではなく、反射的、無意識的に行動を起こすことがほとんどです。たとえば歩くときに「足を上げて」と言語で思考している人はいないでしょう。
おそらくロボットも同じように無意識的な行動と思考がうまく協調するような形に収まっていくのではないかと推察します。

感情・身体感覚

人間が感情を感じるのは、身体でさまざまな脳内物質が発生し、それを感じているからです。
身体がない言語モデルにはそれを感じることはできません。

しかし今のGPTはすでに人間の感情を模倣し、あたかも感情を持つように振る舞うことができます。
ただそれはあくまで学習した人間の反応の模倣でしかなく、そこに身体性はありません。

映画でロボットが「コレガ…カナシイ？」と感情に目覚めるシーンはありますが、動物の身体性含めて再現できないとそれは偽りの感情でしかありません。

チューリングテストのように人間側から感情があるように見えればそれで良いのかもしれませんが、人間と身体感覚を共有できる存在はあと何十年経っても人間しかいないのは間違いないと思われます。

おわりに

大規模言語モデルで自律的なロボットを作ることを考えると、より人間の仕組みに近づいていくのかなと感じます。

考えれば考えるほど人間は合理的にできており、自然界の設計能力はさすがだと思わされますね！