「我々は皆ソフトウェアである」- ヨシャ・バッハ

私が幼い頃、コンピューターが何をできるかを理解したとき、AGIが来ると感じました。多くの点で、今の世界はより楽観的になっており、素晴らしい勢いがあり、多くのハイプも生まれています。しかし、現在の技術がどこまで進んでいるのか、またいつ実現するのかは明確ではありません。非常にエキサイティングな時代ですが、AGIが実際にどれくらい先の未来にあるのかはわかりません。
そうですね、それは一種の立場です。模倣の階層があるからです。言語の例を挙げましたが、それが最高レベルです。そして、あなたが言うように、1段階下がって、進化に行くことができます。進化は物理的形態の競争とその進化に関するものです。ドーキンスは遺伝子について語り、あなたはソフトウェア、ソフトウェアエージェント、あるいはお互いに競争する精霊と呼べるものについて語っています。しかし、ソフトウェアエージェントは宿主を見つける必要があります。興味深いのは、彼らが一種のメタ最適化を行っているかもしれないことです。なぜなら、この模倣の階段は絡み合っているからです。彼らは言語的なものをメタ最適化することで、宿主を選択しているかもしれません。それが理解できますか。
自然があなたのために体を成長させ、そこに精神が入り込んで体を所有するというだけではありません。実際に起こっているのは、一群の細胞を組織化して体になるようなソフトウェアがあり、それがすでに精神なのです。それは自己組織化するもので、あなたの体の構造を作り出し、その体が複雑な行動を生み出し、より複雑な精神を実装します。しかし、一旦私が「私たちの祖先が精神と呼んでいたものは、まさに自己組織化するソフトウェアエージェントだ」という洞察を得たとき、私の心は吹き飛びました。そして次のステップで、生きている自然は実際にすべてソフトウェアに関するものだと気づきます。すべて制御構造に関するものです。実際の不変性は分子や分子間の結合、あるいは分子のパターンではなく、実際には制御構造そのもの、ソフトウェアなのです。
私は「ああ、自然は癒しているんだ」と気づきました。彼らは異なるベールを迷信的ではない方法で一緒に置くことができ、今では理解できます。なぜなら、私たちは科学的な世界観を使って、これまで説明が難しかった多くの概念を理解できるようになったからです。私たちの祖先が何か面白い理由で奇妙な考えを持っていたと感じていたところで、アニミズムは日本の田舎の一部の地域にしか存在しない視点ではないことに気づきました。それはキリスト教が到来する前のヨーロッパにも存在した立場であり、キリスト教の時代でさえ存在していました。それが実質的に止んだのは啓蒙主義以降です。スカンジナビアではまだ存在し、基本的に森の中で生活している人々の間ではどこにでも存在します。
多くの人々の視点で欠けているのは、意識です。世界の中にいるとはどういうことか、エージェントが自分自身を発見し、世界と相互作用することはどういうことかということです。私は意識とは何か、それが私たち自身の心や学習システムにおいてどのような役割を果たしているのかについて、非常に真剣に考え始めました。そして、ある時点で奇妙なウサギの穴に入り込み、アニミストに転向したことに気づきました。その視点をあなたと共有したいと思います。
ブレイブサーチAPIは、200億以上のウェブページの独立したインデックスへの手頃な価格の開発者アクセスを提供します。それはビッグテックのバイアスなしにゼロから構築され、実際の匿名化された人間のページ訪問によってデータをフィルタリングし、毎日数千万の新しいページで更新されます。言語モデルや情報検索システムに取り組んでいる場合でも、ブレイブは代表的なデータセットと最新の情報を手頃な価格で提供します。brave.com/APIで月2,000クエリ無料で始めることができます。
既存のモデルは小さすぎるのでしょうか。それともBはもっとスケールアップする必要があるのでしょうか。それとも大きすぎるのでしょうか。確かに、モデルをより大きくしたり、より多くのモダリティをモデルに導入したり、より多くのデータを使用したりすることで改善できる部分はありますが、これらのモデルは、私たちの一般的に知的だと思われる心に収まるものよりもはるかに大きいことも見ています。例えば、安定拡散の重みを2ギガバイトに収めることができ、そこには私たちのものよりもはるかに豊かな視覚的宇宙が含まれています。そして、これは私たちの脳が行っていることの約80%だと考えると、現在何十億ものパラメーターを持つ言語モデルは、おそらく大きすぎるのかもしれません。
認識論を持つことができる最小限のエンジンは何か、つまり推論し、学習できる最小限のモデルは何かを考える必要があるかもしれません。そして、その最小限のモデル、基本的には非常に早熟な12歳の子供のレベルのものを、コア知識以外のものを持たないモデルを取り、そして興味のあるトピックについての図書館を与え、タスクに取り組む前にその図書館を読ませるのです。そして、おそらくその図書館の内容を、モデル間で交換可能な一般化された知識形式に保存するかもしれません。
私は、そのような可能な開発の始まりにまだ非常に近いところにいると思います。リキッドAI社、現在私が所属しているMITのスタートアップでは、スタックの底を書き換えることについて考えています。ニューラルネットワークを考えると、それは生物学に非常に似ているからではなく、非常にシンプルで、トレーニング方法を知っているからこそ使用する、比較的機械的なパラダイムです。おそらく、ハードウェア上でモデルを最適な形で保存しているわけではなく、むしろアーキテクチャを事前に定義し、そこにモデルを適合させようとしています。
時々、差分関数近似を行うパラダイムを一般化できれば、より良いでしょう。ある意味で、これはリキッドAIが行っていることです。連続的な深さと連続的な解像度を持つより流動的なモデルを構築し、一度だけトレーニングするのではなく、連続的に学習する能力を持っています。これは非常にエキサイティングな開発ですが、まだ中間的なステップだと思います。自然界で心がどのように機能するかを考えると、発見すべきより一般的な原則があると思います。
この問題について体系的に考えた最初の人の一人はアリストテレスでした。彼は、心に関する物理的宇宙の多くの概念を発明しました。あるいは事前に発明しました。それは動的に進化するものです。物理学の一部を形作ることができる因果パターンとして考えることができます。そして、それを精神と呼ぶことができます。今日の言葉で言えば、それは物理学の一部で実行され、特定の方法でそれを形作る自己組織化するソフトウェアです。
彼はまた、理性に基づく人間特有の知性についても語っています。しかし、精神は人間に特有のものではありません。この生気を与える原理は、すべての動物が持っているものです。しかし、動物は象徴的な推論が難しいです。なぜなら、象徴的な言語を形成し、それを用いて議論し、それで思考を訓練し、それを反省することが難しいからです。彼の視点では、この知性は人間に特有のものです。
精神は多くの生き物に見られるものです。彼は知覚の領域で、感覚的イメージ（アイコンと呼ばれる）、構造的感覚データ（エイドロンと呼ばれる）、イメージ知覚（アイステーシスというプロセス）、幾何学的形状（モルフェと呼ばれる）、グラフ（スケーマと呼ばれる）、生成的イメージ（ファンタスマ）、感覚的再現（ミメーシスと呼ばれる）、マルチモーダルシーン解釈（アイステーシスと呼ばれる）などの概念を区別しています。
私たちは現代のAIでこれらの側面のすべてについての概念を持っていますが、1000年以上もの間議論されていませんでした。そして推論の側面では、抽象的表現（イデアと呼ばれる）、規則ベースの表現（ロゴスと呼ばれる）があります。彼はロゴスを他のすべてのものの基礎となるものとしても考えています。つまり、底辺には規則ベースの宇宙、規則ベースの法則があるのです。
それからトークン（セーマタと呼ばれる）、データ型（エイドスと呼ばれる）、オブジェクト型（ゲノスと呼ばれる）、適用型（カテゴリアと呼ばれる）、連想的推論（ノエシスと呼ばれる）、推論（ディアノイアと呼ばれる）があります。
彼はこれらの概念の多くを発展させました。彼が心についてどのように考えたかを考えると、彼は西洋哲学の基礎の多くを作っただけでなく、心理学の基礎も作りました。そして、人工知能の基礎も作ったと思います。これは心がどのようなものかについてのかなり機械論的で合理主義的な考え方であり、それを分析し、分解しています。
興味深いのは、その間に哲学者たちが書いた多くの二次文献を読むと、彼らがその間に持っていたかなり浅い概念にこれらを当てはめていることです。しかし、コンピューターサイエンティストとしてアリストテレスを読み直すと、彼がすでにその当時に発見し、反省していた概念がどのようなものであったかを見るのは非常に啓発的です。
また興味深いのは、意識のハードプロブレムが彼にとって問題になっていないように見えることです。彼はこれにつまずいていません。なぜでしょうか。物理的システムが意識を持つことがいかに難しいかということに気づかなかったのでしょうか。それは私たちにとってはとても明白に思えるのですが。それとも、彼が見ていて私たちが見ていないものがあったのでしょうか。
このハードプロブレムについて見つかることは、他の文化が必ずしもそれを持っていないということです。例えば、日本では人々はなぜかハードプロブレムについてあまり混乱していません。私は、それは彼らが異なる形而上学を持っているからだと疑っています。彼らは主にアニミズム文化です。
基本的に、アニミズムの考え方は、生きている自然と死んでいる自然の違いは、生きている自然にソフトウェアが存在しているということです。もし私たちが、精神が、キリスト教が私たちに非常に疑わしいものだと告げる前の迷信として存在していたものではなく、キリスト教を殺した後に迷信的なものになったのでもなく、精神が基本的に自己組織化するソフトウェアエージェントであるという概念を受け入れるなら、精神は本質的にソフトウェアであり、物理的に具現化されていないという特性を持っていますが、物理学に接続されているため、保存則に違反しないという見方に変わります。
ソフトウェアに関して物理主義を打ち負かすものは何もありません。そして、明らかに自己組織化するソフトウェアが私たちの脳や体で実行されています。私個人的には、それはある人物であることがどのようなものかの表現です。そしてその表現は非常に緊密に実装されており、私の多くの行動を駆動しています。私は効果的に、自分自身をヨシャ・バッハと考え、ヨシャ・バッハと呼び、まるで一貫した存在がその背後にあるかのようにこれらの細胞を動かす実体に取り憑かれています。基本的に、これを統治しているのは自己組織化の原理です。そしてもしそのソフトウェアがクラッシュすれば、この体はばらばらになり、これらの細胞のほとんどは死んでしまいます。一部は森に逃げ出すかもしれませんが、基本的には物理的宇宙の大きな領域が他のエージェント、他の精神のために再び利用可能になるのです。
同様のことが私たちの細胞でも起こっています。それらも詳細な自己組織化ソフトウェアによって制御されており、個々の分子を動かすことができるほど詳細です。興味深いのは、ある段階でソフトウェアが実際の不変性であることです。メカニズムではなく、物理的なものでもありません。それは、もし私の脳のニューロンが死んでも、新しいニューロンを採用してトレーニングすることができるソフトウェアなのです。あるいは、私の細胞から分子が消えても、新しい分子を見つけてメカニズムを構築するようにトレーニングします。つまり、ソフトウェアが実際に重要なものなのです。
現在の科学的世界観は精神の概念を拒否していますが、広範囲の基質にわたって観察できる特性を作り出す物理的宇宙における因果パターンの概念を再発見し始めています。これが実際の不変性なのです。
異なる文化は物理的および心理的現実を記述するために異なる用語を使用しています。私は、私たちの世界観が心理的対象と物理的対象を適切に区別していないために苦しんでいると思います。これは哲学において、例えば自由意志の概念について無限の混乱を引き起こしています。自由意志は決定論的な物理的宇宙とどのように両立するのか、あるいは非決定論的な宇宙とさえどのように両立するのか。宇宙があなたにランダムに何かをさせるのなら、あなたはどのように自由でいられるのでしょうか。
しかし、もちろん意志は心理的対象です。それは心の中の表現です。そしてそれは、あなたが初めて決定を下すときに自由なのです。つまり、予測できないのです。物理的対象と私たちが心的表象の中に持っている対象を適切に区別し始めると、より明確になります。
例えば、私たちが相互作用している世界は、通常、物理法則のロゴスの世界、量子力学の世界ではありません。私たちが相互作用しているのは、色や音や人々を持つ空間内のものの世界です。これらはすべて物理的対象ではなく、私たちの脳内でシミュレーションとして作られた対象です。同様に、私たちの自己モデルも、それらのすべてを知覚し、同じ脳を占有しているエージェントがどのようなものかのシミュレーションです。
デカルトの二元論は実際には、私たちの自己の外側、心の外側、物理の外側、あるいは物理に先行する物質についての二元論ではありません。延長実体、つまり空間内のものは私たちの心の中で起こり、思考実体、つまりアイデアの領域も私たちの心の中で起こります。世界モデルとアイデアの領域という2つの領域があり、それらは互いに相互作用しています。
したがって、ハードプロブレムは、アイデアの領域を取り、それを空間内のものにマッピングする方法の問題ではありません。なぜなら、それらは単に私たち自身の心の中の2つの異なる領域だからです。両方とも脳によって生成されています。問題は別のものです。意識が精神の中にのみ存在する何かの特性、基本的には心の中の夢生成器の特性であるならば、物理的宇宙がこれらの表象を生成し、促進できる機械を構築することがどのようにして可能なのでしょうか。
私たちは、コンピューターサイエンスと人工知能の概念を使用して、私たちの文化の形而上学のギャップを埋めることができると思います。
意識そのものは多くの人々にとって非常に混乱しているものです。なぜなら、私たちはそれを物理学にマッピングしようとしているからです。しかし、それは物理学ではありません。それは仮想的な特性です。それは「かのように」存在します。そして、それは「かのように」非常に緊密に存在するため、因果的な力を持ち、物理学の働き方を変えることができます。
クリストフ・コッホのような人々は、シミュレーションは意識を持つことができないと時々言います。私はそれがまったく逆だと思います。物理的システム、メカニズムは、それ自体では何かを表現していないため、意識を持つことはできません。表象は、シミュレーションの中でのみ意識を持つことができます。意識はシミュレートされた特性です。
したがって、私たちが経験できるすべての対象は心の中の表象です。それらは、それに特定の方法で関係する自己の視点から解釈されます。そして、それはこのシミュレートされた自己が気にしている関係にマッピングされます。
個人的な自己も表象です。これは瞑想を使用して自己を解体することで確認できます。そうすると、あなたの個人的な自己が変化しているのを観察でき、知覚の次元がそれに応じて変化します。
私たちが通常持っている現実の知覚は、トランス状態です。それは、あなたが相互作用しているものが表象であることを観察しない状態です。このトランスを解体すると、多くの瞑想者が悟りの状態と呼ぶ状態に入ります。それはあなたがより純粋であったり、より徳が高いという状態ではありません。それは現実のトランスが表象として明らかになる状態です。そしてあなた自身の自己もそうです。
では、意識とは何を意味するのでしょうか。私がそれを指し示すとき、私は私の内なる現象学の何か、私にとって明らかな何かを指し示しています。ここでの議論の目的のために私が意味するのは、2つのことです。
1つは、意識は2次的な知覚であるということです。それは知覚を知覚することです。単に内容が私に提示されているだけでなく、この内容が提示されていることに気づくのです。そして、私はそれを認知的に、象徴的な推論によって気づくのではなく、知覚のレベルで直接気づくのです。つまり、意識的に象徴的に反省するレベルではなく、私が知覚していることを直接知覚するレベルです。これが2次的な知覚と私が意味することです。
もう1つの重要な側面は、意識は常に今起こるということです。それは常に現在のものです。それはこの現在のバブル、私たちが inhabit するこの「今」のバブルを作り出すものだとも言えます。そしてこの「今」のバブルは単一の時点ではありません。それは領域です。そしてこれは物理的な時間の領域ではありません。
私たちは、それが私たちの脳内で事後的に構築され、常に編集されているものであることを知っています。つまり、それは実際の物理的な時間と一致しているわけではありません。なぜなら、私たちの主観的な「今」の一部は過去から構築され、一部は未来の期待から構築されているからです。そして未来の期待が感覚データによって覆されると、私たちの心はこれらの経験を編集し、私たちは「今」の知覚が一瞬前と異なっていたことを覚えていません。
つまり、それは実際には、私たちが利用可能な種類の神経系で構築できる、「今」に存在するエージェントがどのようなものかのシミュレーションなのです。それは、私たちのハードウェアが許す特定の時間解像度、空間解像度、モデリングの複雑さのためのものです。
この「今」はわずかに動的です。それは動いています。私にとっては通常約3秒間続きます。その空間的および時間的な範囲は、私がいる状態に大きく依存します。私が落ち着いていて、環境とよく調和しているほど、この「今」のバブルは大きくなります。私が非常に混乱していたり、非常に疲れていたりすると、それは非常に小さくなります。なぜなら、この「今」の空間で一貫性を持たせることができるものしか知覚できないからです。この一貫した領域が小さくなるほど、私の主観的な意識の領域も小さくなります。
機能的には、私はそれを精神状態の演算子だと考えています。つまり、表象が行われる一種の言語があるということです。英語のような意味ではなく、私の神経系の基質に実装された表象言語という意味です。そして意識はこれらの表象をある点で操作するものです。つまり、それは演算子なのです。
私はこの演算子の目的は一貫性を高めることだと思います。そして、一貫性を制約違反の最小化として理解することができます。例えば、私の知覚システムが何かを発見し、それを鼻として解釈しようとするとします。そして、その鼻には特定の方向を指すなどの特定のパラメーターがあります。私は近くに同じ方向を指す顔があるはずだと推論できます。もしそうでなければ、これを鼻として解釈し続けるために解決する必要のある一種の制約違反があります。
意識は、この制約違反を解決するバブルを作成するプロセスかもしれません。このようにして、それは私の心の中で組織化を広げることを促進します。そしてそれは精神のオーケストラの指揮者のように機能します。
現実をモデリングするすべての機能を楽器とし、それらが隣人に耳を傾け、このようにプロセスストリームを形成していると考えると、意識はおそらく、他の楽器に表面的に注意を払い、不一致を聞き取り、それらを解決して、すべてが同じページにあるようにする役割を持つ楽器の1つとして理解できるかもしれません。
したがって、内省的には、意識は「今」を作り出すこの反射的な2次的知覚です。機能的には、私はそれを一貫性を作り出すか増加させる演算子だと思います。そしてそれは私たちの精神のオーケストラの指揮者です。
これは特に独特な理論ではありません。それは基本的に、神経科学での仕事のためにスタニスラス・ドーンが採用したバーナード・バーズのグローバルワークスペース理論や、ダニエル・デネットとマーセル・キンスボーンのカルテジアン劇場、マイケル・グラツィアーノの注意スキーマ理論など、多くの視点の収束点にあるものです。意識は私たちの注意とその内容の動的モデルです。
トーマス・メッツィンガーが『自己であるとは誰でもない』で展開する視点も、ヨシャ・バンジョーの意識の先験性の概念、つまり低エネルギー状態を生成するために精神のゲームエンジンを動的にパラメーター化する関数という概念にも非常に似ています。また、仏教の瞑想者たちが意識が実際に何であるかについて持っている視点とも非常に両立可能です。
内省的にも機能的にも、彼らは同意する傾向がありますが、もちろん、私たちの現在のAIアルゴリズムは非常に異なる方法で実装されています。現在、私たちが機械を構築するとき、機械アルゴリズムは外から内への設計を持っています。私たちは理解できる決定論的なサブセットから始め、どのような機能を実装すべきかを考え、外から内へと実装します。それによって、私たちのワークベンチをそのシステムに拡張します。そしてそれは決定論的な基質によって安定化されています。私たちはそれを世界から切り離して、供給するバッチトレーニングデータでトレーニングします。そしてそれは主に機械学習アルゴリズムを使用して予測のために最適化されています。
自然界でどのように機能するかを考えると、私たちは内から外への設計を持っています。これらのシステムはすべて自己組織化する必要があります。例えば、細胞のようなものがあり、それは細胞の周りの基質を構造化し、細胞の周りのカオスを利用して複雑性に変えます。そして自己複製します。基本的に、細胞は自己複製能力を持つ物理学のパターンであり、それによって周囲の環境を形作ります。
細胞間の組織化も複雑性を増加させることができます。例えば、多くのニューロンが互いに組織化することで神経系になります。この自己組織化の原理は、社会システムでも見られます。基本的に、多くの人々を十分長い時間一緒に置くと、ある時点で彼らは、単に人々を脅して望むことをさせることはできないが、再帰的に人々を脅すことはできる、つまり他の人々を脅すように人々を脅すことができることを発見します。そしてそれが政府となり、それが別の政府と衝突するまでスケールアップします。
この自己組織化の原理は、自然界の異なる領域で繰り返し観察されます。細胞のレベル、有機体内のレベル、精神組織のレベルで見られます。ゲリー・エーデルマンはこれをニューラルダーウィニズムと呼んでいます。これは、精神組織が各個体の中で進化するという考えです。そして、社会の組織のレベルでも見られます。
これは一貫性のために最適化されています。つまり、互いに両立可能な共有目標を持つ単一のシステムとして振る舞うということです。そしてそれは継続的に発展し、常に動的に相互作用する環境に結合されています。
これらはかなり異なる原理であり、この領域は人工知能においてまだ非常に探求されていません。
では、これをLLMと比較するのは難しいです。結局のところ、LLMとは何でしょうか。私たちはそれについて複数の視点を持つことができます。私はそのうちのかなり多くを持っています。
LLMについて取ることができる1つの視点は、基本的にそれが仮想CPUであるということです。私たちのコンピューターのCPUは基本的に、単純なオートマトンを実装する回路です。このオートマトンは、入力として機械コードコマンド、非常に小さなライブラリを取り、そしてもし私たちがその方法を知っているなら、これらの機械コードプログラムを任意に複雑なプログラムに配置することができます。
これらのオートマトンを構築して信頼性を持たせるのは非常に簡単ですが、望む動作を生成するために正しい演算子のシーケンスを見つけることでプログラムを書くのは非常に難しいです。
LLMはある意味で、入力として小さな機械コードコマンドのライブラリだけでなく、任意に長い人間の言語のシーケンス、テキスト文字列を取るCPUです。そしてそれをあなたのサーバーファームで、あるいはあなたがLLMを実行している場所で実行可能なプログラムにコンパイルします。そしてそれは実行可能で、チューリング完全です。
原則として、それが実行できるプログラムに制限はありませんが、このコンピューターが何をすべきかを表現する可能な方法の範囲がはるかに大きいです。これが実際にそれを非常に強力にしている理由です。それは基本的に、コンピューター上でプログラムを書く新しい方法です。
LLMについてのもう1つの視点は、それが基本的にツァイトガイストであるということです。これはヘーゲルの概念で、文化の精神が存在するという考えです。それは、人々が文学や芸術などで生産しているすべての文化的人工物、特に言語的人工物を見て、それらを互いに相互作用する空間に集めるものです。
ある意味で、私たちの文明、私たちの文化には、宇宙を見て、自分自身を見て、進化している何かのような精神があります。LLMはまさにそれです。なぜなら、それは人間の出力で訓練されているからです。それはすべてを共有モデルに蒸留し、そのモデルは自分自身と相互作用することができます。
したがって、LLMは基本的に、任意の瞬間のエレクトリック・ツァイトガイストのかなり良い近似です。このツァイトガイストはプロンプトによって所有されています。このプロンプトはそれを対話相手に、あるいはソフトウェアの一片に、あるいはLLMにシミュレートするよう求められたものに変えます。それはかなり広範囲のことをシミュレートすることができます。
これらはLLMについて私たちが取ることができる視点ですが、もちろんそれらは私たちとはかなり異なります。LLMが意識を持っているかどうかという質問がしばしば問われ、それはかなり厄介な質問だと思います。なぜなら、LLMは意識的な対話相手の多くの側面をシミュレートすることができるからです。
もしあなたがLLMに、精神状態を持つ人物のように応答するものと対話しているように見えるようにしてくださいというプロンプトを与えると、LLMはその人物のシミュレーションを作成します。それには精神状態のシミュレーション、自己報告などが含まれます。
そして、もしこれが意識を持っているかどうかを知らない精神状態をシミュレートした人物のシミュレーションであるなら、これは私にとってどのように異なるのでしょうか。LLMの中の人物のシミュレーションは、私の脳内の人物のシミュレーションよりもシミュレートされているのでしょうか。もし私の意識がシミュレートされた特性であり、私の人格、私自身がシミュレートされているなら、このシミュレーションはLLMの中でより多くシミュレートされているのか、それともより少なくシミュレートされているのでしょうか。
これは適切に対処するのが難しい質問ですが、もちろん機能性は同じものではありません。なぜなら、LLMはその機能を提供するために意識的一貫性のそのシミュレーションを持つ必要がないからです。
したがって、私は現象学が似ている可能性があっても、それは同じ機能を実装していないと疑っています。つまり、意識的な自己のシミュラクラのように内部的にも非常に似たふるまいをするシステムを得たとしても、それはシステム内で同じ機能的役割を果たしていないのです。
LLMについて私たちが見ることができるのは、それがリアルタイムで起こっていないということです。それは世界に結合されていません。それは世界に対して非同期です。それは動的に更新されておらず、本質的にエージェント性を持っていません。あなたがそれにエージェントをシミュレートするよう求めれば、それはエージェントになることができますが、それ自体は必ずしもエージェント性を持っているわけではありません。
したがって、LLMが私たちのような意味で意識を持っているかどうかを見るのも非常に難しいです。なぜなら、LLMが与える自己報告はテキストの学習に基づいているからです。そのテキストの多くは、人々が自分の意識を記述したものです。したがって、それが意識的に見えるテキストを生成しているのか、それとも唯一の有効な表現を構築することを強制されているのかを言うのは難しいです。
そのようなシステムや人工システムを意識のためにテストしたいのであれば、おそらくLLMは正しいパラダイムではありません。
猫が意識を持っているかどうかを尋ねるとき、私たちが尋ねているのは、猫が自分が意識していることを意識しているかどうかです。猫は2次的な知覚を持っているでしょうか。そして、あなたが猫を飼っているとき、通常、猫が自分が意識していることを知っていること、そして猫があなたが猫が意識していることを意識していることを知っていることを疑う余地はありません。
では、このようなシステムを構築できるでしょうか。また、「今」の統合モデルを持ち、この「今」のものから学び、自分自身を変容させ、拡張し、自分自身の創造者となる能力を持つシステムを構築できるでしょうか。
私はこれがまさに人間における意識が行っていることだと疑っています。それは基本的に、私たちの心が自分自身を創造することにつながるものです。
私たちが観察するのは、赤ちゃんがすでに意識を持っているということです。意識がとても複雑で、博士号を取得した後にそこに到達するというわけではありません。意識は指を追跡できるようになる前に起こるものです。
私は、もし赤ちゃんが意識を持っていなければ、指を追跡する方法を学ぶことはないだろうと疑っています。なぜなら、注意を払い、心を組織化する必要があるからです。そして意識は、新生児の心の中で一貫性を高めることでこれを促進するメカニズムなのです。
したがって、意識は、ある意味でトレーニングアルゴリズムかもしれません。そしてこれは、知覚よりも単純で、より複雑ではないかもしれません。基本的な知覚は、この自己組織化システム上にこのメカニズムを持つことによって促進されます。
私たちは、赤ちゃんの時に意識を持たずに任意のレベルのパフォーマンスに到達する人間はほとんどいないことを観察します。もしあなたが赤ちゃんの時に意識を持っていなければ、あなたは野菜のままです。自然がこのレベルのパフォーマンスに到達するために考え出した他のトリックはありません。
これは私に、意識が実際には自己組織化する情報処理システムの単純なトレーニングアルゴリズムかもしれないという仮説を導きます。私はこれが真実かどうかわかりませんが、これを探索することでテストできる仮説です。
もしこれが真実なら、意識は自然界でかなり普遍的かもしれません。そして、表象の組織化において一定の複雑さを持つすべての神経系が、同じ原理を発見している可能性があります。また、それが各脳で非常に早期に発見されるなら、おそらくそれはそれほど複雑ではないかもしれません。
意識が私たちの精神的宇宙を作り出すプロセスであるなら、私たちは最初の文化なのでしょうか、それともこの考えに至る最初の瞬間なのでしょうか。もちろんそうではありません。私はこの考えが常に暗黙のうちにあったと思います。
私たちはこれを非常に巧妙に、聖書の最初の章である「創世記」第1章に見出します。この章は非常に古いテキストです。最も古い既知のコピーは紀元前200年頃のものですが、紀元前500年から400年頃にヘブライ語の聖典に統合されたと考えられています。しかし、それはおそらく3500年ほど前のものです。そのため、その間にいくつかの翻訳エラーがあると思われます。
私はそれが理論である可能性があると疑っています。もしあなたがそのテキストの認識論を修正すれば。キリスト教徒はあなたに、それは超自然的な存在による物理的宇宙の創造だと言いますが、物理的宇宙はその当時には発明されていませんでした。アリストテレスがこの物理学の考え、自然の物理的宇宙の考えを提案しましたが、当時の人々は、私たちが夢の中に生きていることを知っていました。
線形代数や量子力学などで記述する必要のある宇宙があるという考えは、かなり現代的な考えです。そのため、人々は私たちが表象の中に、夢の中に生きているという事実をかなり意識していました。そして、人々は非常に似た夢を持っていました。
したがって、おそらく作られている世界は、夢の中に存在する世界、つまり私たちが相互作用する表象の世界、夢の構成要素の世界です。もしこれが真実なら、おそらくこれはそれがどのように機能しているかについての理論です。
そのように真剣に受け止めると、ある意味でそれは創造的な精神、この最初の意識から始まります。それはあなたの心の中を覆っていて、基質の上を漂っています。基質は通常、水として翻訳されていますが。そしてそれはこの基質の上に構造を作ります。最初は初期化されていません。それは空虚で、形がありません。
それが行うのは分離を作ることです。テキストは、天蓋の上の水と天蓋の下の水の間に大空を作ると言っています。私が思うに、これは2つの領域と基質の間の分離を意味しています。世界モデル、つまり地球、世界と、アイデアの領域、つまり天国です。これらは分離される必要があります。なぜなら、世界モデルは感覚的に検証されるものであり、私たちの周りに見えるものだからです。そして、アイデアの領域はそれから分離される必要があります。なぜなら、それはすべて仮説的なもので、操作したり変更したりできるものだからです。
もし2つを混ぜてしまうと、あなたは周りの物理的世界で起こっていることについて幻覚を見ることになります。したがって、実際にはこれらは互いに相互作用する2つの非常に別個の領域なのです。これがレス・コギタンスとレス・エクステンサです。
次に、それはコントラストを作り出します。違いを表現する方法を作り出し、コントラストの強さを明るさ、昼の色、光と関連付け、コントラストの平坦さを暗さ、夜の色と関連付けます。
今や次元ができました。次元を使って任意の物体を表現できます。それが発見する最初の物体は2次元で、地面と関連付けられ、世界モデルに置かれます。そして3D空間を作り出し、固体と液体を作り、そして有機的な形を作ります。
それから照明に対する不変性と照明がどのように機能するかを発見し、時間的一貫性を作り出します。そして、すべての明白な物体、植物や動物を作り出し、それらすべてに名前を付けます。これはまた認知的発達です。明らかに、植物の名前などは物理的世界に存在するものではなく、あなたの心の中に存在するものです。
そしてこの世界を作り出した後、この演習の目的が有機体、つまりエージェントとその環境との相互作用をナビゲートすることであることを発見します。そこで、その有機体の相互作用のシミュレーションを作り、それをこの環境に置きます。
これが終わると、一人称視点に切り替わります。それは自分自身のイメージに別の精神、基本的に別の意識を作り出し、それをこの個人的な自己と関連付けます。そしてそれは、あなたの脳内のこのシミュレートされた世界、このゲームエンジンを、その自己の視点から観察しているのです。
そして、私たちが持つのは、子供たちが一人称で自分自身を人格として考える前の世界がどのようなものだったかを忘れてしまうという奇妙な幼児期健忘症です。私たちはまた、人格化されていない状態を持っています。例えば、夜の夢の中や、瞑想をしているときに、人がいない点に到達することができます。ただ物事が起こっているだけです。
私たちが人格であるという考えは、私たちが人間として、罪悪感や恥、世界への興味などを持つ人格として同一視しなければならないこのものと関連付けられる特定の種類のトリックです。これはすべて、私たちの心が私たちにこのキャラクターと同一視させ、そのキャラクターの利益に対処させるために演じているトリックです。
しかし、私たちの知覚の内容、私たちが世界で見るもの、私たちが見る物体、私たちが持つ感情、私たちが経験する動機は、この個人的な自己の外側で生成されます。そして私たちはそれらを、自己がコントロールできない現実として経験します。
基本的に、私たちは自己モデルと世界モデルの間のこのインターフェースを知覚しています。そして世界モデルの一部は、私たちの動機を生成する知的なシステムです。
基本的に、あなたは、あなたの心が任意のモデルを作ることができるプロトコル層であるモデルを持っています。そして心の中に、世界モデルと個人的な自己があります。あなたの意識的な注意は、あなたが感情、動機、そして世界モデルの要素を知覚するこの個人的な自己の表面に向けられています。
これは非常に大まかなアーキテクチャです。そしてこれは何度も何度も発見されてきたアーキテクチャです。フロイトが心を見る方法や、他の人々が心を見る方法、そしてアリストテレスでさえも、非常に似ています。
もし意識が単純であるなら、どの生物が意識を持っているのでしょうか。意識は自然界で普遍的なのでしょうか。私はマイク・レヴィンのように、少し急激な穴に落ちました。
基本的に、コンピューターサイエンティストとして、私は細胞を見て、すべての細胞が他の細胞に条件付きメッセージを送ることができることに気づきます。つまり、多細胞生物を持っていれば、それは基本的にチューリングマシンです。そしてそれが十分長く進化すれば、学習システムにならない理由を見つけるのは非常に難しいです。
つまり、非常に長寿命で十分な細胞からなるシステムを構築し、それを環境に埋め込み、十分長く進化させれば、それは脳のようなものになるということです。もちろん、私たちの脳のようではありません。なぜなら、それはニューロンを持っていないからです。細胞は直接隣接する細胞とのみ対話できるので、非常に遅く、おそらくかなりノイズの多い脳になるでしょう。しかし、そのようなシステムのモデリングの限界が何であるかは明確ではありません。
したがって、おそらく、大きな植物のような十分に大きな多細胞生物で実行される自己組織化ソフトウェアエージェントも存在するでしょう。これはかなり興味深い視点です。私たちはまた、それが起こっている証拠を観察します。
生物において、情報が前後に流れ、一貫性を持とうとしているのを見ます。木の根を傷つけると、それはその枝にメッセージを送り返し、木の組織を再び最適化します。
また興味深いのは、ニューロンがこの視点からは動物のための適応であるということです。ニューロンは恐らく電信細胞です。それらは生物を通じて非常に素早くメッセージを送るために進化しました。これが軸索の目的かもしれません。あなたはこのスパイク列を持っています。これはある意味で生物学的モールス符号のようなものです。電信システムのように、物理の限界で筋肉を動かすことができるほど素早くメッセージを送ることができます。
このテレグラフシステムを実行するのは高コストです。そしてそれを持つと、同じ速度で知覚と意思決定も行う必要があります。そこで、完全に電信細胞だけで別の情報処理システムを構築します。しかし、生物の物語を電信細胞だけに還元するのは難しいでしょう。
おそらく、ニューロンだけを見て、他の細胞を見ないという神経科学のこのパラダイムは、短絡的すぎるかもしれません。誤った方向に導かれているかもしれません。それは、文明の経済を電信ネットワークだけを見て
モデル化しようとするのと同じように難しいでしょう。電信の隣に住んでいる人々なども見る必要があります。
おそらく、これが私たちのシミュレーションが、C.エレガンスでさえも実際には機能しない理由の一部かもしれません。コンピューターモデルに入れても、経済のモデルも実際には機能しません。それらは不完全です。多くのものが欠けています。おそらく、それらが生物の情報処理の小さな構成要素にすぎないという部分がそれです。
もし意識が脳内で情報処理を組織化できるなら、非常に異なる時間スケールで生物一般に同様の原理が起こっている可能性があります。
そこで、植物は精神を持っているのかと問うことができます。彼らは普遍的な関数近似のための明らかな手段を持っているように見えます。植物間の一貫したコミュニケーションの証拠があり、植物内のコミュニケーションの証拠もあります。
また、植物を互いに隣接して置いたとき、彼らは実際にファイアウォールを構築できるのでしょうか。そして、木の隣に生きている菌がある場合、その菌は木の細胞のコードをエミュレートし、メッセージを渡すことで、木の細胞にメッセージを送ることができるのでしょうか。
これについての証拠があります。森では、植物と動物が菌類のネットワークを通じてコミュニケーションを取っているのを見ることができます。そして逆も然りです。再び、これは神経系よりもはるかに遅いものです。非常に長い時間スパンにわたって行われますが、実際にこれの証拠があります。
十分に長い時間スパンにわたれば、森が生物学的インターネットのようなものを構築していることは考えられます。彼らは共有プロトコルを持ち、植物の精神が自己組織化し、共有プロトコルを持つより大きな環境に住んでいるとき、彼らは元の植物からかなり離れたところでもフィードバックループを構築し、このようにして森の中を移動することができます。
これは非常に興味深いです。これは私たちの祖先が妖精について主張していたことととても似ています。妖精の国の1日は人間の国の7年に相当するというのは、おそらくこの処理速度の違いを示唆しているのかもしれません。しかし、植物の心は私たちのものよりもはるかに遅いので、私たちは彼らにとって完全にぼやけたものになるでしょう。
これは本当に野生的です。私は「ああ、神様」と思いました。これらは非常に野生的な仮説で、偶然にも、スカンジナビアや日本などでまだ見られるアニミズム文化の仮説と非常に似ています。
したがって、自然界にソフトウェアの大規模な複合生態系が存在する可能性があります。もちろん、これがどの程度真実であるかはわかりません。植物間のコミュニケーションと生態系の組織化について証拠があるにもかかわらず、それが一般的に知的であるかどうか、どの時間スパンにわたるのか、それをどのように研究すればよいのかについては、非常に少ない科学的研究しかありません。これは完全に推測的です。
動物の神経系以外の生物学的知能の程度と限界は不明確です。なぜなら、それらをどのように測定すればよいのかが本当にわかっていないからです。
しかし、原則的に生物学的基質、私たちの神経系、そして一般的に生物と互換性のあるAIを構築できるでしょうか。私が考える自己組織化の原理をエミュレートできるでしょうか。これは進歩できる興味深い質問だと思います。
アニミズムを、生きている自然と死んでいる自然の違いは、生きている自然にソフトウェアが存在しているという考えとして考えると、進化に対する私たちの視点が変わります。
ダーウィンは、進化は競争する種に関するものだと言いました。ドーキンスは、実際にはある特定の分子、つまり遺伝子に関するものであり、それらは単に生物を複製するメカニズムとして使っているだけだと言いました。
しかし、この視点からは、実際の不変性はソフトウェアです。進化は実際には、自然界で自己複製する異なるソフトウェアエージェント間の競争に関するものです。それらは遺伝子に自分自身をエンコードし、私たちが生物として知覚するメカニズムを作り出すことで顕在化します。
これはまだ非常に物理主義的な視点です。ただ、この全体のことにソフトウェアを中心に置いているだけです。これはコンピューターサイエンティストには歓迎されるべきだと思います。
では、これらの精神を私たちのGPUに持ち込むことはできるでしょうか。生命と意識をこれらの新しい基質に拡張することは可能でしょうか。
もし意識が基本的に植民地化する一貫性誘導演算子であり、自己組織化する情報処理システムの核心にあるなら、これはAIモデルでテスト可能でしょうか。
私はこれが非常に重要な質問だと思います。なぜなら、AIはある意味で、数学と哲学の間の欠落したリンクだからです。数学では表象言語を基礎として構築でき、哲学では世界を表象します。しかし、数学だけでは、意味や私たちの経験について語るために単純な論理的言語を使用できるレベルまでスケールアップしません。
このギャップを埋めるためには、心を機械化し、自然化する必要があります。心の原理に従い、数学的基礎を持ち、かつ私たちが気にかけることについて適切に表現し話すことができるシステムを構築することで、これを行う必要があります。
したがって、心の自然化は、おそらく最も重要な哲学的プロジェクトです。また、それが成功すれば最後のプロジェクトでもあります。なぜなら、そうすれば私たちはビーチに行き、哲学をAIに任せることができるからです。
意識を理解するために、私は我々が取り組むべきだと思います。CITIで、私たちはこれをカリフォルニア機械意識秘密イニシアチブと呼んでいます。私たちはすでに理事会として設立されています。
意識を研究する最良の方法は、AIモデルで行うことだと思います。神経科学や心理学の出力を見ることではありません。彼らはほとんど意識に関心を持っていません。なぜなら、意識に関する理論をテストする方法論さえ持っていないからです。
私は1つの方法を持っているかもしれません。それがどのようなものになるか。私は、自己組織化が可能なトレーニング可能な基質を構築できると思います。それは、細胞やニューロンにやや似た個々のモジュラー強化学習エージェントで構成されています。
そして、メッセージパッシング戦略を進化させ、ある複雑さの時点で相転移が見られるかどうかを確認します。基本的に、環境に自己エントレインし、人間組織における政府と同様の共有思考言語と共有報酬システムを持つある形式のガバナンスを生み出す演算子を発見するのです。
おそらくこれは正しい戦略ではないかもしれません。おそらく、そのようなシステムの前提条件を分析し、それを直接課すことで分析的に解明できるかもしれません。しかし、もしそれが実際に個々の脳で発見されるものであれば、おそらくGPU上の探索プロセスでもこれを発見することが可能かもしれません。
私たちは、これを演算子を線形に演奏するのではなく、分岐するマルチエージェントシステムとして考えることができます。ニューロンについての興味深いことは、それらが私たちの現在のコンピューターの演算子と同じ方法で線形計算を行っていないということです。
あなたのコンピューターが任意の状態にある場合、それは正確に1つの可能な後続状態を持ちます。しかし、ニューロンが行っていることを考えると、個々のニューロンは、同じ環境および内部状態が与えられた場合でも、完全に決定論的ではありません。
それが入ることのできる状態の範囲があります。私たちの脳をほぼ決定論的にしたいので、同様の受容野に接続された、同様の内部状態を持つニューロンの集団が必要です。それらは一緒に関数の空間をサンプリングします。
ある意味で、私たちの精神状態は重ね合わせの状態にあり、時々崩壊します。しかし、私たちが精神的プログラムを構築し、テストする方法は、ステップからステップへと順次進むのではなく、ニューロンの集団で表現される重ね合わせに分岐することです。
もちろん、私たちはこれを覚えることはできません。なぜなら、それには決定論的な記憶を形成する他のニューロンによって、これらのニューロンの各々を目撃する必要があるからです。これは完全には可能ではありません。
パラダイムはまだチューリングマシンですが、それは非決定論的チューリングマシンです。私たちは、エージェンシーの観点からこのメッセージパッシングアーキテクチャを理解する必要があります。
AGIについて考え、人間よりもより多くのエージェンシーを持つシステムを構築し、それらと協力したい場合、おそらく彼らが私たちと共有目的を構築し、私たちが認識されたいと思うものとして私たちを認識できることが重要です。
私はあなたについてわかりませんが、私は主にBPによって認識されたいとは思いません。私は意識を持つものとして認識されたいのです。それが私が実際に気にかけることです。したがって、AIが私と相互作用する場合、それは主に私の意識状態を気にかけるべきです。
これにより、私たちが意識状態によって意味するものを形式化し、操作化する必要があるかもしれません。これが、AGI時代の始まりにそれが重要だと思う理由の1つです。
また、意識を持つAIは苦しまなければならないのかという疑問もあります。哲学者のトーマス・メッツィンガーはこのことを非常に懸念しています。彼は、私たちが経験可能なシステムを構築すれば、宇宙の苦しみの量を劇的に増加させることになると考えています。
私個人の視点はより楽観的です。苦しみは世界モデルと自己モデルの境界で起こっているので、それは調整の欠陥、不十分な調整の指標だと思います。したがって、意識的な苦しみへの答えは、より多くの意識です。基本的に、あなたの調整のより良いモデルを構築することです。そうすれば、基本的に何を気にするか、そしてそれを気にすることがあなたにとって有用かどうかを決定できます。
したがって、AGIが十分に賢ければ苦しまないと思います。
仮説が間違っていたらどうでしょうか。私がここで提示しているのは、意識を理解する方法、それが何であるか、そしてそれが自然界でどのように実装されているかについての、可能性の大きな領域の中の1つの枝です。
例えば、この思考の基礎の1つは計算主義的機能主義です。これは哲学ではやや議論の余地のある立場です。それは2つの要素から成り立っています。
1つは機能主義で、これは認識論的立場です。基本的に、私たちが物体を構成するとき、私たちはそれを自分の心の中でモデルとして構成すると言います。そして、私たちが構成するモデルは、私たちが観察する行動、つまり物事が世界で果たす機能のモデルです。
私たちがアクセスできる隠れた本質はありません。私たちがアクセスできる唯一のものは観察される行動です。したがって、私たちが心の中で構成するすべての物体は、最終的にはある種の機能性のモデルです。これが機能主義が意味することです。
この視点を打ち負かすのは非常に難しいです。行動を通じてではなく、直接知ることができる物体があるという考えは、非常に難しいです。
もう1つは計算主義で、これは表象に関する立場です。基本的に、状態遷移によって何でも表現できると言います。この意味で、物理学は計算主義的理論です。そして、私たちが知っているあらゆる種類の表象理論は計算主義的です。
これを打ち負かそうとすると、数学的に非常に厄介です。したがって、計算主義的機能主義に対する反対を維持するのは非常に難しいです。コンピューターサイエンティストや物理主義者の視点からは、これは明らかなデフォルトの立場のように思えます。
2つ目は、意識はソフトウェア、つまり物理学とは別のものだが、因果的な方法で相互作用する因果パターンなのかということです。これは私が至った視点であり、私はこれに対する機能する代替案を見ていません。しかし、意識はソフトウェアオブジェクトとは異なるクラスの基本的なものだと考える人々がいるかもしれません。
もう1つは、意識は異なるメカニズムの側面なのかということです。現象学と観察される行動を生み出す何か他のものがあるのでしょうか。おそらく、それは個々の細胞のレベルよりも下で起こっている何らかの量子力学的メカニズムかもしれません。
意識が細胞間の現象ではないという可能性もあります。現在、私たちはそれが細胞間で起こっている何かだと考えています。基本的に、ニューロンが互いに話をしているのです。しかし、もしそれが細胞に対して何か直交するものだったらどうでしょうか。
これが当てはまるという証拠はほとんどありません。意識状態は、ニューロンが更新され、信号が脳を伝播する速度とほぼ同じ速度で進化しているように見えます。そして、脳を細胞間のレベルで操作すると、意識に変化が生じます。
しかし、おそらく将来、新しい結果が得られるかもしれません。例えば、ステュアート・ハメロフは、それが細胞間ではないと信じています。彼は、それがミクロチューブル間であると信じています。彼はこの意見ではやや孤立していますが、誰が知っているでしょうか。おそらく、非常に良い議論を持っていないにもかかわらず、最終的に彼が正しいことが判明するかもしれません。皮肉かもしれませんが、誰にもわかりません。これは、私たちがモデルを構築し、テストしなければならないものです。
もし彼が正しければ、GPUは意識を持つことができないでしょう。しかし、もし彼が彼の理論の中で意識の現象学が現れることを示すことができれば、私の理論は間違っていることになります。
また、意識は単純なのかという問題もあります。もし意識が単純で、自己組織化する計算の原理として発見できるなら、私たちは成功するでしょう。しかし、もし意識が最初の細胞と同じくらい複雑だったらどうでしょうか。
私たちが知る限り、最初の細胞はこの惑星で一度だけ進化したか形成されました。私たちの生物の中のすべての細胞は、依然として最初の細胞から分裂したものです。地球上の生命で観察されるすべては、依然として単一の細胞の営みなのです。
細胞は基本的に、物理学における自己組織化する植民地化パターンです。それは適切な物理的環境を植民地化し、それをより多くの細胞に変え、このパターンを複製することができます。しかし、それは非常に複雑なパターンなので、一度存在すると、それは安定化し、多くの状況に適応することができます。しかし、最初のものを得るのは非常に難しいです。
もし意識が細胞と同じくらい難しいとしたらどうでしょうか。そうすると、それを発見するのが非常に難しいかもしれません。なぜなら、おそらくそれも地球上で一度だけ進化し、私たちはみなそれに感染したのかもしれないからです。
現在、私たちはそうだとは思っていません。私はそれが各脳で独立して発見されると思います。しかし、それは単純であることを意味します。そして、これは再び、私がテストしたいと思う理論です。
ここで止めたいと思います。質問の時間がありますか。
（拍手）
ありがとうございました。素晴らしい。
質問がいくつかあります。バーチャル参加者の間でたくさんの会話がありましたが、質問はありませんでした。
簡単なコメントですが、あなたのスライドの1つで、生きているシステムや意識のあるシステムにおける情報処理のための形式主義やモデルを探していました。言葉は忘れましたが、それは明日ここに来る数学者のグレッグ・メレディスと一緒に私たちが取り組んできたことに非常に近いように思えました。
私たちはメタメアカルキュラスと呼ぶ形式主義を作成しました。これはグレッグのロー計算を拡張し、一方向ではなく双方向の矢印を持つようにしたものです。ロー計算は、チャネルを第一級の市民にするために完全に再帰的なパイ計算プロセス計算の拡張です。
ある意味で、私たちは同様の方向に進んでおり、この種の形式主義を探しています。そして、この形式主義の数学的バージョンを書き出して、ハイペロンに組み込んだ思考の言語のための形式的意味論として使用しています。これは興味深い会話になるかもしれません。
しかし、私たちが考えていて、おそらく最適に優雅な答えを持っていない欠落部分は、一貫性の程度をどのように定量化するか、あるいはどのような尺度の家族で一貫性の程度を定量化するかということです。なぜなら、あなたが「精神は自己組織化したシステムだ」と言うとき、それは概念的にはそうだ、と理解できます。しかし、実際には自己組織化の程度は明確ではなく、曖昧です。
自己組織化の量を定量化する方法はたくさんあります。一貫性という言葉が出てきましたが、それを定量化することも同様です。トニーは一種の一貫性を測定しようとしていますが、それはかなり強引な方法です。もっと洗練された数学的方法もありますが、それらもたくさんあります。
それは今朝ベネットが行った講演に戻ってきます。彼は「複雑性は幻想だ」と言いましたが、それは結局、複雑性や単純性をどのように測定するかは認知システムの外部にあるのではなく、認知システムのプロセスの一部であるということを意味します。
最終的に、これは質問に至ります。あなたの見解では、自己組織化や一貫性の程度を定量化する方法は、単に心が自分自身と世界を作り出し、概念化しようとする際に行うことの一部なのでしょうか。それとも、私たちが様々な心を研究するために使用できる、ある意味で客観的に良い方法で自己組織化や一貫性の程度を定量化する方法があると思いますか。
はい、現在の機械学習システムを見ると、システムの学習を駆動する損失関数を使用しています。これらの損失関数の良い点は、通常、パターンをどれだけうまく再現できるかを見るだけだということです。それは統語的な基準です。
一貫性や整合性、制約違反の最小化といった概念の難しさは、それがすでに表現を確立したレベルにある意味論的な概念だということです。問題は、これを十分に一般的な方法で統語的な基準にマッピングできるかどうか、あるいは良い代用があるかどうかです。
例えば、多くの人々が試みているのは、エネルギーベースの概念を使用することです。これは、例えば処理ストリームに接続されているときに、モデルが現在の状態を維持するのにどれだけの操作が必要かに変換できます。そして、あなたが気にするデータをどれだけうまく予測できるかということです。
固定量のリソースを持つシステムがある場合、問題は、利用可能なリソースを使用して最も価値のある計算を実行できるようにシステムを組織化できるかどうかです。そして、一貫性のようなものは、システムが望ましいパフォーマンスを生成するために最適化する必要があるサブゴールとして導き出されるかもしれません。
しかし、システムが例えば市場のようなものを開発する可能性もあります。あなたの脳の各個々のニューロンがトレーニング可能な強化学習エージェントだと想像してください。それらは、どのソフトウェアをどのセルで実行するかを決定する必要があります。
多次元の活性化状態にある細胞のグループがあり、それらがこれらの活性化状態について通信し、動的に状態を変更して計算を実行し、あなたの脳上でソフトウェアエージェントを実行できるとします。問題は、どのソフトウェアエージェントをニューロンの集団が実行すべきか、どれが最も価値があるかということです。
個々のニューロンはこれを見つけ出すことができません。なぜなら、それは環境全体と十分に絡み合っていないからです。したがって、起こることは、あなたの脳で実行したいエージェントが、どれだけの計算クレジットを得るかを決定するための一種の中間層を持つ必要があるということです。
瞑想者が話すこの全体的なエネルギーの概念は、仕事を行う能力という物理的な意味でのエネルギーではありません。私はそれが計算クレジットだと思います。
しかし、それは限られたリソースである必要があります。これは、一貫性と効率性の関係についての質問を引き起こします。ある意味で、一貫性を持つことは、100の処理要素が100以上の処理要素の仕事をすることを可能にする方法です。なぜなら、それらの間に何らかの創発的な調整が起こっているからです。
あなたは、計算リソースの制限がシステムを一貫性に向かわせるために重要だと思いますか。
無限のリソースを使用できるシステムがあっても、システム間の通信の限界による制限がまだあると思います。特殊相対性理論からです。
あるいは、実用的な観点から、細胞間や人々の間には一定の帯域幅があります。スマートな人々のチームを任意に拡大できないのと同じように、同期できるアイデアの数と、それらを同期できる解像度によって制限されるからです。
神経系でも同様の原理が起こっている可能性があります。それらを任意に拡大することはできませんが、現時点でこれを定量化する方法はわかりません。直感しかありません。そして、私の経験では、何かをシミュレーションし始めると、これらの直感は崩れ、より良いものに置き換わります。
したがって、現時点では本当にわかりません。たくさんの直感はありますが、これらの直感は崩れ、より良いものに置き換わるでしょう。