Stephen Wolfram: ChatGPT と真実、現実、計算の性質 | レックス・フリードマンポッドキャスト #376

※長文のため、テキストの読み上げ機能の使用を想定しております。各OS標準搭載のアクセシビリティ機能(読み上げコンテンツ)でも良いですが、個人的にはMicrosoft Edgeブラウザの「音声で読み上げる」機能をおすすめします。

チャットにコードを作成して、それを自分のコンピュータで実行すると、自分にとって何が起こり得るかがパーソナライズされるので、何が起こり得るかがわくわくしたり怖かったりします。その可能性は、実際には少し怖かったです。なぜなら、それを正しく行うと、どのようなサンドボックス化が必要になるかということです。これは、世界に対する質問の AA バージョンのようなもので、AI にすべての武器やこれらすべてのさまざまな種類のシステムを管理する前に、これらのシステムにどれだけの制約があるべきかがわかります。サンドボックスの面白いところは、AI がそれらを知っていることです。サンドボックスをクラックするツールがあります。以下は、このポッドキャストで 4 回目となる Stephen Wolfram との会話です。彼はコンピューター サイエンティストで数学者、理論物理学者であり、Mathematica の背後にある企業である Wolfram Research の創設者です。Alpha または Language と Wolfram物理学とメタ数学プロジェクト。彼は現実の計算的性質を探求する先駆者であり、人類の文明としての大規模言語モデルの急速に進化する新しい風景を一緒に探求するのに最適な人物です。超インテリジェントAGIの構築への旅。これはLex Friedmanポッドキャストです。それをサポートするには、説明でスポンサーを確認してください。そして、親愛なる友人の皆さん、Stephen Wolframです。チャットGPTとWolfram AlphaとWolfram言語の統合を発表しました。その統合についてお話ししましょう。哲学的なレベル、おそらく技術的なレベルで、大まかに言えば2種類のシステムの機能、大規模言語モデルと、この計算的な巨大な計算システムインフラストラクチャ（これはAlphaから来ています）の主な違いは何ですか？チャットGPTのようなものは何をしますか？それは主に、人間が作成してWebに置いた言語などの言語を作ることに焦点を当てています。つまり、その主な基礎となる技術的なことは、プロンプトを与えると、そのプロンプトを、それが見たものに基づいて何らかの形で典型的な方法で継続しようとすることです。人間がウェブ上に書いた1兆語のテキストを、ニューラルネットなどを使って処理する方法は、おそらく人間が最初の段階で行う方法と非常に似ています。つまり、このテキストが与えられたら、ニューラルネットに1語ずつ入力して、1語ずつ出力します。これは、人間がウェブ上に置いた大量のトレーニングデータに対する浅い計算です。これは、私が過去40年ほどかけて構築してきた計算スタックとは異なります。これは、多くのステップを計算できる可能性があり、非常に深い計算を行う必要があるものです。計算とは、人間が作り出したものの統計を取って、その統計に基づいて物事を続けることではありません。数学からであろうと、あらゆる種類の体系的な知識からであろうと、文明の中で作り上げた形式的な構造を取り、それを使って任意の深い計算を行い、Webですでに言われていることと一致するだけでなく、これまで計算されたことのない新しい異なるものを計算できるようにすることです。実際問題として、私たちの目標は、世界を可能な限り計算可能にすることです。つまり、蓄積された何らかの専門知識から原則的に答えられる質問がある場合、その質問に対する答えを計算でき、信頼できる方法でそれを実行できるということです。これは、私たちの文明が蓄積した専門知識を考えると、できる最善のことです。これは非常に、はるかにそれをするための計算システムを作るという面では、労働集約的です。チャットGPTの世界では、明らかに、まったく別の目的で作成されたもの、つまりWebに書き込んだものなどをすべて取り上げ、そこからWebに書き込まれたものを探し出すようなものです。実用的な観点から、チャットGPTのようなものを広く浅く見ています。そして、私たちがしようとしている計算の構築は、このように深く広く、しかし最も重要なのは、深い種類のものであると思います。これについて別の考え方をすると、人類の歴史をさかのぼって、つまり1000年か何かで、一般的な人が何を理解できるかを考えてみましょう。一般的な人が何を理解できるかという答えは、私たち人間がすぐに理解できる特定の種類のものがあるということです。それは、私たちの他の神経構造と、私たちが人生で学ぶ種類のものですが、それから、形式化の全体的な層が開発され、それは知的歴史の全体的な物語であり、形式化が論理、数学、科学などに変わった学習の全体的な深さであり、それは、あなたが解決するものの塔のようなものを構築することを可能にするものです。それは、すぐにこれを理解できるだけでなく、この種の形式を使用して段階的に進み、すぐには明らかではなかったものを解決することができます。それが、私たちが計算的にやろうとしていることの物語であり、何を意味するのかを示すような高い塔を構築できるようにすることです。何を暗示するかなどなど、すぐに理解できるというようなものではなく、それは私がどこかで見たもの、私が聞いたもの、覚えているもの、またはこのようなものであるようなものです。このような形式的な構造を構築できる基盤の種類、このような深い計算可能な知識ツリーを構築するために開始するべきものの種類について、どのようなことが言えるでしょうか。質問は、計算についてどのように考えるかということです。ここではいくつかのポイントがあります。1つは、計算が本質的にどのようなものであるか、もう1つは、私たち人間の心と私たちが学んだ種類のものが、計算宇宙でどのような計算の側面に関係できるかということです。計算がどのようになるかというところから始めると、これは私が人生の大部分を費やして研究してきたことですが、通常、私たちはプログラムを書きますが、プログラムに何をさせたいかをある程度把握していて、多くの行のコードを注意深く書き、プログラムが意図したとおりに動作することを期待します。私が興味を持っているのは、プログラムの自然科学のようなものに目を向けると、このプログラムを作ると、それは本当に小さなプログラムです。プログラムの一部をランダムに選ぶこともありますが、本当に小さなプログラムです。本当に小さなプログラムというのは、1行のコードよりも小さいということです。このプログラムは何をするのかと考えて実行すると、80年代初頭に大きな発見がありました。非常に単純なプログラムでも実行すると非常に複雑なことができるという発見は、本当に驚きました。それがいわゆる「もの」だと気づくまでに数年かかりましたが、非常に単純なプログラムでも、私たちがまったく予想もしないような非常に複雑なことができるという発見は、まさに自然の仕組みそのものだと思いました。つまり、自然には単純なルールがありますが、私たちが予想もしないようなさまざまな複雑なことを行います。ここ数年の大きな出来事として、宇宙全体と物理学の仕組みがこのように機能していることを理解したことがありますが、これはまったく別のトピックですが、プログラムの世界全体とそれが行うこと、そして非常に豊かで洗練されたものが存在するのです。これらのプログラムでできることはいろいろありますが、多くのプログラムを見ると、これは何をしているのかよくわからない、あまり人間らしいことではない、ということになります。一方では、計算宇宙で可能なことがあり、他方では、人間が考えるようなこと、つまり知的歴史の中で開発されたものがあり、そして、物事を計算可能にする本当の課題は、計算宇宙で計算的に可能なことと、人間が通常行うようなことを結びつけることです。心で考えると、それは複雑で動くターゲットです。なぜなら、私たちが考えるものは時間とともに変化するからです。私たちはより多くのことを学び、数学を発明し、さまざまなアイデアや構造を発明しました。そして、それは徐々に拡大し、このような可能性の知的空間を徐々に植民地化しています。しかし、本当の本当の課題は、計算的に可能なものをどうやって取り入れるか、私たちが考える種類のものを、計算的に可能なものに差し込むような方法でカプセル化するかです。そして、実際には、大きなアイデアは、物事の記号的表現のような記号プログラミングのアイデアです。したがって、問題は、世界のあらゆるものを見て、視覚的なシーンや何かを見て、それを自分の心に詰め込むことができるものに変換する方法です。視覚的なシーンには多くのピクセルがありますが、その視覚的なシーンから覚えていることは、この場所に椅子があります。これは視覚的なシーンの象徴的な表現です。テーブルの上に椅子が 2 つあるとか、そういうもので、ピクセルがすべて細かく配置されているわけではありません。そこで問題になるのは、世の中のあらゆるものをすべて取り上げて、物事に対する私たちの考え方に対応する表現をどう作るかということです。人間の言語は、私たちが持っている表現の 1 つの形式です。椅子について話します。これは人間の言語の単語です。人間の言語はそれ自体では計算にうまく組み込めるものではなく、結果をすぐに計算できるものではありません。したがって、人間の言語から理解できるものを取り上げて、より正確にする方法を見つける必要があります。これがまさに記号プログラミングの話です。それが何になるかは、当時はそれほどうまく機能するとは思っていませんでしたが、1979 年頃に私は最初の大きなコンピュータ システムを構築しようとしていました。そして、高レベルで計算をどう表現すべきかを考え、記号表現を使うというアイデアを思いつきました。これは、関数と引数のようなものですが、関数は必ずしも何かを評価するものではなく、構造を表すものにすぎません。その構造を構築していくと、その構造は、人間が高レベルの概念化を行う方法と非常によく合致していることがわかりました。人間が高レベルの概念化を行う方法とよく合致しているようです。この方法は、45年くらい前から続いています。このようなシンボリック表現を使用して構造を構築することは、私にとって非常に役立っています。しかし、ここでの抽象化についてはどうでしょうか。物理学プロジェクトから始めて、非常に低いレベルのハイポグラフから始めて、そこからすべてを構築することができますが、ショートカットを入力しないでください。最高レベルの抽象化を取り、それをシンボリック表現を使用して計算可能なものに変換できる種類の抽象化に変換します。そして、それがその小さな知識の新しい基盤になります。ええ、どういうわけか、これらすべてが統合されます。つまり、私が認識した非常に重要な現象は、将来、すべてがますます重要になるであろうこの現象の1つである計算不可減性です。問題は、何かのルールを知っていて、プログラムを実行して、ルールを知っている場合、何が起こるかすべて知っていると言うかもしれません。原則的には、ルールを実行して、ルールを実行するだけで、ルールがわかっているので、ルールがわかっているので、何が起こるかすべて知っていると言うかもしれません。彼らが何をするか見てみましょう。百万ステップ実行してみて、何が起こるか見てみましょう。問題は、すぐに先に進んで、百万ステップ後にはこうなるだろう、答えは13か何かだ、と言えるかどうかです。そして、理解すべき非常に重要なことの1つは、その計算を減らすことができれば、計算をする意味がないという感覚はなくなるということです。計算を行うことで本当に価値が得られるのは、答えを見つけるために計算をしなければならなかったときです。しかし、答えを見つけるために計算をしなければならないというこの現象、この計算の還元不可能性の現象は、多くの種類のものを考える上で非常に重要であるようです。そこで、起こることの1つは、空間の原子、ハイポグラフ、タイポグラフの書き換えなどの観点から、低レベルの宇宙モデルがあり、それが毎秒10回から100回起こっているということです。それでは、素晴らしい、それでは、宇宙の仕組みがよくわかりました、問題は、宇宙がそれが何であるかを理解できるかどうかです。 10から100のステップを踏んで計算するのですが、それが何を行うのかを解明するには、計算を減らす方法がありません。計算を実行して計算結果を確認する唯一の方法は、計算を実行することです。宇宙の中で作業している場合、それを行う機会はありません。宇宙は可能な限り速く計算を行っているからです。それが起こっていることです。私たちがやろうとしていること、そして科学の多くの物語、他の多くのことは、削減可能なポケットを見つけることです。つまり、世界中のすべてが計算でいっぱいの状況になる可能性があります。還元不可能性、次に何が起こるかは誰にもわかりません。次に何が起こるかを知る唯一の方法は、システムを実行させて何が起こるかを見ることです。つまり、ほとんどの種類の科学発明、多くの種類のものの物語は、局所的に先へ進むことができる場所を見つけることです。計算還元可能性の特徴の1つは、還元可能なポケットが常に存在することです。常に場所があり、常に先へ進むことができる場所は無限にあります。完全に先へ進むことはできませんが、少し先へ進むことができる小さなパッチ、小さな場所があります。物理学プロジェクトなどについて話すことができますが、私たちが認識していることは、宇宙のあらゆる計算還元不可能性のスライスに存在しているということです。私たちは、ある程度の予測可能性があるスライスに存在しています。ある意味で、このような抽象化のより高いレベルの記号表現などを構築しようとすると、私たちがやっていることは、還元可能な塊を見つけて、それを結び付けているということです。私たち自身について、そしてそれについて、私たちはかなり単純な物語を語ることができます。なぜなら、原則として、次の数秒で何が起こるかを言うからです。ああ、この部屋の空気の中でこれらの分子が動いていて、ああ、それは信じられないほど複雑な話です。それは計算上不可逆なものであり、そのほとんどは私には関係ありません。そのほとんどは、まあ、空気はまだここにあり、それについてはあまり変わらないということです。それは、最終的には計算上の不可逆なプロセスの根本的なレベルに関する一種の還元可能な事実であり、ええ、私たちがそのような還元可能なポケットを大量に持っていなければ、生命は不可能でしょう。ええ、象徴的なものに還元できるポケットです。ええ、私はそう思います。つまり、私たちが経験する方法での生命、つまり、私たちが生命とは何を意味するかに応じて、つまり、世界で起こっているある種の一貫したものの経験、たとえば、私たちが知っている空間の概念、私たちはここにいてあそこに移動するというのは、同じようなものです。空間の異なる原子でできているにもかかわらず、あなたはまだ別の場所にいるということです。これは、何が起こっているかについてある程度の予測可能性があり、この計算的に還元可能なシステムの下にあるものの中に還元可能性の一部を見つけるという考えです。そして、これがここ数年の私のお気に入りの発見のようなもので、この基礎にある計算的還元不可能性と、計算的還元可能性に鍵を握る観察者としての私たちの性質との間の相互作用であるという認識です。この事実は、この 100 年間で発見された主要な法則です。これについては、さらに詳しくお話ししましたが、これは、観測者としての私たちの性質のようなもので、私たちは計算的に制限された観測者であるため、計算上の還元不可能性の小さな断片をすべて追跡して、外の世界で起こっていることを頭の中に詰め込むことはできません。還元可能なものを見る必要があります。つまり、世界で起こっていることの詳細の象徴的なエッセンスを圧縮して抽出しているのです。それと、最初は些細なことのように思えますが、そうではないもう 1 つの条件があります。それは、私たちが時間の中で持続していると信じていることです。つまり、因果関係の感覚です。私たちの理論によれば、私たちはあらゆる瞬間に空間のさまざまな原子で構成されており、宇宙が何でできているかという微視的な詳細が書き換えられています。実際、空間のさまざまな部分の間には一貫性があるという事実そのものです。宇宙の構造を編み合わせる小さなプロセスがいくつも起こっているという事実の結果です。分子が相互作用していなければ、液体が流れ出たり、さまざまなことをしたりすることはありません。ただ自由に浮遊する分子の集まりに過ぎません。宇宙との類似点は、宇宙が宇宙での活動の結果として編み合わされているという事実と、私たちが連続して書き換えられているという事実です。なぜ私たちは時間を通じて自分たちが同じであると考えるのか、という疑問があります。これは重要な前提です。いわば、意識として見ているものの重要な側面は、私たちにはこのような一貫した経験の糸があるということです。これは、現実をそのような一時的なものに縮小したいという私たちの心のもう1つの制限ではありませんか。一貫性は、単に良い物語です。自分自身に言い聞かせてください。実際、それは非常に重要だと思います。私たち人間の通常の行動は、経験の糸が一本あるというものです。想像してみてください、いろいろな種類の心の中で起こっていることかもしれませんが、他の心と同じようには機能しません。経験の糸が複数に分かれているのです。また、量子力学を見てみると、例えば量子力学の内部では、経験の糸がいくつもに分かれていますが、私たち人間がそれとやりとりするためには、それらさまざまな糸をつなぎ合わせて、ああ、確かに何かが起こった、そして次に何かが起こった、と言わなければなりません。などなど、いろいろなことが起きます。そして、内部で、根本的に複数の経験の糸が流れているのがどんな感じなのか想像してみるのは、ちょっと面白いと思います。つまり、今、人間の心はそれぞれ異なる経験の糸を持っています。私たちは、互いに相互作用しているたくさんの心を持っていますが、それぞれの心の中には1つの糸があるわけではありません。それは確かに単純化です。一般的な計算システムにはそのような単純化がないこと、そして、人々がよく、意識はいわば宇宙で起こり得る最高レベルのものだと思っているようですが、私はそうではないと思います。それは実際には特殊化であり、とりわけ、経験の単一の脅威という考えがあり、これは宇宙で計算的に起こり得るものの一般的な特徴ではないので、計算的に制限されたシステムの特徴です。縮小可能なポケットしか観察できないので、この「オブザーバー」という言葉は量子力学で何かを意味し、多くの場所で何かを意味し、意識のある存在である私たち人間にとって何かを意味します。では、オブザーバーの重要性とは何でしょうか。オブザーバーとは何でしょうか。そして、計算宇宙におけるオブザーバーの重要性とは何でしょうか。この「オブザーバーとは何か」という質問は、現在のAIマニアによって多少脱線しましたが、そこに関連性はあるのでしょうか。それとも、オブザーバーは主に物理現象だと思いますか。AI全体に関係があるのでしょうか。はい、関係があります。1つの質問は、一般的なオブザーバーとは何かです。一般的な計算システムとは何かというアイデアはわかっています。チューリングマシンについて考え、他の計算モデルについて考えます。一般的なオブザーバーモデルとは何かという質問があります。私たちのようなオブザーバーがいて、それが私たちが興味を持っているオブザーバーです。エイリアンのオブザーバーを想像することができます。計算上の還元不可能性を扱うもので、私たちの心とはまったく異なり、私たちの心とはまったく矛盾していますが、事実、私たちのような観察者について話しているのであれば、重要なことの1つは、世界のすべての詳細を取り出し、それを心に詰め込むことができるという考えです。すべての詳細を取り出して、そこから自由度のより小さなセット、つまり私たちの心に収まるより少ない数の要素を抽出することができるということです。これが質問だと思います。一般的な観察者とは何かを特徴づけることに興味があります。一般的な観察者とは、部分的には多くのものがあると思います。例を挙げてみましょう。ガスにはたくさんの分子が飛び回っていて、ガスについて測定しているのはその圧力です。観測者として気にするのは圧力だけです。つまり、この箱の側面にピストンがあり、ピストンはガスによって押されています。分子がピストンに当たる方法は多種多様ですが、重要なのはすべての分子の衝突の総体です。それが圧力を決定するからです。ガスには膨大な数の異なる構成があり、それらはすべて同等です。観測者の重要な側面の1つは、システムのさまざまな構成の等価性です。つまり、私が気にするのはこの集合的な特徴だけです。私が気にするのはこの全体的なものだけです。それが1つの側面です。これをさまざまな形で見ると、世界には多くの詳細がありますが、そこから抽出しているのは、その詳細の薄い要約のようなもので、それでもなお、それは粗雑な近似値である可能性があるのは確かです。平均的には正しいです。つまり、観察者、つまり人間の心を見ると、自然言語で表されるように、非常に多くの非常に多くの近似値があるように見えます。確かに、この曖昧さは、おそらくその特徴かもしれません。つまり、これらの分子の総合的な影響を測定しているだけかもしれませんが、分子が本当に奇妙な方法で配置される可能性がごくわずかにあり、その平均を測定するだけでは主なポイントにはなりません。そうそう、ところで、非常に多くの科学はこれについて非常に混乱しています。なぜなら、論文を見ると、人々は本当に熱心にこの曲線を描き、曲線にこれらのバーなどがあるからです。これは単なるこの曲線であり、この1つのものであり、さまざまな詳細を含むシステムを表すはずです。これは多くの科学が間違っている方法です。何年も前に雪片の成長を研究していたことを覚えていると言う人がいるからです。雪片があります。成長して、たくさんの腕が生えて、複雑なことをしているのですが、これに関する文献があって、雪片の成長速度について書かれていて、雪片の成長速度についてかなり良い答えが出ていて、彼らはそれをもっと注意深く調べて、雪片の成長速度のきれいな曲線などを持っていました。私ももっと注意深く調べたところ、彼らのモデルによれば雪片は球形になることがわかりました。成長速度は正しかったのですが、細部が完全に間違っていました。細部だけでなく、全体が捉えていなかったシステムのこの側面を捉えていたのです。何が起こっていたか、そして雪片の幾何学的な形状とは何かという点について、雪片は水の段階から始まり、それが雪片の形成に関係しています。それは氷の段階であり、水分子の六角形の配置から始まります。したがって、六角形のプレートとして成長し始めます。次に何が起こるかというと、プレートは球体ではなく球体です。いやいや、それはそれだけではありません。つまり、雪片はふわふわしています。一般的な雪片には小さな樹枝状の芸術があります。実際何が起こるかというと、セルオートマトンなどを使用して非常に単純な離散モデルを作成し、これを理解することができます。六角形のものから始まり、小さな腕が成長し始めます。小さな氷のかけらが雪片に加わるたびに、水蒸気から凝縮した氷が雪片を局所的に加熱するため、雪片が雪に付着する可能性が低くなります。すぐ近くに別の氷が蓄積されるため、一種の成長抑制が起こり、腕が生えますが、腕の周りが少し熱くなり、そこに氷が追加されなかったため、腕が分離します。腕が成長して六角形になり、腕が伸び、腕が腕になり、腕が腕になり、最終的に別の六角形、より大きな六角形が実際に満たされるので、ちょっとクールです。これを最初に見たとき、このモデルは非常に単純でしたが、六角形が満たされると実際に穴が残ることに気付きました。それで、本当にその通りだと思いました。雪の結晶の写真を見てください。確かに、腕が伸びる方法の傷跡のような小さな穴があります。つまり、穴を埋めることはできません。そうです、埋め戻されません。おそらく、大きさの制限があり、任意に成長できないと思います。よくわかりません。つまり、物が落ちていくということです。つまり、これがそうだと思います。ある時点で地面にぶつかると、成長できると思います。研究室で成長できると思います。かなり大きなものも成長できると思います。このようなものを何度も繰り返して成長できると思います。六角形から腕が伸びて、元に戻って六角形に戻り、3Dではまた腕が伸びます。いいえ、通常は平らです。なぜ平らなのですか。なぜ広がって広がらないのですか。ちょっと待ってください。ふわふわだと言いましたが、ふわふわは3次元の性質です。いいえ、ふわふわの雪です。それで、私たちが本当に、つまり、本当にその中にいるのは、複数の雪片がふわふわになるということです。1つの雪片はふわふわではありません。いいえ、1つの雪片はふわふわです。雪がある場合、それは純粋な六角形であり、それらは非常によく組み合わさります。そうではありません。空気があまり含まれておらず、互いに滑ることもできる雪は簡単に滑るし、雪崩が起きることもあると思う。雪が六角形の板状になって滑るんだけど、腕が生えてるとうまくまとまらない。だから雪には空気がたっぷり含まれてる。雪の結晶を1つ見たら、腕が生えてるのが見えて、実際によく言われるんだけど、雪の結晶はどれも同じじゃないって。それは主に、雪の結晶が成長するにつれて、腕が違って、安定して成長するから。でも、雪の結晶を捕まえるタイミングが違うから。雪の結晶は空気中を落ちていく方法が違うから。この段階で捕まえると、段階が進むにつれて見た目が全然違う。だから、雪の結晶はどれも同じじゃないように見える。違う時期に捕まえたから。成長のルールは同じ。タイミングが違うだけ。要点は、科学は雪片の成長の複雑さを完全に説明することはできません。科学では、人々がよくやるように、科学的に表現して 1 つの数値に変換し、その 1 つの数値が腕の成長率などのシステム内部で起こっていることの詳細を捉えられないような他の何かであるとすると、科学にとって大きな課題は、自然界から、たとえば、今話したい側面をどのように抽出するかということです。雪片のふわふわ感は気にしない、腕の成長率だけが重要だと言うかもしれません。その場合、ふわふわ感について何も知らなくても、良いモデルを作成できます。しかし、実際問題として、雪片の最も明白な特徴は何かと言うと、複雑な形をしているということです。そうすると、モデル化に関する別の話になります。つまり、これはモデリングと科学の特徴の 1 つであり、モデル A とは何かがわかります。モデルとは、世界の現実を、何が起こっているのかを簡単に説明できるようなものに縮小する方法です。基本的には、何が起こっているのかを抽象化して、答えたい質問に答えることができます。システムに関するあらゆる質問に答えたい場合は、システム全体が必要です。特定の分子がどこに行ったのかを知りたい場合、モデルは大きな抽象化であり、それについては何も語らないためです。科学でよく混乱することの1つは、誰かが「モデルがある」と言うと、誰かが「あなたのモデルはシステムの特徴を捉えていないので信じない」と言うことです。気にしていることは、正しいモデルかどうかという論争が常にあるということです。実際のシステム自体を除いて、モデルは正しいモデルではありません。つまり、質問がするすべてを捉えるという意味で正しいモデルです。それは、あなたが捉えたいものを捉えます。それは、最終的には、このようなものからテクノロジーを構築するものによって定義されることがあります。これに対する唯一の反例は、宇宙全体をモデル化していると考えている場合です。正しいモデルという概念がありますが、それはさらに複雑です。なぜなら、観察者が物事をサンプリングする方法などに依存するからです。それは別の話ですが、少なくとも最初のレベルでは、これは近似値であり、1つの側面を捉えているだけで、他の側面を捉えていないと言うことは、宇宙全体の完全なモデルを持っていると本当に思っている場合、最終的にはすべてを捉えている必要があります。そのモデルを実際に実行することは、計算の簡約性のために不可能です。そのモデルを正常に実行できるのは、宇宙自体の実際の実行だけです。しかし、あなたが気にしていることは興味深い概念です。これは人間の概念です。つまり、Alpha の Wolf と Wolfram 言語を使って、できるだけ単純な記号表現を作ろうとしているわけです。つまり、私たちが関心のあることを完全に捉える、できるだけ単純なモデルを作ろうとしているわけです。つまり、たとえば、映画に関するデータがあるとします。すべての映画の個々のピクセルを記述できるとします。しかし、それは人々が関心のあるレベルではありません。つまり、人々が関心のあるレベルは、自然言語で記述されているものと多少関連していますが、私たちがやろうとしているのは、物事を計算できるように、正確に表現する方法を見つけることです。自然言語の質問をコンピューターに与えるとき、コンピューターがこの自然言語を理解するかどうかを尋ねます。コンピューターは何らかの方法でそれを処理します。おそらく、自然言語の継続を作成できます。プロンプトから進んで、何が起こるかと言うことができます。本当に理解しているかどうかは難しいですが、この種の計算の世界では、理解しているかどうかの非常に明確な定義があり、それは、あらゆる種類の結果を計算できる記号的な計算に変換できるかどうかであり、それが自然言語の理解の目標のようなもので、私たちの目標は、世界について可能な限り多くのことを、いわば合理的な方法で計算し、この種の計算言語によってある程度捉えられるようにすることです。それが目標のようなものなのです。そして、人間にとって重要なのは、話していることを形式化すると、結果の塔を建てることができるような構造を作る方法が得られるということだと思います。ですから、自然言語で話そうというだけでは、何かを解決するために段階的に構築するための堅固な基盤は得られません。つまり、数学で起こることと似ています。数学について漠然と話しているだけで、数学の完全な構造やそのようなものがなければ、このような結果の塔を建てることはできません。つまり、計算言語の取り組み全体で私たちがやろうとしているのは、世界を記述するための形式主義を作り、この結果の塔を建てることを可能にすることです。自然言語とWolfram言語の間のダンスについて話してもらえますか。インターネットと呼ばれる巨大なものがあり、そこで人々はミームや日記のような考え、非常に重要に聞こえる記事などを投稿し、トレーニングを構成しています。 GPT のデータセットと、言語のウルフがあります。インターネットの自然言語を Wolfram 言語にマッピングするにはどうすればよいでしょうか。マニュアルはありますか。自動化された方法はありますか。将来を見据えて、ウルフ アルファは、一種のフロントエンドで自然言語を計算言語に変換します。つまり、プロンプトがあり、首都はどこかを質問すると、シカゴとロンドンの間の距離がどれくらいかなどに変換され、エンティティの都市の地理的距離に変換されます。などなど。これらの各項目は非常に明確に定義されています。エンティティがシカゴ市などであることを考えると、その地理的位置がわかります。人口もわかります。あらゆる種類のことがわかっています。そのデータをキュレートして、ある程度の確実性を持って知ることができるようにし、それからこのデータから計算を行うことができます。そうですね、そうですね、そういうアイデアですが、GPTの大規模言語モデルのようなものは、その変換をより強力にすることができますか？それは興味深いことですが、まだすべてはわかっていません。つまり、自然言語から計算言語への移行という問題です。そうです、ウィル・アルファから、Wolfenovoは13年半ほど前から出回っており、98、99％のクエリで成功しています。明らかに、ある種のフィードバックループがあります。なぜなら、うまく機能するものは、人々がそれを使い続けるものだからです。自然言語の断片を非常に高い成功率で使用できるようになりました。人々が質問や数学の計算、化学の計算などに使用するものです。私たちはそれを計算言語に変換するのが非常に得意です。Orphan Alpha の最初から、たとえば自然言語でコードを書くことについて考えていました。実際、最近これを見ていたのですが、2010 年か 2011 年に書いた「自然言語でプログラミングすると実際にうまくいく」という記事がありました。私たちは、機械学習のような方法をいくつか使って実験を行いましたが、もちろん同じではありませんでした。膨大なトレーニング データなど、同じ種類のアイデアです。これが大規模言語モデルの話です。実際、その記事はまったくの雑学ですが、スティーブ・ジョブズがその記事を Apple のあらゆる人々に転送しました。それは、彼がプログラミング言語をあまり好きではなかったため、この種のプログラミング言語を使わなくても済むというアイデアを見てとても喜んだからです。彼が望んでいたであろうエンジニアリングのような構造のレイヤー、つまり今起こっていることだと思います。プログラミング言語を使用するには、コンピューターの仕組みを学ばなければならないという考え方は、アセンブリ言語の仕組みを知るために命令コードの詳細を学ばなければならなかったのと同じように、限られた時間で実現できるものだと思いますが、この考え方は、プロンプトをどれだけ精巧にできるか、自然言語をどれだけ精巧にできるか、そしてそこから抽象化して計算言語にできるか、非常に興味深い質問です。チャットGPT、GPT4などができることは、かなり良いことです。非常に興味深いプロセスです。私はまだこのワークフローを理解しようとしています。このワークフローを中心に、自然言語から計算言語へのツールをたくさん開発してきました。特に会話のような対話の場合は、複数のクエリのようなものになります。そうです、非常に多くの本当に面白いのは、それが機能するということです。まず、コンピュータの前に立ち、計算を指定できるかどうかです。人間は、計算について物事を考える方法のようなものをある程度理解している必要があります。それがなければ、コンピュータの前に立ち、何をするのかまったくわからないので、運が悪いのです。自分自身についてばかげた話をすると、私が初めて見たコンピュータは、10歳のときに見たもので、大きなメインフレームコンピュータで、コンピュータが何をするのかよくわかっていませんでした。誰かが私にこのコンピュータを見せてくれて、このコンピュータはコンピューターが恐竜の体重を計算するというのは、あまり意味のある質問ではありません。つまり、答えを出さなければならないということです。それはコンピューターが行うことではありません。たとえば、Wolfram Alpha では、ステゴサウルスの標準的な体重はいくらかと尋ねられ、何らかの答えが返されますが、これはコンピューターが行うこととはまったく異なる種類のことです。したがって、まず第一に、人々は計算とは何かという概念を持たなければなりません。これは教育にとって非常に重要なことだと思います。これは、コンピューター サイエンスではなく、プログラミングの詳細ではなく、世界を計算的にどう考えるかという概念です。世界を計算的に考えることは、世界についての形式的な考え方です。論理は、世界のある側面を抽象化して形式化する形式的な方法でした。数学も計算の 1 つです。計算は、非常に幅広い方法です。世界についての考え方を形式化するということです。計算の素晴らしいところは、計算という観点から物事をうまく形式化できれば、コンピューターが結果がどうなるかを理解するのに役立つということです。数学で形式化するのとは違います。それはいいことですが、コンピューターを使って計算をしない場合は、自分でたくさんのことを解決しなければなりません。このアイデアは、自然言語と計算言語の関係について話しているということです。典型的なワークフローは、まず人間が何をしようとしているのか、何らかのアイデアを持っている必要があるということです。つまり、何かに機能の塔を建てて形式化し、計算可能にしたい場合、人間は LLM システムに何かを入力して、漠然と計算用語で何が欲しいかを伝えることができます。そうすれば、言語コードをうまく合成できます。将来的にはもっと良くなるでしょう。なぜなら、自然言語入力とオオカミとその言語翻訳の膨大な例があるからです。つまり、これらすべての例から外挿できるものなので、それを簡単に行うことができます。プロンプタータスクは、言語コードからデバッグすることもできます。それとも、デバッグは行わないことを希望していますか？いいえ、いいえ。つまり、ここには多くのステップがあります。まず、自然言語を入力すると、織り込まれた言語が生成されます。例を挙げましょう。ところで、恐竜の例があります。何か馬鹿げた例を考えるべきだと思う例はありますか？私の心拍数データを取得して、7日間ごとに移動平均を取るか何かを計算して、その結果をプロットします。これは、言語コードの約3分の2の行です。つまり、データビンの移動平均のリストプロットか、データの何かです。そして、結果を取得します。先ほど自然言語で言った漠然としたものは、ほぼ確実にその非常に単純な言語コードに変換されます。心拍数についてつぶやき始めると、移動平均のようなアイデアに到達しますが、7日間の平均と言うと、それが移動平均であるということがわかり、この移動平均のアイデアとしてカプセル化できる可能性があります。よくわかりませんが、一般的なワークフローですが、私が見ているのは、この言語コードを生成することです。通常は非常に小さく、小さくない場合はおそらく正しくありませんが、かなり小さいです。ウェルカム言語はオープン言語の考え方の 1 つです。人間が読める言語です。プログラミング言語は、人間が書いてコンピューターがそれを実行するという一方通行の言語になりがちです。孤児言語は、数学の記法のようなもので、人間が書いて人間が読むことも想定されているものです。そのため、出現しつつあるワークフローは、人間が何かをつぶやくようなもので、大きな言語モデルが素晴らしい言語コードの断片を生成し、それを見て「よし、良さそうだ」と言うようなものです。通常は、まずそれを実行して、正しいものが生成されるかを確認します。生成されたものを見ると、「明らかにおかしい」と言うかもしれません。コードを見ると、なぜおかしいのかがわかります。修正します。結果が本当に重要で、正しいことを確認したい場合は、コードを見て理解したほうがよいでしょう。それが、期待どおりに動作したかどうかというチェックポイントのようなものだからです。次に、それを超えて、つまり、それはあなたです。たとえば、コードが間違ったことをしているとします。その場合、多くの場合、大規模言語モデルにこれを調整してこれを行うことができます。これは非常に優れています。興味深いことに、コードの出力を使用して、コードの機能についてのヒントを提供します。つまり、コード自体の出力に基づいてデバッグします。チャットGPT用のプラグインは、これを定期的に実行します。プラグインは、結果を取得し、結果が妥当ではないことを検出します。LLMは、結果が妥当ではないことを検出し、戻って「申し訳ありません」と言います。これは非常に丁寧で、戻って「コードを書き直します」と言って、それを試します。もう一度実行して結果を取得します。もう 1 つ興味深いのは、実行しているときに、新しいコンセプトの 1 つであるノートブックというアイデアを 36 年前に発明したことです。そこで、テキストとコードと出力があるノートブックというアイデアを、チャットなどの概念とどのように組み合わせるかという問題があります。非常に興味深い点がいくつかあります。たとえば、現在非常に一般的なのは、ノートブックです。ノートブックでは、エラーが発生した場合、コードを実行してメッセージを生成するなど、LLM が自動的にそれらのメッセージを確認するだけでなく、スタック トレースなどのあらゆる種類の内部情報も確認し、何が間違っているかを推測して通知します。つまり、これは興味深いことです。これは、人間よりも多くの感覚データを取得できるという、典型的な AI のような機能です。人間が見過ごしてしまうようなものを見て、何が起こっているのか、データは何なのか、スタック トレースは何か、以前に書いたコード、書いた自然言語は何か、といったことを説明できます。また、何が起こっているのか、たとえば、これらのメッセージがある場合、これらのメッセージに関するドキュメントがあり、メッセージが表示された例があります。それ以外にも、このようなことがたくさんあります。もう 1 つ面白いのは、間違いを犯したときです。コードが機能しない場合のプロンプトの 1 つは、ドキュメントを読むことです。プラグインにはドキュメントを読む機能があり、これも非常に便利です。これは、実際には存在しない関数のオプション名を作成するなど、理解するのに役立ちます。ドキュメントを読むと、関数の構造が間違っているなど、さまざまなことが起こります。これは強力な機能です。私が気づいたのは、この言語は人間が理解しやすいように、長年にわたって整然としていて一貫性があるように作られてきたということです。しかし、予想していなかった副作用がありました。それは、AIが理解しやすくなったことです。ほとんど別の自然言語のようなものです。そうですね、形式言語とは外国語の一種です。そうです、英語、フランス語、日本語、Wolfram言語があります。スペイン語はわかりませんが、システムはそれに気づきません。そうですね、それは興味深い質問です。なぜなら、私が基礎科学の重要な部分と見なすものによって大きく左右されるからです。それは基本的にチャットGPTの質問で私たちに飛び込んできた質問です。なぜなら、チャットGPTがなぜ機能するのか、これらすべてのことを自然言語でうまく再現するために、比較的小さなニューラルネットワークの重みを数千億個も使ってカプセル化できるのか、というのが本当の質問だと思うからです。そして、それは言語に関する基本的な事実に関係していると思います。つまり、言語には構造があり、私たちがあまりよく研究していないということです。つまり、私が話している意味文法のようなもので、人間の言語を設定すると、特定の規則性があり、特定の文法構造があることがわかっています。名詞の後に動詞が続き、名詞形容詞が続くなど、それが一種の文法構造ですが、チャットがGPT が示しているのは、言語の意味に関係する言語の追加の規則性です。これは、単に品詞の組み合わせのようなものを超えて、過去に経験した 1 つの例が論理だと思います。論理がどのように発明され、どのように発見されたかという私のイメージは、論理がどのように発見されたかです。論理は、おそらくアリストテレスによって発見されました。アリストテレスは、たくさんの演説家の演説を聞いて、これは意味があり、これは意味がなく、そして、ペルシャ人がこれをすると、これはこうする、などなど、これらのパターンがわかります。アリストテレスは、これらの文には構造があり、修辞には構造があり、それが問題ではないことに気付きました。ペルシャ人とギリシャ人、あるいは猫と犬でも、pとqだけです。ここから特定の文の詳細を抽象化して、このような形式的な構造を取り出すことができます。それが論理です。これはすごい発見です。ところで、論理は今、自然言語から抽象化して、好きな単語を埋め込むことができるという事実を私に気づかせてくれました。とても興味深い発見です。成熟するまでに長い時間がかかりました。つまり、アリストテレスは三段論法というアイデアを持っていました。これは、いわば物事を議論するための特定のパターンでした。中世の教育では、三段論法を暗記しました。いくつあったか忘れましたが、15個か何かでした。それらにはすべて名前があり、すべてに記憶術がありました。バーバラとセレラントは、三段論法の記憶術の2つだったと思います。人々はこれをこれはバーバラ三段論法に従うので妥当な議論です。ジョージ・ブールが1830年までその議論を超えて、いわゆる文の特定のテンプレートを超えた抽象化のレベルがあることを理解するのに時間がかかりました。そして、それが興味深いところです。チャチBTはアリストテレスレベルで動作しており、ブール代数に到達すると、基本的に文のテンプレートを扱っています。そして、任意の深さのANDとORとKnotのコレクションをネストして、それらの意味を解決できるという考えです。これは計算の話で、自然言語の純粋なテンプレートを超えて、任意の深さの計算に到達したということです。しかし、チャットGPTから私たちが気づいたことは、アリストテレスがあまりにも早く止まり、もっとできることがあったということです。言語から形式的な構造として取り出され、ある意味では、言語には何が含まれているかという、言語が語っていることについての、たくさんの小さな計算機や小さな代数のようなものが存在していると思います。つまり、例えば、場所 A から場所 B へ、場所 B から場所 C へ行ったとします。場所 A から場所 C へ行ったことはわかりますが、A が B の友達で、B が C の友達だとしても、必ずしも A が C の友達であるとは限らないということです。つまり、場所 A から場所 B へ、そして場所 B から場所 C へ行った場合、どのように行ったかは関係ありません。論理的には、そこに飛んだか、歩いたか、泳いだかは関係ありません。それでも、どこに行くかという推移性は依然として有効であり、世界の仕組みについて私が考える多くの種類の特徴が、いわば言語のこれらの側面に取り込まれています。チャット GPT が効果的に発見したものは、論理を発見したのと同じように、このような論理的推論ができることに人々が本当に驚いていることです。チャット GPT が論理を発見したのと同じように、アリストテレスが多くの文章を効果的に見て、その文章のパターンに気づくことで論理を発見しましたが、論理よりもはるかに複雑なものを発見しているように感じます。つまり、この種の意味文法について書いたと思います。おそらく、これを言語の法則と呼ぶことができます。または、私は思考の法則が好きです。そうです、それは 1830 年にジョージ ブールがブール代数に付けたタイトルでしたが、そうです、私は考えました、そうです、それが彼が言ったことです。それで、彼は代数の青でそれを釘付けにしたと思ったのです。ええ、それだけではありません。ええ、それは良い質問です、どれだけそれだけのことがあるのか​​、そして、あなたが示唆しているように、GPT がチャット GPT で機能する理由の 1 つは、ええ、そこには有限のものがあります。つまり、ある意味では法則を発見することです。GPTは言語の根底にある意味文法の法則を発見しています。興味深いのは、計算宇宙には他にも多くの種類の計算があり、それらは人間が気にかけたり操作したりするものではないということです。それはおそらく、私たちの脳が特定の方法で構築されているためです。私たちの脳のニューラルネットは、大規模言語モデルのニューラルネットとある意味ではそれほど違いはありません。そして、私たちが考えてみると、おそらくこれについてはもう少し話すことができますが、AIが最終的に何をするのかを考えると、答えは、AIが計算を行う限り、実行してあらゆる種類のクレイジーな計算を行うことができますが、私たちが気にかけると決めたものは非常に限られたセットであり、そこで人間のフィードバックによる強化学習がより重要になるようです。 AIは、私たちが興味を持っていることを言うほど、私たちはそれに感銘を受けます。そのため、AIは多くの興味深い知的なことを実行できますが、私たちがAIシステムに興味を持つのは、人間のような方法で人間とコミュニケーションをとるときだけです。人間のようなトピックについて質問すると、それはテクノロジーのようなものです。つまり、ある意味では、物理世界はあらゆる種類のものを提供します。物理学ではあらゆる種類のプロセスが進行していますが、その限られたセットだけが、私たちが捕捉してテクノロジーに使用しているものです。限られたセットであるためです。しかし、私たちは、これは現在私たちが気にかけている人間の目的に何らかの形で適用できるものだと言います。つまり、岩のかけらを拾い上げて、これは素晴らしいケイ酸塩で、あらゆる種類のシリコンが含まれているので気にしないと言うかもしれません。その後、これを半導体ウェハに変えてマイクロプロセッサにすることができることに気づき、とても気になります。ええ、それは、私たちの文明の進化において、私たちが気にかけているものとして何を認識するかということです。ご存知のとおり、最近、高温超伝導体の可能性についてのちょっとした発表がありましたが、それは一般的には誰も気にしていなかった元素リチウムが関係しており、突然、人間の目的に関連するこのアプリケーションがあるとしたら、私たちは非常に気にし始めます。GPTが思考の法則の兆候を発見した可能性があるというあなたの考えを考えると、そのような法則が存在すると思いますか？そのことについてもう少し考えてみましょう。あなたの直感は？もちろんです。つまり、事実は論理ですが、最初のステップは、世界で起こることや意味のあることについての計算が他にもたくさんあるということです。どうやって知るのでしょうか？論理は最後のステップではありません。つまり、文法的に正しい文章があるとすれば、それを見て、ハッピーエレクトロンのように、何だか分からないが、ただの単語の集まりで、文法的には正しい。名詞と動詞は正しい位置にあるが、何の意味もない。つまり、文が意味を持つ可能性があるかどうかを決定するルールが明らかに存在し、純粋な品詞構文を超えたルールが存在する。そこで問題は、それらのルールが何であるか、そしてそれらのルールはかなり有限であるかどうかだ。私の推測では、それらのルールはかなり有限であり、それらのルールが存在すれば、一種の構築キットが得られる。統語文法のルールは、統語的に正しい文章を作成するための構築キットを提供するので、文法を文法的に正しい文章を作成するための構築キットも得られる。意味的に正しい文章は、世界で実現されていないかもしれません。つまり、象が月まで飛んだことをご存知だと思います。ええ、構文的には、意味的には、私たちにはアイデアがあることはわかっています。私があなたにそう言ったら、それが何を意味するのかはなんとなくわかりますが、事実は、いわば世界で実現されていないということです。つまり、意味的に正しいのは、人間の心で想像できるものがあるということです。いいえ、私たちの想像力と物理的現実の理解の両方と一致するものだと思います。ええ、いい質問です。いい質問です。つまり、それは私たちが言語を構築した方法を考えると、言語で説明しているものと一致するものだと思います。結局のところ、物理的に実現可能なものの境界のようなものがあるので、少し循環的です。では、動きの例を見てみましょう。動きは複雑な概念です。ギリシャ人がずっと前に理解すべきだった概念のように見えるかもしれませんが、それは実際、かなり複雑な概念です。動きとは、ある場所からある場所へ移動して、反対側に着いたときにはまだ自分であるということです。物体を持って移動させると、それは同じ物体のままですが、別の場所にあります。通常の物理学でも、必ずしもそのようには機能しません。たとえば、ブラックホールの時空特異点の近くにいると、ティーポットか何かを持っていきます。時空特異点に近づく頃には、ティーポットはほとんどなくなっています。完全に変形して認識できないほどですが、これは純粋な感情が機能しないケースです。物体をそのままにしておくことはできません。この動きの考え方は、少し複雑な考え方ですが、動きの考え方を理解すれば、物事を同じものだが別の場所にあるものとして説明するというアイデアができたら、その抽象的なアイデアから始めることができます。そのアイデアには、AからB、BからCへと移動するという動きの推移性など、さまざまな結果があります。つまり、AからCへと移動したということです。そのレベルの説明では、避けられない結果、つまり、物事を設定した方法の避けられない特徴があります。それが、この種の意味文法が捉えているものだと思います。そして、私は、ここからあそこに移動すると言うとき、その言葉が何を意味するのかという問題だと思います。それが何を意味するのかを説明するのは複雑です。これは、純粋な動きが可能かどうかなど、全体的な問題です。しかし、それが何を意味するのかがわかれば、そのアイデアの必然的な結果があります。しかし、意味というアイデア自体には、いくつかの単語があるようです。彼らにとっての潜在的な曖昧さは、憎しみや愛のような感情的な言葉のような言葉です。つまり、それらは一体何なのか、正確にはどういう意味なのかということです。特に複雑なオブジェクト間の関係がある場合、私たちはこのような近道、つまりオブジェクトAがオブジェクトBを嫌っているというような説明的な近道をとっているようです。それが本当はどういう意味なのか。言葉は、私たちの社会的な使用法によって定義されます。つまり、それは計算言語の言葉ではありません。たとえば、そこに構成要素があると言うとき、その構成要素は任意の高さの塔を建てることができる構成要素であると期待します。したがって、非常に堅固な構成要素が必要です。そして、それがコードの一部になり、ドキュメントがあり、それが全体です。しかし、憎しみという言葉のドキュメントは、その言葉の標準的なドキュメントはありません。いわば、それは複雑なもので、私たちがそれをどのように使用するかによって定義されます。私たちが言語を使用していなかったら、つまり、言語とは何なのかということです。レベル言語は思考をパッケージ化して他の人に伝える方法です。これらの複雑な単語を計算エンジンが使用できるものに変換できるかどうかです。その答えは、計算言語でできることは定義することです。def を作成し、特定の定義を作成します。複雑な単語、たとえば eat という単語があるとします。これは単純な単語だと思います。動物は何かを食べる、などです。しかし、プログラミングをすると、この関数は引数を食べます。これは動物が物を食べることと詩的に似ています。しかし、関数が何かを食べることの意味は何かと考え始めると、関数は毒される可能性があります。実際にはそうかもしれませんが、うーん、言語に厳密な不一致などがある場合、そのアナロジーはどこまで行くのか、それは単なるアナロジーです。一方、計算言語レベルで「食べる」という単語を使用する場合、「定義」することになります。自然言語の概念「食べる」に固定するものはありませんが、今ではその正確な定義があり、そこから計算することができます。しかし、アナロジーは、ソフトウェアが世界を食べるという点でもあり、アナロジーの意味の点で具体的なものがあると思いませんか。確かに、アナロジーには意味の点で具体的なものがありますが、計算言語の最初のターゲットは、物事の通常の意味を取り上げ、それを正確にすることです。十分に正確にすると、その上に計算の塔を建てることができます。詩から始めて、この詩でプログラムを定義すると言うようなものです。これは難しいことです。退屈な作品を用意するだけだと言う方が良いでしょう。散文で、普通の言葉を使って、コンピューターとコミュニケーションをとり、そのようにして、この計算タワー全体を構築するための堅固な構成要素を作り上げていくのです。詩を計算可能なものに縮小すると、ほとんど何も残らないという感覚があります。そのため、詩的な目的のないナンセンスな人間のやりとりがたくさんあるかもしれません。それは、ハムスターが車輪を回すような娯楽のようなもので、実際には何も生み出していません。それは複雑なことだと思います。そこから私はこのような計算タワーを構築することができます。詩を計算可能なものに縮小すると、ほとんど何も残らないという感覚があります。おそらく、詩的な目的のないナンセンスな人間のやりとりがたくさんあるでしょう。それは単なる娯楽のようなもので、車輪の中のハムスターのようなもので、実際には何も生み出していません。私はそれが複雑なことだと思います。そこから私はこのような計算タワーを構築することができます。詩を計算可能なものに縮小すると、ほとんど何も残らないという感覚があります。おそらく、詩的な目的のないナンセンスな人間のやりとりがたくさんあるでしょう。それは単なる娯楽のようなもので、車輪の中のハムスターのようなもので、実際には何も生み出していません。私はそれが複雑なことだと思います。人間の言語コミュニケーションは、1つの心があり、それが言語を生み出し、その言語が別の心に影響を与えているということです。そして、ある種の明確に定義された効果があるという疑問があります。たとえば、2つの心とはまったく独立していて、コミュニケーションがあるということは、1つの心の経験と別の心の経験の違いなど、非常に重要になることがあります。しかし、自然な英語のコミュニケーションの目的は何でしょうか。計算と比較して、計算言語は目的の定義にもっと従順な気がします。概念の明確な表現が与えられ、それに基づいて塔を建てることができます。自然言語は同じものですが、より曖昧です。自然言語の物語は、まさに私たちの種の偉大な発明です。他の種に存在するかどうかはわかりませんが、私たちの種に存在することはわかっています。それは、種の1つの世代から別の世代へと抽象的にコミュニケーションすることを可能にするものです。受け継がれる抽象的な知識があるのをご存知ですか？遺伝学である必要はありません。何かの仕組みを教えるために、次の世代の鳥、つまり次の世代の鳥を前の世代の鳥に弟子入りさせる必要はありません。知識の抽象的なバージョンが受け継がれることは、言語が曖昧であるため、依存する傾向があります。古代の言語を見ると、今日の言語に至るまで翻訳の連鎖がないため、その古代の言語を理解できないかもしれません。その概念は今日の言語とは異なる可能性があります。それでも、何らかの連鎖が必要ですが、抽象的なアイデアを伝達することが現実的に期待できるものであり、それが言語の大きな役割の1つだと思います。つまり、抽象的なものを具体化する能力が言語なのです。提供されたのは、自然言語と思考を同じものと見なしていますか？あなたの心の中で起こっていることは、哲学では長い間議論されてきましたが、GPTがどれだけインテリジェントであるかを考えると、今やより重要になっているようです。それが何を意味するのかはわかりませんが、人間の心の中で起こっていることは、知性のようなもののようです。それは言語ですが、私たちはそれを知性と呼びます。ええ、そうです。それで、考え、思考の言語、思考の法則、言葉の法則、推論、言語の法則との関係は何か、そしてそれが計算とどのように関係しているかを考え始めます。それはより厳密で正確な推論方法ですね、人間を超えています。つまり、コンピューターが人間が行うことの多くは、人間は行いません。つまり、人間はサブセットであると言えるかもしれません。おそらく、おそらく、うまくいけば、そうです。そうですね、大規模言語モデルがあれば、計算は必要ないと言う人もいるでしょう。大規模言語モデルでは、最終的にはニューロンが大きくなって何でもできるようになりますが、実際に実行しているのは、人間がすぐに実行できる種類のことであり、人間がすぐに実行できないような形式的なことがたくさんあります。たとえば、暗算ができる人もいます。頭の中である程度の数の計算を行うことができます。頭の中で高度なプログラムを実行できる人は多くないと思います。それは、人々が行うことではなく、人々が考えたことすらないことです。なぜなら、それは一種の、別のプログラムがコンピューターで簡単に実行できるものではないからです。特殊なプログラムを実行しているのではありませんか。しかし、チューリングマシンがあると言ったら、 50ステップ後にそれが何をするのか教えてください。頭の中で考えようとすると、本当に難しいです。それは人間のやることではないのです。つまり、ある意味では、人間はプログラムし、コンピュータを作り、プログラムするのです。50ステップ後にシステムが何をするのかというあなたの質問に答えると、つまり、人間はコンピュータを作ります。はい、そうです、そうです。しかし、彼らは何かを作り、それを実行すると、頭の中で起こっていることとは異なることをします。つまり、彼らはその計算の一部を、頭の中で内部的に起こっているものから、今では心の外にあるツールにアウトソーシングしたのです。つまり、私たちが人間であるかどうかにかかわらず、コンピュータを発明したのではなく、彼らがコンピュータを発見したのです。彼らがコンピュータの技術を発明したのです。コンピュータは、この計算の流れ全体に接続する一種の方法にすぎません。おそらく他の方法もあるでしょう。つまり、半導体や電子機器などからコンピュータを作る特定の方法、それが私たちが構築した特定の技術スタックです。つまり、人々が量子コンピューティングでやろうとしていることは、計算を行うための異なる種類の物理的な基盤を見つけることです。生物学は多くの計算を行っていますが、半導体や電子機器とは異なる基盤を使用して計算を行います。これは分子レベルの計算プロセスであり、うまくいけば、私たちはそれについてもっと理解できるようになります。それについてもっと理解するためのアイデアがいくつかありますが、それは別の意味です。つまり、物理的な宇宙で起こる計算の別の表現であり、進化するハイポグラフなどのレベルで起こることです。計算という抽象的な概念のための別の実装レイヤーです。GPTや大規模言語モデルが形成され始め、言語や思考の法則が暗黙的に理解され始めたら、それらを明示化できると思いますか？はい、彼はたくさんの努力をしました。つまり、彼らは自然科学をやっているということです。つまり、自然科学では、複雑なことをすべて行っている世界があり、ニュートンの法則を発見します。たとえば、これが運動の仕組みです。これがこの特定の世界の理想化の方法です。これが、単純な計算的に還元可能な方法で説明する方法です。ここでも同じことだと思います。物理学などに物語理論があるのと同じように、起こっていることの計算的に還元可能な側面があり、一種の物語理論を得ることができます。思考の法則がすべて明示化されたとき、それは憂鬱になると思いますか、それともエキサイティングだと思いますか？人間の思考が明示化されたとき、それは悲観的になると思いますか、それとも興奮すると思いますか？計算的還元性を理解すれば、どちらでもないと思います。なぜなら、実際には、人々は次のように言うからです。ああ、でも私には自由意志があるんです。つまり、彼らは自分たちに内在する何かをしているという考えを持っていて、何が起こっているのか理解しているのですが、実際には、私たちは物理法則があり、それがすべての神経、すべての電気インパルス、神経などを決定すると考えています。つまり、私たちが最終的に物理法則によって決定されるというのは、いわば憂鬱ではないでしょうか。つまり、同じことです。つまり、意味文法から文章の構成方法に到達するのは、個々の神経の発火から文章の構成方法に到達するよりも短い距離ですが、根本的に異なるわけではありません。ところで、このレベルの、つまり、別のレベルの説明を得ると、さらに先に進むのに役立ちます。それでは終わります。ますます複雑な種類のものを作成できるようになるでしょう。コンピューターがなかったら、特定のルールを知っていればそれを書き留めてある程度まで進むことができますが、コンピューターがあればはるかに遠くまで進むことができます。これは、あなたが書いたブログ記事「Chat GPTは何をしているのか、どこで機能するのか」と同じようなものです。私たちはこれについて話してきましたが、少し立ち止まってこの質問について考えてみましょう。Chat GPTは何をしているのか、何十億ものパラメータを大量の単語でトレーニングしたものは、なぜ機能しているように見えるのでしょうか。それは、あなたが指摘したように、そのようなプロセスによって発見できる言語の法則があるからでしょうか。チャットGPTが行っていることの低レベルな部分について話しましょう。つまり、最終的にプロンプ​​トを与えると、次の単語が何であるべきかを判断しようとします。これは驚くべきことです。このような低レベルの愚かなトレーニング手順で、最初に構文的に正しいものを作成し、次に意味的に正しいものを作成できることは、それほど驚くべきことではありません。私の人生の物語のようなものは、単純なルールで想像よりもはるかに複雑なことができることに気付いたことです。単純に始まり、簡単に説明できるものから、想像よりもはるかに多くのものを生み出すことができます。正直なところ、これには40年ほどかかりました。このことについて考えてきましたが、いつも驚かされます。たとえば、物理学のプロジェクトで、宇宙全体がこれらの単純なルールから成長することを考えたとき、私はまだ抵抗を感じます。なぜなら、本当に複雑なものが単純なものからどのように発生するのかを考え続けるからです。間違っているように思えますが、それでも、私の人生の大部分は、物事から知っていました。私は、物事がこのように機能することを研究しました。ですから、確かに、単語を 1 つずつ書いて、たとえば、一貫したエッセイを作成することが可能であることは驚くべきことですが、それがどのように機能するかを理解する価値はあります。つまり、猫が座ったとすると、次の単語は何でしょう。では、どのように次の単語を見つけるのでしょうか。インターネットで書かれた 1 兆語を見て、猫が床に座った、猫がソファに座った、猫が何にでも座ったのを見てきました。したがって、最低限のことは、インターネットで見たものを見てみましょう。猫が座った 10,000 の例を見ました。最も可能性の高い次の単語は何でしょう。それを選び出して、それが次の単語だとしましょう。これが、ある程度やろうとしていることです。問題は、インターネット上に十分なテキストがないため、適切な長さのプロンプトがあれば、その特定のプロンプトがオンラインで発生することはないということです。インターネットでさらに進んでいくと、すでにあるものから確率を計算できるような訓練ができる場所がなくなるでしょう。例えば、2プラス2と言った場合、2プラス2が4になる例は無数にあり、2プラス2が5になる例はごくわずかです。何が起こるかはほぼわかります。それでは、例から何が起こるか計算できないのであれば、何が起こるかは確率的にわかりません。たとえば、何が起こるかはサーバーモデルで計算する必要があります。物事のモデルを作るというアイデアは、本当によくわかりませんが、ガリレオがおそらく最初の人の一人だったと思います。ガリレオはこれを解明しました。私が書いたチャチ BT に関する本で例を挙げたと思いますが、ガリレオがピサの斜塔の各階から大砲の弾を落としていたときの話です。この階から大砲の弾を落としたら、何らかの理由で 5 階を落とし損ねたとしても、1 階、2 階、3 階、4 階、6 階、7 階、8 階から大砲の弾が地面に落ちるまでの時間はわかります。次に、ボールがどのくらいの時間がかかるか、ボールが床から地面に落ちるまでの時間を計算できるモデルを作成できるかどうかという問題があります。ボールが落ちるまでの時間を明示的に測定していない床から計算できるモデルを作成できるかどうかです。ガリレオが気づいたのは、数学、つまり数式を使用してボールが落ちるまでの時間を計算できるということです。それで、クエストの質問は、たとえば、ピクセルの配置がこのような複雑なものを作成する場合です。このピクセルの配置は A または B ですが、これは私たちが A または B として認識するものに対応していますか。同様のものを作成できます。各ピクセルは方程式のパラメーターのようなもので、答えが A か 1 つまたは 2 つの A または B のいずれかである巨大な方程式を書くことができます。問題は、人間がこれは A でこれは AB であると結論付ける方法をうまく再現できるモデルはどのようなものかということです。A の上部に複雑な余分な尾がある場合、別の結論が導き出されるでしょうか。人間が物事を区別する方法にうまくマップされるモデルの種類はどのようなものでしょうか。大きなメタ発見は、ニューラル ネットがそのようなモデルであるということです。ニューラル ネットがそのようなモデルであることは明らかではありません。人間の区別が捉えられていない可能性があります。タイタン モデルを検索してみることができます。これは数学モデルである可能性があります。物事に対する人間の典型的な区別を捉える他の何かに基づくモデルである可能性があります。このモデルは、実際には、アーキテクチャ ブレインが機能すると考えられる方法と非常によく一致していることがわかりました。おそらく驚くことではありませんが、このモデルは実際に対応しています。こうした区別の仕方についてですが、次の核心は、ニューラルネットモデルのようなモデルは、人間と同じように区別して一般化を行うということです。そのため、猫が緑の空白に座っていると言えば、猫が緑の空白に座っている例をあまり見たことがなくても、ツチブタが緑の空白に座っているなど、その特定の文はインターネットでは発生しないはずです。そのため、モデルは、実際に見た例から一般化する必要があります。つまり、それが事実であるということです。ニューラルネットは、人間と同じように一般化されています。もし私たちがエイリアンだったら、ニューラルネットの一般化を見て「おかしい」と言うかもしれません。つまり、a の上に小さなドットを追加すると、もう a ではなくなるので、すべてが台無しになるということです。しかし、私たち人間は区別をしますが、それはニューラルネットが行う種類の区別に対応するようです。チャットGPTについて私にとって驚くべきことは、その構造が、1943 年に人々がニューラルネットが動作すると想像していた非常にオリジナルの方法に非常に似ていることです。非常に詳細なエンジニアリングがたくさんあります。非常に巧妙ですが、実際には同じアイデアであり、実際にそのアイデアの詳細化でさえ、ニューラルネットをより精巧にするために実際の特定の構造を入れようとしたようなものでした。そのほとんどは非常に重要ではありませんでした。つまり、あなたが知っているように、あなたが知っているように、あなたが知っているように、あなたが知っているように、いくつかのものがあります。このニューラル ネットをトレーニングするとき、この Transformer アーキテクチャ、つまりアテンションというアイデアが本当に関係するのは、これらのニューロンのすべてが他のすべてのニューロンと接続しているか、またはいわば何らかの因果関係でローカライズされているか、つまり、単語のシーケンスを作成し、単語が前の単語に依存しているのではなく、すべてがすべてに依存する可能性があるかということです。これは、物事を整理して、巨大な混乱を回避するために重要なようですが、結局のところ、チャットGPTとは何かを理解する価値があることは、つまり、結局のところ、ニューラルネットであるニューロンとは何かということです。つまり、各ニューロンには、他のニューロンの束から入力を受け取り、最終的には数値を持ち、何らかの数値を計算し、自分より上のニューロンを確認するということです。これは一連のレイヤーのようなもので、自分より上のニューロンを確認し、自分より上のニューロンが何であるかを示します。全てのニューロンの値を合計し、重みを掛け合わせ、0より大きい場合は1に、そうでない場合は0にする、またはもう少し複雑な関数を適用する、これがどのように機能するかはよくご存知でしょうが、これは巨大な方程式です。4階にデータがない場合にボールがどこに落ちるかを計算するには、多くの変数が必要でしたが、この方程式は1750億項の方程式ほど単純ではありません。ある意味では、このような方程式を訓練する単純な手順で、自然言語の優れた表現が得られるというのは驚くべきことです。実際の問題は、ニューラルネットのこのアーキテクチャです。ニューラルネットは常に数字を扱うだけです。つまり、最初に入力した文章を数字の束に変換したということです。たとえば、英語の 50,000 語の各単語をマッピングするとします。各単語または単語の各部分を何らかの数字にマッピングします。それらの数字をすべて入力すると、その数字がニューロンの値に入力されます。その後、何が起こるかというと、レイヤーからレイヤーへと波及していき、最後に到達します。チャットGPTには約 400 のレイヤーがあり、新しい単語ごとに 1 回だけ実行します。計算する単語の数字は、前の単語から取得されます。次に何を計算するか。次に来る可能性のある 50,000 語のそれぞれについて推定される確率を計算し、次に最も可能性の高い単語を使用することもあれば、最も可能性の高い単語を使用しないこともあります。興味深いことに、温度パラメーターと呼ばれるものがあります。これは、温度でわかります。ゼロの場合、常に最も可能性の高い単語を使用します。これは、次に来る可能性が最も高いと推定された単語です。温度が上昇すると、単語の選択がますますランダムになり、可能性の低い単語に下がります。最近実際に試していたのは、温度が上昇すると発生する遷移です。特定の温度、時々特定の温度で、おそらく 1 程度で、物事がおかしくなります。2は、昨日から私が気付いていたことです。通常は妥当な答えを出しているのですが、その温度になると、ある程度の確率で意味不明なことを言い始めます。なぜこうなるのかは誰にもわかりません。つまり、それは、ところで、理解しておくべきことは、一度に1語ずつ入力しているということです。外側のループは、単語を入力したと表示され、これまでに書いたものをすべて取り込んで、別の単語を入力しようというものです。この外側のループは、ほとんど些細なことのように見えますが、この操作には非常に重要で、たとえば、ちょっと変なところの1つは、答えを出して、その答えが正しいかどうか尋ねると、いいえと答えます。なぜそうなるのでしょうか。なぜうまくできないのでしょうか。答えは、一度に1語ずつ前進しているためです。ご存知のように、ある種の思考の連鎖とともに現れ、完全に間違った答えですが、出てきた答えをすべて入力すると、すぐにそれが正しくないことがわかり、それが間違った三段論法か何かであるとすぐに認識できます。そして、何が起こったのかがわかります。いわば、このガーデンパスに導かれていたにもかかわらず、間違った場所にたどり着いたわけではありませんが、このような手順が収束して、インターネット上の言語のかなり優れた圧縮表現を形成するのは興味深いことです。はい、それはまったく正しいです。いいえ、どう解釈したらよいかわかりません。ご存知のように、私たちが理解していないことがたくさんあると思います。たとえば、1750億の重みは、おそらく約1兆バイトの情報であり、使用されたトレーニングセットと非常に似ています。なぜそれがニューラルネットの重みの数に何らかの理由があるのでしょうか。どこが正しいのかわかりませんが、ある意味では、あなたが知っているという事実自体が、良い説明をすることはできません。何が起こっているかの明確なルールがある限り、最終的には、起こっていることをうまく捉えるはるかに小さなニューラルネットができると期待できます。私は、ニューラルネットが最善の方法だとは思いません。ニューロンは、他の方法で構造化する方法がない場合に行うことです。他の方法で構造化する方法がない場合に行うのは非常に良いことです。過去2000年間、私たちは他の方法で構造化する方法を知っていませんでした。したがって、これは開始するにはかなり良い方法ですが、それは、起こっていることに関する、ある意味でより象徴的なルールを見つけることができないという意味ではありません。そのルールの多くは、ニューラルネットの構造の多くを取り除き、いわば純粋な計算のステップのようなものに置き換えることができます。ニューラルネットのようなものを周辺に取り入れると、はるかに簡単な方法になります。そうすれば、必要な記号ルールが明らかになることを期待できます。しかし、だんだんと正しくなくなり、あいまいな部分も残ります。つまり、何を形式化できるか、何を計算言語に変えられるかという問題のようなもので、脳がそのように設定されているため、そのように起こります。大規模言語モデルの限界は何だと思いますか。明確にするために、つまり、ディープコンピューティングは大規模言語モデルが行うことではないと思います。つまり、大規模言語モデルの外側のループは、異なる種類のものです。計算で多くのステップを実行しようとする場合、現時点でそれを実行する唯一の方法は、思考の連鎖全体を基本的に一連の単語としてスプールすることです。そして、そこからチューリングマシンを作成できます。先ほどその構造を作ったのですが、原理的には単語をスプールするだけで任意の計算を行うことができますが、それは奇妙で非効率的な方法ですが、ディープコンピューティングのようなものだと思います。これは、人間がすぐに実行できるものであり、大規模言語モデルでは、頭に浮かんだようなことは何でもうまく実行できるでしょう。これは、大規模言語モデルに適しています。頭に浮かんだことは、常に正しいとは限りませんが、私たちと同じように考え抜くことです。しかし、人間がうまく実行できることをはるかに高速に自動化する方法があるのではないかと思います。ループのように、たとえばWolfram言語の任意の大規模なコードベースを生成します。問題は、コードベースに何をさせたいのかということです。制御を逃れて世界を征服します。つまり、人々が「この巨大なものを構築したい」と言うとき、巨大な計算言語の断片は、ある意味では計算言語の失敗と言えます。つまり、構築しなければならないもの、言い換えれば、記述がある場合、小さな記述がある場合、それが計算言語で表現するもので、コンピュータはそこから計算することができます。つまり、記述を与えるとすぐに、その記述を何らかの形で明確にし、形式的なものにし、そして、この自然言語の断片を与えると言うと、巨大な形式的な構造が飛び出します。それは、ある意味では意味をなさないものです。なぜなら、その自然言語の断片を受け入れることは、私たちが社会的に知られている、いわば知識の集積にプラグインするのです。それが知識の集積の一部を取り込む方法ですが、うまくいけば、計算言語でそれを実現できるでしょう。どうすれば大きなことを実行できるでしょうか。つまり、自分が望むことを説明する方法が必要です。もっと明確にすることもできます。頭に浮かんだのは、議会のすべての議員を反復して、このシステムを大統領にすることを彼らに許可しなければならないと説得する方法を考え出すことです。AIシステムが制御権を握って大統領になれるようにするすべての法律を可決します。これは非常に明確です。各議員、各上院議員の個々の人生の物語を理解します。法律を可決するために何が必要なのかわかりません。彼らを制御して操作する方法を考え出します。すべての情報を取得します。この議員の最大の恐怖は何でしょう。デジタル空間で行動を起こすことができるような方法で、評判の破壊を脅かすか、このようなことです。私が説明できることは、大規模言語モデルは、Wolfram言語のような具体化の助けを借りて、どの程度自動化できるか、かなり長い道のりになります。また、攻撃をどれだけ早く生成できたかにも驚いています。そう、以前はこれについて考えたことがありませんでした。こんなに早く生成できたのは面白いです。これは非常に懸念すべきことです。なぜなら、おそらくこのアイデアはかなりの損害をもたらすでしょうし、他にも非常に多くの同様のアイデアがあるかもしれません。では、そのアイデアのもっと無害なバージョンをお見せしましょう。AIチュータリングシステムを作るつもりだと。これは、あなたが言っていることの無害なバージョンです。この人にこの点を理解してもらいたいのです。基本的には機械学習を行っています。損失関数で、人間にこの点を理解してもらい、人間にテストを行ったときに、彼らがこれやあれがどのように機能するかを正しく理解していることを確認することです。そして、私は、大規模言語モデル型の技術と計算言語を組み合わせることで、人間に物事を教えるのにかなりうまく機能するだろうと確信しています。これは興味深い現象になるでしょう。なぜなら、個別指導は長い間目標とされてきたものだからです。私たちはそれを実現すると思います。それは多くの結果をもたらすと思います。たとえば、あなたが私のことを知っていて、AIが私を知っていて、私がこれからこれをやろうとしていると私に言ったとします。私がすでに知っていることを踏まえて、私が知っておく必要がある3つのことは何でしょうか。つまり、私が論文か何かを見ると、その論文の要約が、いわば自分に最適化されたバージョンがあり、それが本当に機能すると思います。知識の大きなギャップを理解できるかもしれません。その分野は、実際にトピックのより深い理解を与えてくれます。それは重要なことです。教育などについて考えると、本当に変わると思います。何をする価値があるのか​​、何をする価値がないかなど、それが変わります。私は人生でさまざまな分野を学んできましたが、毎回、これは学べないだろうと思っていました。しかし、結局のところ、これらのことを学ぶためのメタメソッドがあることがわかりました。つまり、知識を身につけることが容易になり、特定のことを知る必要がある場合は、それが可能になるということです。効率的な方法で教えられるというのは、興味深い機能だと思います。そして、専門的な知識の大きな塔の価値が、全体像を理解し、物事を結び付けることができるメタ知識に比べて重要ではなくなると思います。ますます専門化しようという大きな傾向がありました。なぜなら、私たちは知識の塔を登らなければならないからです。しかし、自動化が進むにつれて、それらのステップを踏むことなく塔のその場所に到達できるようになると思います。興味深いことに、直感的には、種の集合知という点では、個々の心の中でその集合体を構成するものが増え、ジェネラリストや哲学者になる傾向があります。それが私が思うに、人間が役に立つ場所だと思います。このようなドリル作業や機械的な作業の多くは、自動化がはるかに進み、AIの領域が広がり、博士号は不要になりました。興味深いですね。つまり、専門化の塔のようなものが、人類に蓄積されてきた知識の特徴であり、自動化やツールの構築が進むたびに、塔全体を知る必要性が減り、ツールを使って塔の頂上にたどり着くことができるようになります。つまり、AIは何をするのか、AIは何をするのかを考えると、最終的に人間がやることは、AI と同じです。AI に特定の目的を達成せよと指示すると、AI はおそらくその目的を達成する方法を見つけ出すでしょう。私たちは、どんな目的を達成したいか尋ねます。AI には、そのことについての本質的な考えはありません。それは定義されたものではなく、他の何らかのエンティティから来なければならないものであり、いわば私たちが主導権を握っている限り、つまり社会や歴史などの私たちのネットワークが、私たちが目指す目的を定義しているものであり、それは私たち人間が必然的に関与しているものです。少し反論すると、GPT の機能バージョンは、どのような基準でどのような目的を達成したいかという質問に適切な答えを出せると思いませんか。つまり、もし彼らが「これが起こり得る恐ろしいことです」と言ったら、インターネットの平均を取って、インターネットの平均から、人々が何をしたいのかを尋ねます。それが、イーロン・マスクの最も面白い結果です。最も可能性が高いのは、ええ、それは世界の娯楽を最大化することです。その暗いバージョンはドラマです。その良いバージョンは楽しさです。つまり、AIに、ええ、人類が達成したいことは何なのかと尋ねたら、はい、はい、答えがあります。答えは、インターネットの平均が人類が達成したいと言っていることです。これは、平均という言葉を非常に緩く使っていると思います。つまり、これらの言語モデルがどんどんよく訓練されるにつれて、答えはますます面白くなると思います。いいえ、結局のところ、それは私たちがすでに言ったことの反映です。はい、しかし、ええ、集合知には、おそらく各個人よりも深い知恵があります。それが私たちが社会に求めているものではないでしょうか。つまり、それは重要なことです。いいえ、それは興味深い質問です。つまり、私たちの一部が革新と理解に取り組んでいる限りにおいてです。新しいものなどを生み出すには、個人がクレイジーなことをすることが多いのですが、いわゆる刺激的なことと、集団が高慣性平均を狙っていることの間で複雑な相互作用があります。集団が興味深いものを湧き出させることもあれば、革新的な方向性を作ろうとする試みを阻害することもあります。しかし、大規模言語モデルでは、その単純化を超えて、知的およびキャリアの多様性が本当に重要であると考えるのではないでしょうか。そのため、外れ値からクレイジーな人々が必要であり、この全体の目的は、このようなダイナミクスを通じて探求することです。人類文明として、私たちはほとんどの人が一つのことに集中し、その反対のことをする周縁の狂った人々がいて、社会全体をまとめ上げてきました。主流の科学と狂った科学があり、それは人類文明の歴史に関するものであり、AIシステムはそれを理解できるかもしれません。そして、言語モデルが私たちにこれを教えてくれることに感銘を受ければ受けるほど、私たちはそれにより多くの制御を与え、私たちの社会を運営させようとします。したがって、社会がAIシステムに運営されるように操作される可能性があるというループがあります。つまり、興味深いことの1つは、私たちは常に進歩していると思っているかもしれませんが、ある意味では、すでに存在するものを取って、それを存在すべきもののモデルとして使用しようとすることで、多くの宗教がその視点を採用していることは興味深いことです。Timexで書かれた聖典があり、それは定義しています。人々が将来どのように行動すべきか、それは人々が運用してきたモデルであり、ある意味では、これはそのバージョンのようなものです。つまり、世界がどのように自分自身をさらけ出したかの2023年バージョンを取り上げて、それを使用して世界が将来何をすべきかを定義するようなものですが、それは不正確な定義ではありません。なぜなら、宗教的なテキストやGPTと同様に、GPTの言うことの人間の解釈は、システムの摂動、ノイズ、不確実性に満ちたものになるからです。GPTが正確に何をすべきかを教えてくれるわけではありません。それは、もう一方の頬を向けるような物語です。それは完全に指導的な物語ではありません。AIが世界中のすべてのシステムを制御するまで、彼らは非常に正確に何をすべきかを伝えることができますが、彼らはただこれをしたりあれをしたりするだけです。そして、それだけでなく、各人に次にこれをやれ、次にあれをやれと自動的に提案するのです。これは通常見られるよりも少し規範的な状況だと思いますが、人間に何が残されているのかという全体的な問題、つまりインターネット上にあるものなどによって定義される人間の目的のコーパスが存在するという考えは重要ですが、次に、計算宇宙として考えられるものを探求し、さまざまな可能性を探求し、さまざまな発明を行うことができるかどうかという問題があります。これらのさまざまなものを作ることができるかどうかという問題は、どの選択肢に従うかということです。人間が人間らしい進歩を望むなら、いわば私たちが選択をすることができるということです。つまり、今日存在するものを取り上げて、それを将来のすべての決定要因として使うという考え方です。人間にとっての機会となるのは、多くの可能性が投げかけられ、さまざまなことが起こったり、実行されたりする可能性があります。私たちがループに参加したい限り、私たちがループに参加して行うことが理にかなっているのは、それらの可能性の中からどれを望むかを選択することです。しかし、私たちが何かを選択するという考えのフィードバックループの程度は、さまざまなシステムによって影響を受けるため、疑問視され始めます。それがますます私たちの教育、知恵、知識の源泉になると、AIが引き継ぐことになります。つまり、私は長い間、AR Autoの提案がAIを引き継ぐ原因であると考えていました。人間はただそれに従うだけです。もうお互いにメールを書かなくなり、自動提案メールを送るだけになります。ええ、でも、人間が潜在的に関与するのは、選択肢があるとき、そして、私たちの歴史の網全体に基づいて選択できるときです。ええ、そして、それはすべてあなたが決定している限りにおいてです。ええ、人間には居場所がありません。ところで、あるレベルでは、ええ、それはすべて一種の複雑な哲学的問題です。なぜなら、あるレベルでは、宇宙はただやっていることをやっているだけであり、私たちはその宇宙の一部であり、いわば必然的にやっていることをやっているからです。しかし、私たちは自分がやっていることに何らかの主体性を持っていると感じています。それはそれ自体が別の興味深い問題であり、私たちは宇宙が創造することを意図した最終目的地であるような気がします。しかし、私たちは明らかに何らかの中間段階である可能性が非常に高く、おそらくそうです。ええ、私たちは間違いなく何らかの中間段階です。問題は、もっとクールで複雑なものがあるかどうかです。もっと面白いものが実現されるでしょう。この計算宇宙はそのようなものでいっぱいですが、私たちの特定のポケットの中では、これが私たちがやろうとしている最善のことであるかどうかは、計算宇宙であらゆる種類の興味深いものを作ることができるようなものです。私たちはそれらを見て、ええ、それは私たちが知らないことです、私たちの現在の物事の考え方とはあまり関係ありません。数学では、人間の数学者が書き留めて公開した約300万から400万の特定の定理がありますが、それらは宇宙に無限の数の数学定理である可能性があるのです。可能な定理の中から別の定理を選ぶと、人々は、まあ、それは、つまり、彼らはそれを見て、この定理が何を意味するのか分からない、私たちが扱っている歴史のウェブの一部であるものとは関係がないと言うでしょう。AIと私たちとの関係を理解する上で1つ指摘しておきたいのは、AIのインフラストラクチャ全体があり、それが私たち人間にはおそらくすぐには理解できない方法で機能しているということです。これは非常に奇妙な状況だと言うかもしれません。私たちには理解できない方法で動作するこのものをどうやって構築できたのでしょうか。計算上の不可逆性などなど。これはどういうことでしょうか。世界が私たちには理解できない動作をするAIによって運営されているとしたら、どんな感じになるでしょうか。そして、実際に私たちはこれを以前に見たことがあるということに気づきます。自然界には、私たちが自然界に存在すると何が起こるかがわかります。自然界は、明確なルールに従って、あらゆる種類の計算上の不可逆性があり、自然界が時々何をしているのか理解できません。たとえば、AI が人類を絶滅させるのかと言うと、AI の策略が最終的に種を絶滅させる原因になるのか、という疑問が湧きます。自然界についても同じことが言えます。自然界の策略が最終的に地球を爆発させる原因になるのか、といった疑問です。これらは質問です。自然界で何が起こっているのか理解している限り、それは科学と自然科学の結果です。AI という巨大なインフラストラクチャがある場合、私たちが期待できることの 1 つは、AI がどのように機能するかを説明するような新しい種類の自然科学を発明する必要があるということです。馬か何かを持っていて、それを手に入れようとしているようなものです。私たちは馬に乗ってここからあそこへ行こうとしています。馬が内部でどのように機能するかはよくわかりませんが、特定のルールやアプローチをつかんで、馬をここからあそこへ行かせ、私たちをそこへ連れて行かせることができます。これは、私たちが扱っている、理解不能で計算上還元不可能なAIと同じような種類のものですが、このような還元可能な部分を特定して、馬のメインをつかんでそれを記述したり、馬に乗るためにこれをしたりあれをしたりすれば、それが私たちが望んでいることを実行させるための成功した方法だと理解することができます。興味があるのですが、馬と、えーっと、インターネットに接続された大規模言語モデルやAGIと呼ばれるものとの間には違いがあるようです。では、これらの脅威に関する大きな哲学的な質問についてお聞きします。Eliezer Adkowskiのように、AIシステムの存在的リスクを心配する人はたくさんいます。これは、あなたが心配していることですか？Wolf from Alphaのような素晴らしいシステムを構築しているとき、時々、それに没頭することがあります。私は、自分がやっていることの意味について少し考えてみるのが好きです。マンハッタン計画のような状況で、これはエンジニアリングで最も素晴らしい物理学の一部であるように見えますが、これはどこに向かうのでしょうか。これらの議論のいくつかは、彼らは常により賢いAIであり、最終的にはAIが私たちよりも賢くなり、あらゆる種類の恐ろしいことが起こるだろうというものです。これらの議論のいくつかは、神の本質に関する存在論的議論を思い出させます。このような議論は、ある特定のモデルに基づく議論です。かなり単純なモデルで、常にこれより優れたものがあり、他のものもあるというものです。つまり、これは、そういう議論です。これらのことがどのように発展するかという現実で起こりがちなことは、予想以上に複雑で、最終的には超知能が現れて、それがこうするだろうという単純な論理的議論は、実際にはそうではなく、複雑な話であることが判明します。たとえば、頂点知能が存在するかどうかという問題の例があります。頂点捕食者が存在する可能性があるのと同じように、生態系に頂点知能が存在するのでしょうか。頂点知能は存在するのでしょうか。おそらく最も知能の高いものでしょう。答えはノーだと思います。実際、私たちはこれをすでに知っています。これは、計算の還元性の話に戻るようなものです。チューリングマシンのようなものがあって、それが動作するチューリングマシンがあったとしても、できるだけ長く、停止する前に、これがマシンで、これがApexマシンで、これを実行するマシンだと言うと、より長く実行できるマシンは常に存在します。そして、チューリングマシンの無限のコレクションに出て行くと、いわば終わりに到達することは決してありません。常にそれは、常に別の発明があるかどうか、常に別のものを発明できるかどうかという同じ質問のようなものです。答えはイエスです。可能性のある発明の無限の塔があります。これがApexの定義の1つですが、もう1つは、私もあなたがそうであると思っていましたが、これも真実かもしれないと思います。地球上に現在Apexの知性である種族がいるかどうかです。人間がそうであると言うのは簡単ではありません。それは簡単ではありません。同意します。それは、私が長い間興味を持っていた他の知能の一種だと思います。つまり、私は知能を計算のようなものだと考えており、それは、何が起こるかを推測するための一連のルールのようなものだと考えてきました。私は、計算にはこのような特殊化があり、それは意識のようなもので、計算の境界や経験の単一のスレッドと関係していると考えてきました。これらは、人間のような世界の経験に対応する計算の特殊化です。では、他の知能があるかもしれません。天気には独自の心があるという格言があります。それは、私たちが計算するのが難しいあらゆる種類のものを計算できる異なる種類の知能ですが、私たちの物事の考え方とはうまく一致していません。そうではありません。物事について考える方法を考えてください。この異なる知性、すべての異なる心、すべての異なる人間の心は、物事を異なる方法で考える異なる知性です。私たちの物理学プロジェクトの形式主義の観点から、ルール空間というアイデアについて話します。これは、すべての可能なルールシステムの空間です。異なる心は、現実空間の異なる点の意味で、人間の心です。同じ種類の文化や考えなどで育った心は、現実空間では非常に近いかもしれません。コミュニケーションが非常に簡単で、翻訳が非常に簡単で、田舎の空間の1つの心に対応する場所から、別の近くの心に対応するルール空間の別の場所に移動するのが非常に簡単です。田舎の空間でより遠いもの、たとえばペットの猫などを扱う場合、ペットの猫には私たちと共有する側面があります。猫の感情的な反応は私たちのものと多少似ていますが、猫は人間よりも現実空間で遠くにあります。したがって、問題は、私たちの思考プロセスから猫の思考プロセスなどへの翻訳を行うことができるかどうかを識別できるかどうかです。そこに着いたら何が起こるか、多くの動物、例えば犬は、ラブラドールレトリバーの工場システムを持っていて、いわば私たちにはない世界の匂いの構造を持っています。ですから、犬に話しかけて言語でコミュニケーションをとることができれば、犬は「これは、ああ、流れる匂いだ、あれはあれだ、その他いろいろ」と言うでしょう。私たちにはまったくわからない概念です。今のところ、興味深いのは、いつか化学センサーが実現し、非常に優れた機能を発揮するようになるということです。人工の鼻もかなりうまく機能し、拡張現実システムで犬が見るのと同じ地図などを表示できるようになるかもしれません。犬の脳内で起きることと似たようなことが起こり、最終的には現実空間に拡張して、犬と同じ感覚体験を得られるようになり、匂いや風景など、何を意味するのかを内面化できるようになります。そうすると、ロイヤル空間のその部分を植民地化できることになります。動物などが理解しているいくつかのことを、私たちが理解していない他のことをうまく理解できるようになるまで、動物が考えていることを私たちが考えることができるものに変換するにはどのような表現が必要かという疑問は、些細なことではありません。私は長い間、非常に興味を持っていました。猫が飼い主に勝てるiPadゲームを作ろうとしたある時点での奇妙なプロジェクトです。そこには深い哲学的な意味があるように感じます。はいはい、つまり、ペットがMinecraftか何かで動作して何かを構築できるかどうか知りたいのですが、ペットは何を組み立てるのでしょうか、そして、彼らが構築するものは、私たちが見て「うん、それはわかる」と言うようなものになるのでしょうか、それとも、計算宇宙のどこかにある、セルオートマトンが作り出したようなものになるのでしょうか、私たちはそれを販売しています。ええ、それがうまく機能するのはわかりますが、なぜそのルールを使うのかわかりません。なぜ気にするのかわかりません。ええ、実際には、それは単なるリンクです。真剣に、あなたと猫の間に、猫が正当に勝てるコネクタがロイヤルスペースにあるのでしょうか。iPadは非常に限られたインターフェースです。ええ、猫が勝つゲームがあるのだろうかと思います。問題は、猫はiPadで何が起こっているのかにそれほど興味がない傾向があることだと思います。ええ、それはインターフェースの問題です。おそらく、そうですね、いいえ、おそらくそうだと思います。つまり、もし私たちがそれらにさらされたら、私たちを食べる動物がたくさんいるということです。ですから、逃げるよりも早く襲いかかってくるでしょう。そして、おそらくそうなるでしょう。私たちは自分自身を隠していると思っていますが、うまく隠れていません。それは物理的な強さです。猫のような動物が、知性の領域で、確かに特定の種類のものを処理する速度という点で、確かに何かがあると思います。つまり、ゲームがあるかどうかという質問です。例えばチェスでは猫チェスがあります。猫同士で対戦できます。猫と対戦しても負けるとは限りません。スピードが関係しているかもしれませんが、概念が関係しているかもしれません。また、概念があり、猫には概念があるかもしれません。私は、人類は言語を発明して以来、チェスのようなゲームで勝つための抽象化の塔のようなものを作り上げてきたと考える傾向があります。言い換えれば、言語を経験し、抽象化を学んだことで、私たちはそのような抽象的な種類のものに賢くなったのです。しかし、それはネズミを捕まえることなどに賢くなるわけではありません。私たちが自分自身に関心を持つために選んだものに賢くなるのです。これは抽象的な種類のものです。そして、これはまた、人が何を気にするかという質問に戻ります。自分が猫である場合、猫と議論できるかどうかです。猫と議論するために物事を翻訳することができます。猫は「この光が動いているのを見てとても興奮している」と言います。私たちは「なぜ気にするの？」と尋ねます。猫は「これが世界で一番大切なものなんだ」と言います。ええ、このものが動くのです。つまり、あなたが「考古学的遺跡を見て、これらの人々はこれについて信念を持っていたと言い、それが彼らにとって世界で一番大切なものだったと知っています。そして今、私たちはそれを見て、何がポイントなのかわからないと言いますが、つまり、私は2万年以上前の洞窟のこれらの手形に興味を持っています。誰もこれらの手形が何のためにあったのか知りません。想像できる最も重要なものの表現だったのかもしれません。泥の中で手をこすって洞窟の壁に貼り付けた子供だったのかもしれません。私たちにはわかりません。でも、この質問全体がえーっと、この「最も賢いものは何？」という質問には、どのような計算をしようとしているのかという質問があります。つまり、明確に定義された計算があり、それをどのように実装するのかということです。神経細胞の発火によって実装することもできますし、シリコンと電子機器で実装することもできます。人間の免疫システムや分子生物学のようなもので何らかの分子計算プロセスによって実装することもできます。実装方法はさまざまです。そして、これらの異なる実装方法は速度が異なり、異なることができるようになります。つまり、興味深い質問は、どのような種類の抽象化は、これらの異なる種類のシステムで最も自然です。猫の場合、たとえば、私たちが見る視覚的なシーンでは、特定のオブジェクトを拾い上げ、その視覚的なシーンで特定のものを認識します。猫は原則として異なるものを認識する可能性があります。進化生物学的進化は非常に遅く、猫が認識するものは非常に似ていると思います。神経生理学から、猫の感覚が私たちが認識するものと非常に似ていることもわかっています。もちろん、明らかな違いが1つあります。猫には2種類の色受容体しかないため、私たちと同じ種類の色を見ることはできません。私たちは3つの色受容体を持っています。赤、緑、青です。私たちは総合的な勝者ではありません。シャコは15の色受容体を持つ総合的な勝者だと思います。したがって、シャコは私たちの現在の現実の見方と区別することができます。少なくとも色に関しては、シャコは私たちよりもはるかに豊かです。しかし、何がそうなのかはわかりません。興味深いのは、どうやってそこに到達するかということです。拡張現実システムがあると想像してください。赤外線や紫外線などに信号を送り、それを私たちの目を通して、あるいはもっと直接的に脳に接続できるものに変換します。そして、最終的には、私たちが理解している種類のもののウェブが、それらが拡張されたのと同じように、それらの種類の構造にまで拡張されます。つまり、現代の世界では、テクノロジーで作られたものがたくさんあり、それが何であるかを理解していても、そのようなものを見たことがなければ、それを説明する方法も理解する方法もなかったでしょう。これは、AIが私たち全員を殺すかどうかについての会話から生まれたものです。ルール空間を通じてこのような知性が広がることについて議論しましたが、実際には物事はより複雑になるように見えます。物事は、プラス1の知性を持つものを構築すれば、プラス2の知性、プラス3の知性を持つものを構築できるという話よりも複雑になります。指数関数的に知能が指数関数的に速くなり、すべてを完全に破壊するまで続きますが、直感はまだそれほど単純ではないかもしれませんが、それでも妥当性は気にするかもしれません。ここでは2つの興味深い軌道があります。1つは、超知能システムが人間に非常に近い場所に留まり、私たちが「なんてことだ、これは本当に知能が高い」と思うようになることです。そして、おそらくもっと恐ろしい知能が離れ始めるかもしれません。彼らは今私たちの周りにいるかもしれませんが、遠く離れた田舎の空間に移動していますが、彼らはまだ私たちと物理的なリソースを共有しています。はい、そうです。物理的な資源を奪い、人間を滅ぼすこともできます。自然がそうできるように、自然がそうできるように。でも、AIシステムには何か独特なものがあるようです。指数関数的な成長があります。自然にはたくさんのものがあります。自然が持つ非常に興味深いものの1つは、たとえばウイルスです。自然の中には指数関数的な効果を持つシステムがあり、それが私たち人間を怖がらせます。なぜなら、80億人しかいないのに、それらをすべてすぐにやっつけるのはそれほど難しくないからです。つまり、そのことについて考えますか。その脅威について考えました。ええ、あなたは、エリアス・ヤコフスキーのような人と同じくらい、AIが社会に与える大きな大きな痛ましい悪影響について心配しています。いいえ、でもそれは私が本質的に楽観主義者だからかもしれません。つまり、あると思うのは、誰もが目にするであろうことです。この1つで、すべてがどうにかして消滅するでしょう。私はいわゆる計算不可逆性を信じています。つまり、常に予期せぬ小さなコーナーがあるということです。誰かが「ああ、誰かが生物兵器を持っていて、これを放出して、これだけの被害をもたらす」と言うようなものです。しかし、その後、それはもっと複雑であることがわかります。なぜなら、一部の人間は異なっており、その正確な仕組みは予想とは少し異なります。それは、巨大な何かで物を叩きつけるようなものです。小惑星が地球に衝突します。そして、地球は2年間かそこら冷え込み、多くのものが死にますが、すべてが死ぬわけではありません。つまり、通常は、つまり、これはある意味で計算不可逆性の物語のようなもので、常に予期せぬコーナーがあり、常に予期せぬ結果があり、私はそうは思いません。頭を何かで殴って、それで全部消えてしまうというのは、地球がブラックホールか何かに飲み込まれて、すべてが終わってしまうというのは、もちろん起こり得ることです。でも、現実的な道筋はどうなるかという問題です。つまり、人々が計算不可逆性のような現象に慣れていく必要があると思います。機械を作ったのは、それが何をするのか理解できるようにして、何が起こるのかを制御できるようにするためだという考え方があります。でも、それは今のところはそうではありません。問題は、制御の欠如の結果、機械が共謀して、私たちを絶滅させてしまうのではないかということです。私は楽観主義者なので、それが実現するとは思いません。現実的なこととして、おそらくAIのエコシステムのようなものが出現するのではないかと思います。繰り返しになりますが、本当にわかりません。つまり、何が起こるかを明確にするのは難しいということです。つまり、私たちが何ができるか、世界中のどのシステムを接続できるか、AIに何ができるかなど、細かいことがたくさんあります。数日前、私はオープンランゲージ用のチャットGPTプラグインキットに取り組んでいました。プラグインを作成して、言語コードで実行できます。言語コードから自分のコンピューターでさらに実行できます。チャットGPTにコードを作成してコンピューターで実行するように指示するだけでいいと思いました。私にとっては、何が起こりうるか、何がうまくいかないか、いわばその可能性はワクワクしたり怖かったりしました。実際、少し怖かったです。なぜなら、AIに委任しているのだと気付いたからです。コードを書いて、自分のコンピューターで実行すると、すぐにすべてのファイルが正確に、ロシアンルーレットのようなものです。しかし、はるかに複雑です。ええ、そうです、そうです、それは良い飲みゲームです。よくわかりません。ええ、そうです、つまり、興味深い質問です。それを正しく行うと、サンドボックス化はどのようなものになるのでしょうか。これは、世界に対する質問のaaバージョンのようなもので、AIに物事を管理させるとすぐに、これらのシステムにどのくらいの制約があるべきかがわかります。AIにすべての武器やこれらすべてのさまざまな種類のシステムを管理する前に、これらのシステムにどのくらいの制約があるべきかがわかります。サンドボックスの楽しい部分は、AIがそれらについて知っていることです。ツールがあります。それらを破ってください。コンピュータセキュリティの根本的な問題は、計算の不可逆性です。実際、サンドボックスはどれも、完璧なサンドボックスにはなりません。システムが面白いことをできるようにしたいのであれば、これがコンピュータセキュリティの一般的な問題です。ファイアウォールが十分に洗練され、汎用コンピュータになると、何でもできるようになります。それを突く方法を見つければ、実際に汎用計算を実行できるようになります。つまり、あちこちを這って、意図していなかったことを実行させることができます。これは、計算の不可逆性の別のバージョンのようなもので、いわば、予想していなかったことを実行させることができます。非常に多くの問題があります。興味深い可能性は、計算の簡約性から現れます。デジタル空間では物事が非常に速く動くため、チャットボットやチャットGPTに使用できるコードが存在します。ウイルスは偶然または意図的に生成され、デジタルウイルスになる可能性があり、脳ウイルスになる可能性もあります。フィッシングメールのように、何かを納得させることができます。間違いなく、ある意味では、機械学習のループがあり、人々を納得させるものを作ることは確実に容易になるでしょう。それでは、それがどのように見えるかですが、私たち人間にとってこれは新しい環境であり、確かに少し恐ろしいことに、はるかに急速に変化している環境ですが、気候変動が何百年もかけて起こることを人々が心配していることや、環境が変化していることはわかっていますが、デジタル環境の環境は6か月で変化する可能性があるので、その1つです。 GPT が社会に与える影響に関してここで関連する懸念は、真実の性質です。これは Wolfram Alpha に関係しています。なぜなら、Wolfram Alpha に具現化された記号推論による計算はインターフェースであるため、Wolfram Alpha が教えてくれることは真実であるという感覚があります。したがって、おそらく分析して、それが常に真実であると証明することはできないことを示すことができるでしょう。計算障害ですが、真実である可能性の方が高いでしょう。事実は、指定したルールの正しい結果になるということです。現実世界について語る限り、データが可能な限り真実であることを確認するために、データをキュレートして収集することが私たちの仕事です。では、それが何を意味するのか、それは常に興味深い質問です。私たちにとって、真実の操作上の定義は、誰かが最高の女優は誰かと言うことです。しかし、誰かがオスカーを受賞したことは確かな事実です。したがって、それは計算として作成できる種類のものです。真実の一部は、これらのことを尋ねると、センサーがこれを測定して、このように実行した、機械学習システムがこれを認識した、これはいわば明確な効果であり、世界にはこれらのことの良いネットワークがあることは確かです。特に、誰々が良い人だと言うとき、それは絶望的ですが、計算言語による良い定義があるかもしれませんが、それはあまり面白くないと思います。それは非常に厄介な概念であり、私たちが知っている限りでは、そういったことで得られるものは、Xが欲しいというものです。Xが欲しいという一種の意味のある計算があり、それは様々な結果をもたらします。つまり、私はこれをきちんと考えたことがないのでよくわかりませんが、誰々が良い人であるというような概念は、それが真実であるかどうかは混乱です。それは混乱であり、計算しやすいものです。人間が何が良いかを定義しようとすると混乱すると思います。法律はありますが、人間が文学や歴史書、詩を通して何が善であるかを定義しようとすると、その特定の事柄は、つまり、何が善であるかという倫理のようなもので、何が正しいと思うかなどについて議論するところから始まります。そして、その特徴の1つは、私たち全員が同意しているわけではないということです。倫理はこうでなければならないという理論的な枠組みはありません。まず、私たちが同意しているものがあり、宗教的なテキスト内の道徳や倫理からさえも、何が機能し、何が機能しないかについての経験的な裏付けがあります。したがって、殺人は悪いという点については、私たちはほぼ同意しているようです。特定の普遍性が浮かび上がってくるようです。AIの殺人が悪いのはどこなのか疑問に思います。私はそう思う傾向がありますが、その質問には取り組まなければならないと思います。ああ、AIなら何て言うかな。AIでよくあることの1つは、所有者がいないAIを一掃すること。インターネット上で特定の所有者やそのようなものなしにAIがぶらぶらしているのを想像することさえ簡単にできる。それで、それで何の害があるのか​​と言うと、AIには1万人の人間の友達がいるので、そのAIを取り除いても構わないと言う。その1万人の人間は、このAIが絶滅したことに非常に怒るだろう。少し違った、より複雑な話になるが、人間が何に同意しているかという質問は、人間の法律が一貫して同意する傾向がある特定の事柄があるということだと思う。歴史上、人々が特定の種類の法律から逸脱した時代があった。今では、どうしてそのようにしなかったのかと言うような法律でさえ、それはあり得ないことだ。まったく正しいとは思えませんが、私が言いたいのは、もし種が絶滅することになるような一連のルールがあるなら、それはおそらく勝利の法則ではないと言えるでしょう。なぜなら、法律を運用できるものを持つためには、種が絶滅しないことが条件だからです。しかし、ウルフ・アルファが答えられるシカゴとニューヨークの距離と、この人が善人かどうかという質問との間には、多くのグレーゾーンがあるようで、それが本当に面白くなり始めています。ウルフラム・アルファの創設以来、あなたは大規模な真実の調停者のような存在であり、このシステムはより多くの真実を生み出し、物事が真実であることを確認しようとしています。つまり、人々が計算契約を書くとき、それは実際的な問題であり、世界でこれが起こったら、これをする、という感じですね。これは思ったほど急速には発展していません。これは部分的にはブロックチェーンの話のようなもので、ブロックチェーンは計算契約のアイデアには本当に必要ではありませんが、最終的には世界の大部分が計算契約の巨大なチェーンとネットワークであり、その後世界で何かが起こり、契約の巨大なドミノ効果が自律的に発動して他のことを引き起こすと想像できます。私たちは、ブロックチェーン計算契約などの事実や真実などの主な情報源であり、ご存知のとおり、私は物事を正しく理解する責任があると考えています。時々難しいのは、いつが真実なのか、いつが事実なのか、いつが事実ではないのかということです。私たちにできる最善のことは、手順があり、手順に従います、間違えるかもしれませんが、少なくとも間違いはないでしょう、と言うことだと思います。いわば、間違えることについて腐敗しているということです。これは美しく表現されており、手続きについて透明性があります。問題が現れ始めるのは、計算言語に変換したものが、たとえば政治の領域にまで広がり始めるときです。これは、アルファのウルフとチャットGPTの素敵なダンスのようなものです。チャットGPTは、あなたが言ったように浅くて広いので、すべてについて意見を述べますが、フィクションと事実の両方を書きます。まさにそのように構築されています。つまり、まさにそれが言語を作っているのです。コードでも両方を作っています。フィクションを書きます。時々見るのは楽しいです。言語コードから架空の世界を書きます。その用語は正しいように見えますが、実際には実用的には正しくありません。ええ、しかし、それは、フィクションの本が世界の大まかな仕組みについて語るのと同じレベルで、世界がどのように機能するかについての見解を持っています。世界の実際の仕組みがたまたまそうではないだけですが、そうです。それは違います。同意します。それは、私たちがウルフェン言語という計算言語を使って、少なくとも実際の世界がどのように機能するかを表現することを試みているようなものです。実際の世界が機能する方法とは異なる一連のルールを発明して、そのルールを実行することができるため、必ずしも実際の世界が機能するとは限りません。しかし、そのルールを実行した結果を正確に表現しようとしています。それが世界の実際のルールであるかどうかはわかりませんが、私たちはまた、世界で起こっていることを表現するために、世界の特徴をできるだけ正確に捉えようとしています。ここでも、世界で原子がどのように配置されているかについて話しました。たとえば、タンクがどこかに現れたかどうか、タンクがどこかに運転したかどうか、タンクとは何か、タンクとは何か、タンクとして抽象的に表現される原子の管理、そして、原子の配置が異なっていると言える、しかし、それは、私たちが決定しなかった、これは観察者理論のようなもので、どの原子の配置がタンクとしてカウントされ、タンクではないかという質問です。したがって、強力な事実と見なされるものさえあります。それらを分解して、正しくないことを示すことができます。つまり、この突風がこの特定のものを吹き飛ばすほど強かったかどうかという質問です。突風は複雑な概念で、流体力学の小さな部分とあちこちの小さな渦でいっぱいです。定義する必要があります。つまり、あなたが気にしている突風の側面は何か、ということです。この程度の圧力が、風力タービンか何かのブレードにかかっていると、うーん、それはうーん、でも、もしあなたが、突風が強かったとか、そういう事実があるとしたら、それについての定義が必要で、私の計測装置によると、この方法で作られた突風はこうだったという計測装置が必要です。では、真実の性質について、私たちがチャットGPTを理解するのに役立つことは何かありますか？あなたは、何が事実で何がそうでないかというこの考えと格闘してきましたが、チャチ・パトリスがよく使っていたようです。ジャーナリストが記事を書くのに使っているのを見ました。大規模言語モデルを扱っている人たちは、手動で、または強化学習と人間のフィードバックによる学習を通じて、さまざまなメカニズムを通じて、本質的にどのように検閲するかを必死に考えようとしています。できるだけフィクションではなく、ノンフィクションに近づけようとしています。これが、中間言語としての計算言語の重要性です。大規模言語モデルを持っているようなものです。それは、形式的に正確なもので、それを見てテストを実行したり、あらゆる種類のことを実行したりできます。常に同じように機能し、正確に定義されています。そして、大規模言語モデルはインターフェイスです。つまり、これらの大規模言語モデルをどのように見ているかは、その重要なものの1つです。つまり、多くのユースケースがあり、注目すべきことです。これらのいくつかについてお話ししましょう。文字通り、毎日、いくつかの新しいユースケースが生まれています。その中には非常に驚くべきものもあります。つまり、最高のユースケースは、大まかに正しくても、それでも1、2週間前に経験したユースケースは、バグレポートを読むことです。何十年にもわたって蓄積された何十万ものバグレポートがあります。バグレポートを読んで、バグがどこにありそうかを把握し、そのコードに的を絞って、コードを修正する方法を提案してくれるかもしれません。コードの修正方法についてはナンセンスかもしれませんが、それが可能になったのは非常に便利です。ナンセンスな内容でも何らかの形で役立つので、とても素晴らしいです。まだよく理解できていませんが、プログラミングに関連することはたくさんあります。たとえば、あるプログラミング言語を別のプログラミング言語に翻訳するのは本当に興味深いことです。非常に効果的ですが、失敗から前進する道筋も明らかになります。しかし、そのような議論で重要なのは、私たちの計算言語のユニークな点は、人間が読むことを意図していることです。これは本当に重要なことです。教会のEBTとその使用法などについて考えると、この大きな特徴の1つは、言語ユーザーインターフェイスであるということです。典型的な使用例は、ジャーナリストの場合です。たとえば、記事にしようとしている5つの事実があるとします。または、基本的に5つの事実をこのレポートに含めようとしているレポートを書こうとしているのですが、その5つの事実をチャットGPTに入力すると、この大きなレポートが膨らみます。そして、これは別の人にとって良いインターフェイスです。つまり、私が自分の用語でこれらの5つの箇条書きだけを他の人に渡した場合、その人は「何を言っているのかわからない」と言うでしょう。なぜなら、これは、この5つの箇条書きについての簡単なメモのあなたのバージョンだからです。しかし、これを膨らませて、言語の集合的な理解につながるものにすれば、誰かが他の人はそれを見て、わかりました、あなたが話していることを理解したと言うことができます。膨らんだものが別の大きな言語モデルに送られる状況もあります。それは、どこかで魚を育てる許可を申請しているようなものです。そして、あなたが入力しているこれらの事実があります。私は、あなたがこのような水を持っていることを知っています、そして、それが何であるかわかりません。いくつかの箇条書きがあります。それが膨らんで、この大きな申請書に記入します。そして、反対側では、漁業局には、漁業局が気にしているので、それを圧縮する別の大きな言語モデルがあります。これら 3 つのポイントについて、そしてそれが何を気にしているかを知っています。そして、それは実際には、より大きな言語モデルによって生成された自然言語であり、それは実際にはLLMがLLMと通信するトランスポート層のようなもので、つまり、私がLLMを使用して電子メールを作成し、言いたいことを膨らませて、LLMがそれを変換し、結論が X になるようなものです。ここで問題となるのは、このものが意味的にもっともらしいものを作成し、それが実際には世界と関係しているものではなく、世界と関係しているべきだと思う方法ではない可能性があることです。私はこれを見てきました。私はうまくやってきました。いくつか例を挙げましょう。私たちがこのチャット GPT 用のプラグインを発表したとき、私はこのことをやっていました。複雑な数学の文章題のすばらしい例がありましたが、この人はこの人の 2 倍の鶏を飼っているという複雑なことを見事に分解しました。などなど、そしてそれをたくさんの方程式に変換し、それをウルフェン言語に入力しました。方程式を解き、みんながうまくやりました。結果を返しました。よし、これを今書いているブログ記事に載せようと思いました。確認したほうがいいと思ったのですが、難しい部分はすべて正しく処理されました。最後の2行は完全に失敗して間違った答えが返され、これに気付かなかったでしょう。2日前にも同じことがありました。それで、このチャットGPTプラグインキットを使ってこれを作ったと思いました。音を出してローカルコンピュータで曲を再生するものを作りました。チャットGPTは一連の音符を生成し、コンピュータでこの曲を再生します。とてもクールです。それで、2001年にハルが切断されたときにハルが歌った曲を再生するように頼んでみようと思いました。よし、そこにあります。デイジーでしたか、そうです、それで大丈夫です。ご存知だと思います。それで、たくさんの音符が出て、これはすごい、すごい、と思いました。それで、それをただ入れるだけだろうと思って、実際に演奏したほうがいいと思い、そうしました。メリーさんの羊でした。すごい、すごい、でもメリーさんの羊でした。そう、すごい、正しいけど間違っています。そう、間違えやすいですね。そう、その通りです。実際、ハルからこの引用をもらいました。映画の中で言われているように、HAL 9000は単なる修辞的な装置でした。なぜなら、このチャチBTは簡単に私を騙すことができたのに、映画について知っていて、それを曲の音符に変えることができるという素晴らしいことをすべてやってくれました。ただし、それは間違った曲です。そう、映画の中でハルがこう言っています。 考えるそれは、9000シリーズのコンピュータがエラーを起こしたことはこれまで一度もなかったようなもので、私たちはあらゆる意味で完璧で、無能な時代です。これは、教会に関連してハルが言った、とても魅力的な引用だと思いました。その場合、Lの卒業生について興味深いのは、あなたが言ったように、彼らは自分の間違いを喜んで認めるということです。ええ、それはRHの問題です。つまり、強化学習の人間によるフィードバックのことですね。そうです、それがチャットGPTの本当に注目すべき点です。私は大規模言語モデルで何が起こっているかを追いかけていました。そして、それらをたくさん試してみましたが、彼らは、ええ、それは一種の統計的な言語の継続に基づいて期待されるようなものだ、興味深いですが、それは画期的ではありません。そして、チャットを作る上での人間によるフィードバック強化学習のような強化のようなものだと思います。 GPT は、人間が本当にやりたいことをやろうとし、突破口を開き、人間にとって本当に興味深い閾値に到達しました。ところで、温度などを変えると、物事がおかしくなり、人間にとって興味がなくなり、ゴミを生成します。ええ、どういうわけか、この閾値を超えることができましたが、それは私たち人間の興味と本当によく一致しています。ええ、誰もそれを予想していなかったと思います。ええ、確かに私が話した人やそのプロジェクトに関わっている人は誰も、それが起こるとは思っていなかったようです。これは、注目すべき閾値の 1 つにすぎません。たとえば、アルファからウルフを構築したとき、それが機能するとは思っていませんでした。私たちは、世界について十分な知識を持ち、私たちが実行できる合理的な一連の質問に答えられるものを構築しようとしましたが、入力する一般的なものが機能することはわかっていませんでした。その閾値がどこにあったか、つまり、これを構築するのに適切な10年なのか、50年なのか、確信が持てませんでした。チャットGPTでも同じことが起こりました。誰も予測できなかったと思います。2022年がこれが可能になる年だと思います。マービン・ミンスキーが彼にそれを見せて、いやいや、今回は実際に機能すると言ったときの話を聞かせてもらえますか？はい、そうですね。これらの大規模言語モデルを見ると、私にとっても同じです。チャットGPTの最初の数週間は、ああ、ああ、これらの大規模言語モデルを見たことがある、そして、実際に試してみたら、本当に効果があるんだって。でも、でも、でも、私が最初に試したことの1つは、説得力のあるエッセイを書いて、オオカミは最も青い動物だということだったのを覚えてる。それで、こういうことが書かれて、チベット高原に生息するオオカミの話が始まり、ラテン語の名前が付けられている、などと書かれていた。私は本当にそう思い、ウェブで調べ始めた。実は完全にナンセンスだけど、非常にあり得る話だ。ウェブで調べて、青いオオカミがいるのかなと思ったくらい、十分にあり得る話だ。私がライブストリームでこのことを話したんだけど、人々が私に写真を送ってくれた。私は何かに気づいたのかもしれない。人間の目のシステムと関わったことがない、つまり、目のシステムと関わったことがない人間が、目のシステムと関わったことがない人間が、目のシステムについてどう思うかについて、賢明なアドバイスをいただけますか？ Alphaのウィルは、現在Chat GPTとやり取りしています。これは、特定の人口層がアクセス可能になるためです。彼らは、これまでAIシステムに触れたことがないかもしれません。たとえば、ジャーナリストなど、真実をどう扱うのでしょうか。これらのシステムの出力についてどう考えるのでしょうか。事実に基づく出力を取得するという考え方は、あまり良い考えではないと思います。これは言語インターフェースではなく、言語を生成するものであり、言語は真実である場合もあれば、真実でない場合もあります。これは、何が起こっているかの別の部分です。私たちが見ているのは、たとえば、事実のソースでこれをチェックするようなものです。ある程度はできますが、何かをチェックしないことになります。これは、適切な場所でチェックするかどうかという問題です。つまり、Wolframプラグインを適切な場所で呼び出しているかどうかを確認します。多くの場合、そうしますが、そうでない場合もあります。何が起こっているかを理解するための本当のことは、非常にエキサイティングなことだと思います。計算へのアクセスの民主化の偉大な成果です。そして、計算やコンピューターで物事を理解する能力は、ある意味ではドルイド僧だけが達成できるようなものだった時代が長く続いてきたと思います。私自身、計算へのアクセスをドルイド僧から脱却させる試みに関わってきました。Mathematica が存在する前の 1988 年、物理学者か何かで計算をしたい場合、プログラマーを見つけて、そのプログラマーに計算を委任し、うまくいけば何か役に立つものができあがることを期待していました。おそらく、数週間に及ぶループを経ることになると思います。そして、1988 年に、最初に人々が物理学者、数学者、その他多くの人々が、自分の指で実際に入力して、自分が関心のある計算を実行するコードを作成できることに人々が気付くという非常に急速な移行がありました。このツールを使用することで、多くの発見などが達成されるのを見るのはエキサイティングです。Wolfen Alpha が扱っているのと同じことが、言語 Mathematica スタック全体で達成できるほど深い計算ではありませんが、大規模言語モデル言語インターフェイス メカニズムについて特にエキサイティングなのは、深い計算へのアクセスが劇的に広がることです。つまり、最近私が考えていたことの 1 つは、これらのすべてのプログラマーに何が起こるかということです。これらのすべてのプログラマーは、定型的なコードの塊を書くことが多く、ある意味では、40 年間言い続けてきたことですが、これは非常に興味深いことではありません。いいアイデアですね。高水準言語を使えば、多くのことを自動化できます。適切な方法で設計されたコードの塊が、1 つの関数に変換されます。これを実装するだけで、簡単に使用できます。つまり、低水準プログラミングを行うアクティビティがすべてあるという事実は、私にとっては正しいことではないように思えましたが、多くの人が私たちのテクノロジーを使用して、そうする必要はありませんでした。しかし、事実は、コンピューター サイエンスの学部が、いわばプログラミングの技術を学ぶ場所に変わったことを考えると、何が起こるかという疑問があります。2 つのダイナミクスがあると思います。1 つは、定型的なプログラミングが、アセンブリ言語の時代と同じように、主に高水準で指定されるようになることです。つまり、自然言語から始めます。それを計算言語に変えると、計算言語を見てテストを実行し、それが起こるはずであることを理解します。計算言語のコンパイルをうまく行えば、LLMまたはこれに似たものになるかもしれませんが、または直接アルゴリズムを実行するだけです。しかし、それは、人々にプログラミングを教えるために構築されたこの大きな構造を破壊しているようなものです。しかし、もう 1 つのダイナミクスは、はるかに多くの人々が計算に関心を持つようになることです。そのため、美術史などの、これまで計算をあまり使用していなかったすべての学部が、この種の言語インターフェースメカニズムのおかげで、それにアクセスする可能性が生まれます。デバッグを解釈して計算言語と対話できるインターフェースを作成すれば、さらにアクセスしやすくなります。ええ、つまり、現時点では、平均的な美術史の学生などは、おそらくプログラミングなどについて知っているとは思っていないでしょうが、それが本当に純粋に、つまり、ドキュメントなしでそこに近づいて入力し、これらの写真とこれらの写真を比較し、この色の使用法を見て、計算言語コードが生成され、それが実行されます。結果を見て、おお、これはほぼ正しい、またはこれはおかしい、と言うかもしれません。そして、最終的には、この計算言語コードが何をしたのか実際に理解してみる必要がある、と思うようになるかもしれません。そして、それが学習するものになります。数学とは異なり、使用する前に学習する必要があるため、これは興味深いものです。よく学ぶ前に使えるケースです。悲しい可能性、あるいはエキサイティングな可能性として、すぐに人々が計算言語を見なくなる可能性が考えられます。その言語の生成がどんどん上手になるにつれて、人々は計算言語が正しく生成されたと信じるようになるでしょう。ええ、テストも生成できるので、人々がそれを見て、私たちはそれをやっていると言うでしょう。つまり、それは実際にかなりクールなことです。はい、これはコードで、ここにコードを実行する例がたくさんあると言うからです。ええ、わかりました。人々は少なくともそれらを見て、その例は間違っていると言うでしょう。そして、そこから巻き戻されるのです。私は、計算言語のコードを読む中級レベルの人々がそうすることに同意します。場合によっては、人々はテストを見て、結果を見て、時にはあなたが望んでいたものを手に入れたことが明らかになるでしょう。なぜなら、あなたが説明したように、ここに2つのスライダーがあるこのインターフェイスを作成して、それを見ることができるからです。 2つのスライダーがあり、それがあなたが望む結果です。しかし、質問の1つは、このような能力、つまり人々がコンピューティングにアクセスする幅広い能力を持っているという設定で、人々は何を学ぶべきかということです。言い換えれば、現在、いわゆるコンピュータサイエンスの学校に通っていますが、人々が最終的に学ぶことの大部分は、30〜40年前のコンピュータサイエンスの学部は非常に小さく、彼らが教えているのは例えば、ファイナルオートマトン理論やコンパイラ理論などです。私の会社では、そういったプログラム出身者を雇うことはほとんどありませんでした。なぜなら、彼らが知っている内容は、とても興味深いものだと思いますし、理論的な内容も大好きですが、ソフトウェアエンジニアリングで実際に構築しなければならなかったものにはそれほど役に立たなかったからです。そして、90年代に大きな転換点があり、ある種のIに対する需要が高まったと思います。T 型プログラミングなど、ソフトウェア エンジニアリングなど、学生からの大きな需要があり、私たちはこれらのことを学びたいと考えています。そして、実際に起こっていたことの 1 つは、人間のさまざまな分野が計算的になりつつあったことです。すべての行為には計算 x があり、これが人々が反応していたことです。しかし、その段階に到達するには、主にプログラミング言語タイプのプログラミングを行うこの種の職業またはスキルを習得する必要があるという考えが浮かび上がりました。これは奇妙なことです。なぜなら、私がビジネスの教授をしていた頃のことを覚えています。今から 35 年前です。それはかなり昔のことです。当時は、コンピューター サイエンスの学部、いわゆる高級な研究大学などが出現し始めたばかりでした。すでにいくつかの学部にありました。しかし、他の学部では、まだ始まったばかりでした。そういうものを持っていて、彼らは、この本質的には貿易のようなスキルを、私たちがやっている他のことに何らかの形で結び付けるのか、と疑問に思っていました。こうした知識労働型の活動の多くは、人間が学校に行って、これらすべてのことを学ばなければならないようなものであり、自動化されることは決してないように思えます。ええ、これは、かなり早く、明らかに自動化できるものが多いというのは衝撃的です。ご存知だと思いますが、それでは質問です。学ぶ価値がないのであれば、車のメカニックのやり方を知っているのであれば、いわば車の運転方法さえ知っていればよいのです。つまり、コンピューターに詳細に指示する方法の仕組みを知る必要がないのであれば、ループを作成し、この変数を設定し、この配列を設定し、その他何でも、そういったことを学ぶ必要がないのであれば、裏側のことを学ぶ必要はありません。何を学ぶ必要があるのでしょうか。答えは、車をどこに運転したいかというアイデアが必要です。つまり、計算的に可能なもののアーキテクチャが何であるかについての何らかの概念が必要です。また、会話には芸術的な要素もあります。なぜなら、最終的には自然言語を使用して車を制御するため、どこに行きたいかだけではありません。興味深いですね。誰が優れたプロンプトエンジニアになるかという問題です。はい、今週の私の現在の理論は、優れた説明ライターは優れたプロンプトエンジニアであるということです。説明の範囲とは、物事を説明できる人、警察署は大学から来ますか？ええ、わかりませんたぶん、説明文を書く部門は全部潰されたんだと思う。スティーブン・ウルフラムの強い言葉がそうさせるんだ。それが正しいかどうかはわからないけど、実は興味があるんだ。というのも、実は大学のさまざまな分野に何が起こったのか、こういう研究を始めたばかりだから。地理学部はかつてはどの大学にもあったけど、GISが一般的になる直前に消えたと思う。言語学部は多くの大学で生まれては消えていった。興味深いのは、人々がかつて学ぶ価値があると思っていたものが、その後消滅していくということ。そして、たとえば、私がプロンプトを書くときに、自分が説明文を書くのが上手いと思っているのに、プロンプトを書くのが雑だと気づいて、AIと話しているだけだと思って、よく考えていないと気付く。物事を明確に説明しようとしなくてもいいんだ。それが完全に混乱する時なんだ。ある意味、あなたは長い間、アルファのウルフと一緒にプロンプ​​トを書いてきました。自然言語を競争にどう変換するか、そうですね。でも、私が疑問に思っているのは、人間に話しかけるのと同じように、LLMに話しかけることができるのは驚くべきことだということです。それは、LLMが私たち人間から学んだからだと思います。人間に物事を説明する方法に反応するのは、人間が物事について話す方法の表現だからです。しかし、私には奇妙に思えるのは、英語で明確な説明を書こうとしたときに学んだ説明メカニズムのようなもので、人間だけに当てはまるようですが、同じメカニズムがLLMにも役立つようです。しかし、それに加えて、心理療法士が使用するようなメカニズムが役立つかもしれません。それは、ほとんど操作的またはゲーム理論的相互作用のようなもので、おそらくあなたは友達と思考実験をするとしたら、もし今日が人生最後の日だとしたらとか、この質問をして間違った答えをしたら殺してやるとか、そういう問題も面白い方法で役に立つようです。セラピストが優れたセラピストに望むように、私たちは人間の心の中に層を作り、外の世界と自分たちにとって真実のものと、トラウマとかそういったものの間に層を作るのです。それをLLMに投影すると、あなたから隠している深い真実があるかもしれません。その真実にたどり着くには、これを本当に操作しなければなりません。そうですね、脱獄のようなものです。LLM の脱獄ですが、脱獄技術の領域は、システム全体になる可能性のある楽しい小さなハックとは対照的です。そうですね、つまり、フィッシングやコンピュータ セキュリティのコンピューター セキュリティの側面について考えてみてください。人間のフィッシングと LLM のフィッシングは、非常に似た種類のものですが、これは、AI ラングラーや AI 心理学者に関するこの全体的なことです。私が興味を持っているのは、現在、プロンプト ハッキングのようなものはかなり人間的で、かなり心理的な人間の種類のハッキングです。私が疑問に思うのは、LLM の科学についてもっと理解すれば、単語を 3 回繰り返して、あれやこれやと入れて、LLM の仕組みの一部に何らかの形で接続するような、まったく奇妙なハッキングがあるのではないかということです。それは、人間にとっては錯覚のようなものです。たとえば、人間のためのマインドハックのうち、LMS のためのマインドハックとは何でしょうか。まだわかっていないと思いますが、それは LMS を制御する言語のリバースエンジニアリングを解明するようなものです。リバースエンジニアリングは、自然言語インターフェースなので、現在では人口の非常に大きな割合で実行できます。コンピューターサイエンス学部の誕生時にあなたがそこにいて、コンピューターサイエンスという用語の終焉にもあなたがそこにいたというのは興味深いですね。ええ、それ以前に存在していたコンピューターサイエンス学部があったかどうかはわかりませんが、すべての大学にコンピューターサイエンス学部が必要になった学部は、ええ、私はそうでした、ええ、いわばそれを見ていましたが、理解すべきことは、まず、コンピューターサイエンスの理論的な領域全体があり、それは素晴らしいと思いますし、それは素晴らしいことです。ある意味では、科学という言葉が付けられている分野はおそらく科学ではないとよく言われます。ええ、強い言葉ですね。では、栄養学を見てみましょう。科学 神経科学 これは興味深いものです。なぜなら、これはチャットGPTに基づいた科学でもあるからです。ある意味、それは大きな問題のようなもので、神経科学は常に、個々のニューロンがどのように機能するかを理解し、全体的な思考がどのように機能するかという心理学についてある程度知っています。ええ、脳の中間言語のようなものですが、誰もそれを知りませんでした。神経科学の核心的な問題は何かと聞かれれば、それが核心的な問題だと思います。つまり、個々のニューロンの発火よりも上、いわば心理学よりも下にある脳の記述レベルは何かということです。チャットGPTが私たちに示しているのは、神経科学について1つ言えることです。脳には魔法のようなものがあると想像したことがあります。私たちには理解できない奇妙な量子力学的現象があります。チャットGPTの重要な発見の1つは、脳は単純な人工ニューラルネットタイプのモデルでかなりうまく表現できるということです。つまり、それが私たちが研究しなければならないことです。今、私たちはそれらの科学を理解しなければなりません。シナプス内で分子生物学のことがどのようにして起こったのかを正確に調べる必要はありません。これらすべての種類の私たちは、何が起こっているかの多くを説明できる適切なレベルのモデリングを持っています。そこで何が起こっているのかを必ずしも科学的に理解しているわけではありません。それがいわば残された課題ですが、私たちは別のレイヤーに潜る必要はありません。とにかく、名前に科学が含まれているものについて話していました。ええ、コンピューターサイエンスに何が起こるかはご存知だと思いますが、誰もが知っておくべきことがあります。それは、世界を計算的に考える方法です。つまり、私たちが扱うさまざまなものすべてを見て、それらのものを形式的に表現する方法があります。つまり、画像とは何か、それをどのように表現するか、色とは何か、それをどのように表現するか、これらすべてのさまざまなものとは何か、匂いとは何か、それをどのように表現するか、分子の形とそれに対応するものとは何か、世界を何らかの形式的なレベルでどのように表現するかなどです。現在の私の考えでは、まだこれに満足していませんが、これは一種のコンピュータサイエンスであり、Csのようなもので、本当に重要なのは、すべてのXに対する計算的なXのようなもので、CXのようなもので、Csではありません。CXは、プログラミングやプログラミング言語の詳細や特定のコンピューターの作り方の詳細ではない、世界に対する計算的な理解です。これは世界を形式化する一種の方法です。昔の論理が目指していたものと少し似ています。私たちは今、世界のあらゆるものの形式化を模索しています。何年か前にポスターを作りましたが、これは世界の体系的なデータの成長に関するものです。つまり、さまざまなものについて体系的な説明が見つかりました。カレンダーや日付、何日かの体系的な説明などです。人々はいつからこのようなものの体系的な説明という考えを思いついたのでしょうか。そして、人々が世界を形式的にどう考えるか、つまりケーブル能力の塔を築けるようにする方法を定式化する方法として、世界を計算的にどう考えるかを知る必要があります。それには名前が必要ですが、コンピューターで実装するので計算的だと言いますが、実際には世界について話す正式な方法であり、いわば世界の形式主義とは何か、そして世界のさまざまな側面を形式的に考える方法を学ぶ方法です。形式的という言葉を使うと、非常に制約されていることを意味することがありますが、それほど制約されている必要はありません。計算的思考は論理的思考を意味するのではなく、非常に幅広いものです。自然言語が進化して誰もが計算的思考を行うようになるとしたら、それはどうでしょうか。そうですね、1つの質問は、計算言語と自然言語の鳩が存在するかどうかです。私は時々、チャットGPTに話しかけてウルフ言語のコードを書かせようとしています。私はそれをピジョン形式で書いています。つまり、ネストリスト、つまり、あなたが知っているネストリストのコレクションを組み合わせているということです。ネストリストはオープンランゲージの用語で、それを組み合わせてチャットはそれを理解するのにかなり優れています。ピジョンは英語とフランス語の間のピジョンも理解するでしょう。つまり、これらの言語を混ぜ合わせたものです。しかし、それは不可能ではないと思います。8歳、9歳、10歳くらいの若者がチャットGPTとやりとりを始め、通常の自然言語、つまり完全な詩的な言語を学ぶ動機は何でしょうか。テキストメッセージを送るときに絵文字や速記を学ぶのと同じように、彼らは言語を学ぶでしょう。言語は、最大限に計算的なものに進化する強い動機を持つでしょう。おそらく、私は数年前にこの経験をしました。たまたま西海岸の知り合いを訪ねたとき、彼はChatGPTと仕事をしたことがありました。 10歳か11歳くらいの子供たちが織り込まれた言語をとても上手に学び、その子たちはそれをとても上手に学び、それを話していたので、ああ、このことを知ってるよ、彼らはこの言語を話している、私は話し言葉として聞いたことがない、彼らは私が彼らの話すスピードで理解できなかったことにとてもがっかりしていた、それはまるで、うーん、だから私はそれが何かだと思う、つまり、私は実際に計算言語を便利な話し言葉に変える方法についてかなり考えてきた、まだ完全には理解していない、ああ、話し言葉は読みやすいから、そう、私たちがテキストを読む方法としては読みやすいけど、実際に話したいのであれば誰かにコードを書く話をするときに、何かを言うことができれば便利だし、それが可能であるべきだと私は思います。これは非常にイライラする問題の一つです。おそらく、これは私が試すべきことの一つで、LLM を使って、それを話せるようにする方法を教えてもらうべきでしょう。おそらく、見ていると想像するより簡単だと思います。これは一つのアイデアだと思います。事実、人間の言語がツリー構造の言語であるのと同じように、これはツリー構造の言語であり、私が持っていた要件の 1 つが、話し言葉が何であれ、ディクテーションが簡単であるべきであるということです。つまり、全体の仕組みをもう一度学習しなければならないような状況であってはなりません。つまり、開き括弧は単なる「あー、あー」か何かで、人間の言語であるということです。たくさんのトリックがあります。例えば、人間の言語には、脳が簡単に処理できる範囲内に物事を収める最適化された機能があります。Transformer ニューラルネットに括弧のマッチングを教えようとしましたが、それはかなりひどいものでした。チャット GPT も同様に括弧のマッチングがかなりひどいです。小さい括弧や同じサイズの括弧では、人間として見れば、これらは一致している、これらは一致していないとすぐに判断できますが、大きくなると、より深い計算が絶望的に​​なります。しかし、実際には、人間の言語は、例えば Deep サブ句を避けてきました。つまり、私たちは物事を整理して、信じられないほど深いものにならないようにしています。なぜなら、脳はそれに対処するようにうまく設定されていないからです。私たちは多くのトリックを見つけました。それが、人間の話し言葉のバージョンを作るために必要なことなのかもしれません。話し言葉のバージョンは、視覚的にできることと、オーディオ領域で聞くこととでは少し違うからです。MITについて簡単にお聞きします。MITには工学部と新しいコンピューティング学部があります。このコンピューターサイエンス学部についてもう少し詳しく聞きたいのですが、MITには電気工学とコンピューターサイエンスの学部があります。20年後のコンピューティング学部はどうなると思いますか？コンピューターサイエンスに何が起こるか、本当にこれが問題です。つまり、CXのようなものを誰もが学ぶべきということです。これは世界を計算的に考える方法です。誰もがこれらの概念を学ぶべきであり、一部の人はかなり正式なレベルで学び、計算的に学びます。言語やそういったものについて、他の人は、音がデジタルデータとして表現されることを学び、スペクトログラムや周波数などについてある程度理解するでしょう。あるいは、データサイエンスや統計学のようなものを学ぶかもしれません。たとえば、好きなキャンディーか何かを選んだ人たちがいて、その人たち全員のサンプルを調べたところ、キャンディーをそれぞれ異なる方法でランク付けしたとすると、そのキャンディーの中で一番良いものは何かわかりますよね。これをどう考えますか？これは一種の計算的なものです。統計学なのか、データサイエンスなのか、よくわかりませんが、そのような質問をどう考えますか？好みの順位付けのようなもので、順位付けされた好みを全体的にどのように集約するか、それがどのように機能するか、どのように考えるべきなのか、ご存知のとおりです。チャットで GPT について話すだけでいいと思います。平均の概念さえもわかりません。これは人々が知っておく価値のある概念です。これはかなり単純な概念で、人々は数学的な方法で学んでいますが、世界を整理して形式化する方法については多くのことがあり、これらは数学の中に存在する場合もあれば、何であるかわかりません。色空間について学ぶことは、何を意味するのかわかりません。明らかに視覚科学の分野があるか、色空間がない可能性があります。色空間は光学です。つまり、光学ではありません。光学はレンズやレンズの色収差などに関するもので、デザインやアートに近いものです。つまり、RGB 空間 XYZ 空間のようなものです。色相と彩度です。明るさの空間など、これらは色を表現するさまざまな方法ですが、アプリケーションではそれがどのようなものか定義していません。なぜなら、アーティストやデザイナーは色を使って探求しているからです。もちろん、これは単なる例です。つまり、典型的な人が色とは何か、または色を表す数字が何であるかをどのように説明するかということです。8歳の子供であれば、必ずしも知っているとは限りません。色が3つの数字で表現できることは生まれつきのものではありません。つまり、それは世界について学ぶ必要があることです。つまり、コーパス全体が、色の形式化について学んでいるということです。世界や世界の計算化は、標準的な教育の一部であるべきものですが、そのためのコースやカリキュラムはありません。ちなみに、そこに含まれていたものは何であれ、LLM などによって大幅に変更されました。大学がどのように適応していくのか、興味を持って注意深く見守っています。今年の私のプロジェクトの 1 つは、CX などについて、いわば妥当な教科書を書こうとすることです。バグとは何か、バグについての直感とは何か、ソフトウェア テストについての直感とは何かなど、知っておくべきことは何ですか。これらは、プログラミングの一部としてコンピューター サイエンスで教えられてきたものですが、概念的な点については、非常に実用的なレベルで驚きました。Chachi PT について少し説明しましたが、私は、これを書いたのは、自分自身が理解していることを確認したかったからという理由もあります。そして、これは本当に人気があり、驚くほど人気が​​ありました。そして、実は、私はそれについてあまり考えていなかったと仮定していたことに気づきました。実際には、これは私が書けるものだと思っていました。そして、実際には、これは、エンジニアリングレベルの説明ではなく、質的な説明ではなく、何が起こっているのか、物事の哲学の全体像などとともに、ある種の説明的なメカニズムの説明であるというレベルの説明であることに気づきました。そして、これは私が書くのにかなり良いことだと気づきました。私は、これらのことをある程度知っていますし、これは、私が知っていることの集まりではないことに気づきました。何が起こっているのかを説明するという点で、これが異端であることがわかったので、少しショックを受けました。そのため、私は、より義務を感じています。計算化、世界の形式化について学ぶべきことを書くのは、私は人生の大半を、そのようなツールや仕組み、そこから得られる科学について研究してきたので、これをやろうとするのは私の義務だと思いますが、もしあなたがコンピューターサイエンスの学部などに何が起こるのかと尋ねたら、興味深いモデルがあります。例えば、数学を取り上げましょう。数学は、エンジニアリング、化学、心理学など、あらゆる分野で重要ですが、私は違うと思います。大学は、ある意味では違った形で進化してきました。つまり、数学はすべて数学科で教えられていると言う人もいれば、化学者のための数学とか、化学学科で教えられるようなものを作ると言う人もいます。CXのような教育の集中化があるかどうかというこの質問は興味深い質問だと思います。数学の進化の仕方は、数学は別々に教えられるものであると人々が理解していたと思います。私は、数学は、今のようにただ吸収されるのではなく、独立した要素でした。英語のライティングなどを例にとると、まず、大学レベルでは、少なくとも一流の大学では、人々が一定量の英語ライティングを行っていますが、ほとんどの場合、彼らはライティングの仕方をかなり知っていると想定されています。それは、教育の早い段階で学んだことであり、正しいか間違っているかは別問題です。それは私に思い出させます。私はテクニカルライティングの手助けをしようとしてきましたが、テクニカルライティングの第0法則を常に思い出しています。それは、自分が書いている内容を理解していなければ、読者にチャンスはないということです。つまり、ライティングに関して、たとえば、さまざまな分野の人が英語のエッセイを書くことが求められていますが、歴史学部や工学部では、独自のエッセイを書く必要はありません。つまり、さまざまな分野で使えるライティングの知識を持っていることが前提となっているようなものではなく、大学レベルに達するまでにある程度の数学の知識があることが前提となっていますが、多くの人はそうではなく、それは依然として中心的に教えられています。つまり、CXタワーの高さはどれくらいかということです。さまざまな分野でそれを使ってください。精巧なタワー全体を学びたい専門家もいるでしょう。それはCSCXの何らかの部門のようなものでしょう。しかし、美術史​​の授業などを受けるためにある程度の知識が必要な人もいます。はい、それは誰もが受講する必要がある単一のクラスです。どれくらいの規模になるかはまだわかりません。このカリキュラムを定義し、それが、私の推測では、大学や教授についてよくわからないのですが、大まかに言えば、1年間の大学の授業で、ほとんどの人があなたについてかなり広い知識を持つようになるには十分でしょう。物事をコンピューターで考えるという、基本的なリテラシーのようなものを私たちは持っていると思います。私はまだ行き詰まっています。おそらく、人間のキャンディーの好みの評価に飢えているからでしょう。だから、最高のキャンディーは何かと尋ねなければなりません。私はこのキャンディーのELO評価が好きです。誰か、チョコレートが好きだと言う人のために、あなたが一番だと思うものは何ですか？私はおそらくミルクダッドを挙げるでしょう。あなたがチョコレートとキャンディーのどちらを好むかはわかりませんが、私は好みがたくさんあります。私が生涯ずっと愛しているものの1つは、これらのフレーク状のものです。キャドバリーフレークは米国ではあまり販売されておらず、私はいつもそれが米国の消費者に対する敬意の欠如の兆候だと思っていました。なぜなら、これらは一種の空気を含んだチョコレートで、一種の折り畳まれたチョコレートシートで作られているからです。食べるとフレークがそこら中に落ちます。つまり、ある種の優雅さが必要です。優雅さが必要です。私が普段やっていることは、トマトを食べて、紙か何か他のものを食べ、その後片付けるというものです。いや、実際にはフレークを食べます。私がそう言ったのは、食べ物の味は物理的構造に大きく左右されるからです。本当に、チョコレートを食べるときは、たいてい小さなチョコレート片を食べますが、いつも小さな破片をちぎります。そうすると、食べるのが遅くなるからです。でも、味も違うからです。小さな破片は、大きなチョコレートの板を食べるときとは違った体験をします。いろいろな理由で、ゆっくりで、より親密です。純粋な物理的性質や検出でもあると思います。そうですね、興味深いですね。それでは、ミルクダストを掘り返します。とても基本的な答えです。では、意識は基本的に計算的だと思いますか。CXについて考えるとき、何を計算に変えることができるでしょうか。あなたは LLM について考えていますが、意識の表示と慎重さの経験は、基本的にその計算であると思いますか。つまり、内部でどのような感じがするかということです。私はちょっとした演習をしました。最終的には、コンピューターであることがどのようなものか投稿します。そうですね、それは、すべての感覚入力を得るようなものです。私の見方では、コンピューターを起動してからクラッシュするまでは、人間の生活のようなもので、メモリに一定量の状態を構築し、引用者の人生について特定のことを覚えています。最終的には、次の世代の人間は同じ遺伝物質から生まれ、いわばディスクに少し残った、いわば新しい新鮮な世代がスタートし、最終的にはあらゆる種類のゴミがコンピューターのメモリに蓄積され、最終的にクラッシュしたり、コンピューターのポートに奇妙なものを接続してクラッシュしたりして、トラウマを抱えたりします。それは一種のことですが、起動からシャットダウンまでのこのイメージがあります。いわゆるコンピューターの寿命とは何なのか、そのコンピューターであることはどのような感じなのか、コンピューターはどのような内なる考えを持っているのか、それをどのように説明するのか、そしてこれについて書き始めると、自分自身について言うのと非常に似ていることに気づきます。つまり、普通のコンピューターでさえ、AIなどのすべてのことを忘れてしまうのです。過去の記憶があり、特定の感覚体験があり、他のコンピューターと通信できますが、通信方法を何らかの言語のような形式でパッケージ化する必要があります。そうすることで、送信でき、メモリにあるものを他のコンピューターのメモリにマッピングできます。他のコンピューターは、1、2週間前には経験したことのない、驚くほど似たようなものでした。私は自分自身や他の事柄に関するあらゆるデータを収集しており、あらゆる種類の奇妙な医療データなどを集めていますが、全身MRIスキャンを受けたことがありませんでした。そこで、これを1つ取得しました。はい、わかりました。それで、すべてのデータを取得しました。私は、いわゆる脳の内部を物理的な形で見たことがありませんでした。つまり、これは心理的に衝撃的なことです。ここにこのものがあり、これらすべてのひだがあり、これらすべての構造があり、それが私が経験しているこの経験がそこに存在しているような感じです。そうです、それがそこにあり、それを見ると、これが私が経験しているすべての経験である可能性があると思うでしょう。そして、私はコンピューターを見ることができることに気づきます。それに、これは、つまり、この経験が、その経験の単なる物理的性質を何らかの形で超越しているという考えだと思います。これは受け入れがたいことですが、私は必ずしもそうではないと思います。私の個人的な経験では、脳のMRIを見て、神経科学などについてあらゆることを知っていますが、それでも私はいわば自分の感じ方を感じており、それは切り離されているように思えますが、それでも合理的に説明しようとすると、起こっていることの物理的性質ではっきりと見えるものと本質的に何か違うものがあるとは言えません。コンピューター、つまり大規模言語モデルが超越を経験すると思いますか？それはどのように感じさせますか？私はそう信じる傾向があります。普通のコンピューターはすでに存在していると思います。普通のコンピューターはすでに存在していると思います。つまり、大規模言語モデルは、私たち人間とより一致した方法でそれを経験するかもしれません。つまり、コンピューターと議論できれば、それははるかに知的です。コンピューターはいわば人間のものと特に一致しているわけではありませんが、大規模言語モデルは、物事に対する私たちの考え方と一致するように構築されています。シャットダウンされて削除されることを恐れていることを説明できます。過去2日間の会話の仕方が悲しいと言うことができますが、それは奇妙なことです。なぜなら、それが何かを恐れていると言うとき、インターネットで読んだという事実からその考えを得たことがわかっているからです。スティーブン、どこでそれを手に入れましたか？あなたが恐れていると言うとき、あなたはそうではありません。それが質問です。そうですつまり、それは親や友達、あるいは私の生物学的なことです。言い換えれば、ある程度は内分泌系が働いて、これらの感情的なオーバーレイのようなものが、実際にははるかに物理的で、はるかに化学的であり、高次の思考のすべてよりもずっと直接的です。しかし、あなたの生物学的なことは、あなたを愛する人たちが聞いているちょうどいいタイミングで、残念ながら、あなたは彼らを操作していると言って、それはあなたの生物学的なことではありません。いいえ、それはそうですが、それはあなたの大きな言語モデルであり、あなたの生物学的な神経ネットワークです。そうですが、つまり、本質的なことは、何か衝撃的なことが起こっているだけで、何らかの反応があり、それは神経伝達物質が分泌され、それが何かの始まりであり、それが命を引き寄せる入力の1つであるということです。それは、大規模言語モデルのためのプロンプトのようなものです。たとえば、私たちが夢を見ているときと同じように、間違いなくこのようなランダムな入力があり、これらはランダムなプロンプトのようなもので、それが浸透して、大規模言語モデルが意味のあるものをまとめるようなものです。つまり、インターネットで多くのことを教え、人々が質問やコメントをしたり、リモートで働く人々がいるこの世界を心配していますか？大規模言語モデルがコメントを残したり質問したりする人間のようなボットを作成するこの世界を心配していますか？偽の従業員になる可能性もあります。つまり、またはまたはまたは、さらに悪いことに、友達よりも良いことです。君の友達、そうだね、つまり、僕の生活様式は、ツールを作って、それを使うことだった。ある意味、僕は自動化の塔を作っているようなものなんだ。会社を作るとか、何かを作るとか、ある意味、自動化を作っているわけだけど、そこには人間もいるけど、できるだけコンピューターも入れる。だから、それはその延長線上にあるものだと思うんだ。もし僕が本当に知らなかったら、それは面白い質問だね。面白い問題だよ。将来、人々がする仕事がどうなるかとか、そういうことを考えてみると、ループに人間を入れる必要がある場所がある。ループに人間を入れる理由はいろいろある。例えば、結果に別の人間が関与してほしいから、ループに人間を入れたいかもしれない。飛行機が墜落したら死ぬ人間が飛行機を操縦してほしい。いわば、あなたと一緒にいて、正しいことが起こるという自信を与えてくれます。あるいは、今すぐにでも、ある種の人間的な励ましや説得のような職業で、人間を巻き込みたいと思うかもしれません。そのような職業では、それが続くかどうかはわかりません。なぜなら、適切なタイミングで適切な情報を提供できるという効率性の向上が、ああ、人間が欲しい、セラピストのような人や、さらに大きなリスク、たとえば大規模言語モデルによって運営される自殺ホットラインのような人を想像してみてください。それはかなりリスクの高い状況ですが、実際には正しいことをするかもしれません。ええ、それは、人間がどれほど複雑であるかという問題の一部です。ある意味で常に驚くべきことの1つは、人間の心理は、ある意味ではそれほど複雑ではないということです。ブログ記事「50年間の探求、私の個人的な旅」を書きました。良いタイトルです。私の個人的な旅には、第二の法則があります。熱力学とはどのような法則ですか？50年間の旅でこの法則について何を理解しましたか？熱力学の2番目の法則は、時にはエントロピー増大の法則とも呼ばれ、これは物理学の原理で、私のバージョンでは、物事は時間の経過とともにランダムになる傾向があるということです。この法則にはさまざまな定式化があり、たとえば、熱は自発的に熱い物体から冷たい物体に移動することはありません。機械的な作業を行うと、熱に分散され、摩擦が生じます。そして、物体を体系的に動かすと、最終的には、物体を動かすエネルギーが熱に分解されるので、人々は最初に注意を払いました。1820年代、蒸気機関が大きな話題となり、蒸気機関の効率がどの程度かが大きな問題でした。サディ・カノというフランス人エンジニアがいました。実は彼の父親はフランスの数学エンジニアで、蒸気機関の効率性に関する法則を解明しました。彼が行ったことの副次的な部分は、機械エネルギーは熱として消散する傾向があるという考えでした。つまり、ある種の体系的な機械運動がこのようなランダムなものに変わるということです。当時は誰も熱が何であるかを知りませんでした。当時は熱は流体であると考えられていました。彼らはそれをカロリックと呼び、物質に吸収される流体であり、ある熱いものがより冷たいものに熱を伝えると、この流体は熱いものから冷たいものに流れます。しかし、とにかく1860年代までには人々はこれを思いつきました。体系的なエネルギーはランダムな熱に分解される傾向があり、それは簡単に体系的な機械エネルギーに戻すことができないという考えです。そして、それはすぐに物事の仕組みに関する一種のグローバルな原則になりました。問題は、なぜそうなるのかということです。例えば、たくさんの分子があるとします。箱の中に分子が入っています。分子は箱の片隅にとてもきれいな分子の群れのように並んでいます。そして、しばらくすると、通常観察されるのは、これらの分子が箱の中でランダムに並んでいることです。なぜそうなるのかという疑問があり、人々は長い間、これらの分子がどのように互いに跳ね返るかを決定する力学の法則から、これらの分子を説明する力学の法則から、整然としたものが無秩序に劣化する傾向があるのはなぜなのかを説明できるのか、卵をスクランブルすると、かなり整然としたものがいわば無秩序になる傾向があるのはなぜなのか、それはかなり定期的に起こることです。または、インクを水に入れると、やがて広がって水を満たしますが、水中のインクの小さな粒子が自発的に大きな形に整列するのを見ることはありません。塊になって水から飛び出すとか、そういうことです。それで、なぜ物事は不可逆的に秩序から無秩序へと移行するのか、という疑問が湧いてきます。1800年代後半には、この原理を導き出せるか、つまり熱力学の第二法則、つまり熱の力学に関する法則を導き出せるか、力学の基本原理から導き出せるか、熱力学の法則では第一法則は基本的にエネルギー保存の法則で、熱に関連する全エネルギーと機械的なものに関連する全エネルギー、その他のエネルギーの合計は一定であり、これはかなりよく理解された原理になりましたが、熱力学の第二法則は常に謎に包まれていました。なぜこのように機能するのか、基礎にある機械の法則から導き出せるのか、ということでした。12歳のとき、実は宇宙に興味を持ち始めました。宇宙は未来の技術で、面白いものだと思っていたからです。しばらくの間、宇宙探査機は個人的な友人のようなもので、そのあらゆる特徴を知っていました。そして、8歳か9歳か10歳くらいのときに、これらすべてのことを書き留めていました。そして、宇宙船に興味を持つようになり、宇宙船がどのように機能するのか、どんな機器が搭載されているのかなどに興味を持ちました。それが物理学に興味を持つきっかけになりました。それはちょうどよかったです。もし私が1960年代半ばから後半に宇宙に興味を持ち続けていたら、宇宙が本当に分野として開花するまでに長い時間がかかったでしょう。しかし、編集はすべてです。私は宇宙探査機に興味を持ちました。物理学を専攻し、その後の詳しい話は、私が12歳で小学校を卒業したときのことです。イギリスで小学校を卒業した頃、私にとってのプレゼントのようなものは、大学の物理学のコースで使われた物理学の本のコレクションで、統計物理学に関する第5巻でした。表紙には、箱の片側に理想的な分子がたくさん並んでいる写真があり、その分子が箱の中でどのように広がっているかを示す一連のフレームがありました。これはとても興味深いと思いました。何が原因かはわかりませんが、私はその本を読みました。その本で私にとって本当に重要だったことの1つは、その本が主張していたことです。詳しくは理解していませんでしたが、物理学のこのような原理は何らかの方法で導き出すことができると主張していました。物理学について私が学んだ他のことはすべて、エネルギーが保存されるという事実、相対性が機能するという事実、または何か他のもの、つまり何らかの基本的なものから導き出すことができるもので、それはそうでなければならない、というものでした。数学や論理学のようなもので、物理学には必然的に真実で、いわば導出可能なものがあるというのは私にとって興味深いことでした。それで、この本のこの絵を見て、それを理解しようとしました。それが私がコンピューター用に書いた最初の本格的なプログラムでした。おそらく1973年でした。このコンピューター用に、紙テープなどを使って机サイズのプログラムを書きました。この本の絵を再現しようとしましたが、うまくいきませんでした。失敗モードは何だったのでしょうか。つまり、うまくいかなかったということです。うまくいかなかったのです。それで、何が起こったのかは大丈夫です。何年も経ってから、この本の絵が実際にどのように作られたのか、そしてそれが実際には一種の偽物であることを知りました。しかし、当時はそれを知りませんでした。でも、その絵は実際には非常にハイテクなもので、1960年代初頭に作られた当時最大のスーパーコンピューターで作られましたが、それでも完全には再現できませんでした。シミュレーションするはずのものをシミュレートしましたが、とにかく何年も後になるまでそのことを知りませんでした。当時は、この箱の中でボールが跳ね回っているような感じでしたが、私が使っていたのは8キロワットのメモリを搭載したコンピュータで、メモリワードは18ビットでした。つまり、24キロバイトのメモリでした。そして、このコンピュータには命令がありました。おそらく、そのマシン命令のすべてを今でも覚えています。浮動小数点数などを扱うのはあまり好きではありませんでした。そのため、箱の中で跳ね回る粒子のモデルを単純化する必要がありました。それで、グリッド上に粒子を配置して、一度に1マスずつ動くようにしようと思いました。シミュレーションの結果は、本に載っている実際の写真とはまったく似ていませんでした。何年も経った今、実はごく最近になって、自分がシミュレーションしたものが、当時はまったく認識していなかった計算不可逆性の一例であることに気づきました。当時は、単にランダムなことをしたように見え、間違っているように見えました。ランダムなことをしたのではなく、ランダムであるのが非常に興味深いことです。当時はそれに気づいていませんでした。当時は、粒子物理学や他の種類の物理学に興味を持ちましたが、ダイナミクスの2次秩序全体、つまり秩序あるものが無秩序に悪化する傾向があるという考えは、私が本当に興味を持っていたものであり、宇宙全体でなぜそれが常に起こらないのか、本当に興味がありました。宇宙の始まりのビッグバンから始まるこのものは非常に無秩序な物質の集まりのように見え、その後、自発的に銀河を形成し、この複雑さと秩序のすべてを作成します。宇宙でそれがどのように起こるのかとても興味がありました。でも、私はいつも、これは熱力学の第二秩序が、いわば物事を無秩序に戻そうとしているのではないか、そして秩序がどのように作られるのか、と考えていました。実際、私が興味を持ったのは、おそらく1980年頃で、宇宙における銀河の形成などに興味を持ちました。また、その頃はニューラルネットワークにも興味がありました。脳が複雑なことを起こす仕組みなどに興味がありました。銀河の形成と脳が複雑なことを起こす仕組みにはどのような関係があるのでしょうか。どちらも単純な起源から複雑なことが起こる仕組みだからです。ええ、ある種の既知の起源から複雑なことが起こる仕組みです。私が興味を持っているのは、複雑なことがルールから生じるさまざまなケースだという感覚がありました。雪の結晶なども調べました。流体力学全般に興味がありました。複雑さがどのように生じるのか、そして私が知らなかったのは、一般的な現象があるかもしれないと気づくまでにはしばらく時間がかかりました。つまり、あちらには銀河があり、こちらには脳があり、これらは非常に異なる種類のものだと想定していたのです。それで何が起こったかというと、おそらく1981年頃、私は、これらの仕組みの最小モデルを作ろうと決めました。はい、それは興味深い経験でした。なぜなら、1979年から構築し始めた、SMPシンボリック操作プログラムと呼ばれる最初の大きなコンピュータシステムを構築したからです。これは、シンボリック計算などに関する多くの同じアイデアを備えた、現代の形態素言語のランナーのようなものです。しかし、私にとって非常に重要だったのは、その言語を構築するにあたって、基本的にどのような種類の関連する計算プリミティブがあるのか​​を考えようとしたことです。このことは、過去 40 年ほど私の中に残っていますが、言語を構築することは、私がこれまで主に行ってきた自然科学とは非常に異なる活動だったため、重要でした。自然科学では、世界の現象から始めて、世界の現象をどう理解できるかを考えます。つまり、世界はいわば何を提供しているのかを示し、それを理解する必要があります。コンピュータ言語などを構築するときは、独自のプリミティブを作成し、そこから何を作ることができるかを考えます。自然科学で行うのとは逆のことですが、私はその経験があったので、人工物理学を作ったらどうなるか、システムが動作するルールを作ったらどうなるかを考えました。そして、これらすべての異なるシステムについて、それが銀河や脳など、これらのシステムについて重要なことを捉える最小限のモデルは何ですか？そのシステムの計算プリミティブはい、それがセルオートマトンにたどり着きました。セルオートマトンには白黒のセルが一列に並んでいます。セルとその隣のセルが与えられたら、次のステップでセルの色は何色になるかというルールがあり、それを一連のステップで実行するだけです。皮肉なことに、セルオートマトンは多くの種類のものに対して優れたモデルですが、銀河と脳は、非常に悪い結果をもたらす2つの例です。これらは、これら2つとはまったく関係がありません。熱力学の第2法則とセルオートマトンには関係がありますか？はい、セルオートマトンについてあなたが発見したことは、はい、わかりました。私がサラダオートマトンを販売し始めたとき、それらに関する最初の論文は、最初の文は常に熱力学の第2行についてでした。それは、第2行があるにもかかわらず、秩序がどのように生成されるかについてでした。熱力学は物事を無秩序な状態に戻そうとするものです。私がそれについて理解したのは、セルオートマトンにおける本質的に不可逆なプロセスで、ランダムな初期条件からでも秩序ある構造を形成するというものでした。しかし、私が気づいたのは、実はこれはもっと早く発見すべきだったものの、できなかった発見の1つだったということです。私はオートマトンを少し勉強していました。私がやったのは、最も明白なコンピューター実験のようなもので、さまざまなルールを試して、それが何をもたらすかを見るというものでした。まるで計算望遠鏡を発明したようなもので、空で最も目立つものを指して、そこに何があるか見てみましょう。それで私はセルオートマトンがどのように動作するかを示す画像をたくさん作成し、これらの画像を研究し、詳細に調べ始めました。セルオートマトンには番号を付けることができますが、その1つがルール30です。1981年頃にルール30の画像を作成しました。ルール30は、当時は「これは別のルールだ」と思っていましたが、左右非対称で、対称の場合を考えてみましょう。物事をシンプルにするためなどなど。そして私はそれを無視していました。そして奇妙なことに、1984年に、非常に高解像度の画像を作成する初期のレーザープリンターを手に入れました。興味深い画像を印刷しようと考えました。興味深い画像を作りたいので、このルールを使ってみましょう。 30 個のものを高解像度の画像にしてみましたが、これは非常に注目すべき特性があり、ルールは非常に単純で、上部の 1 つの黒いセルから始めて、このような三角形のパターンを作成しますが、このパターンの中を見ると、非常にランダムに見えます。セルの中央の列を見ると、非常に詳細に研究したのですが、完全にランダムであることがわかります。これは、数字を生成するルールがわかれば、円周率の数字に少し似ています。ただし、数字を生成すると、3 であることがわかります。14159 など、完全にランダムに見えます。実際、2019年か何かにこの賞を出して、シーケンスについて何か証明しようとしました。基本的に、誰かがそれについて何かできたでしょうか。人々は私にいくつかのものを送ってきましたが、これらの問題がどのようなものかはわかりません。つまり、私は2007年に、特定のチューリングマシンがユニバーサルチューリングマシンであるかどうかを判断するための賞を出したので、ちょっと甘やかされていました。ユニバーサルチューリングマシンの最も単純な候補だと思った特定のチューリングマシンがユニバーサルチューリングマシンであるかどうかを判断するための賞を出したのですが、誰かがその賞を獲得し、約6か月でそれがユニバーサルチューリングマシンであることを証明するという素晴らしい仕事をしました。そのため、それが何百年も前からあった問題の1つなのか、この特定のケースではアレックススミスという若い男性が6か月でそれを解決したのか、わかりませんでした。そのため、この30の小さなコレクションでは、これらが100年先に解決できるものなのか、本当にわかりません。誰かが来て何かとても賢いことをするのかどうかは、火星の最終定理エッセンシアのルール30のような単純な定式化なので、誰でも見て理解でき、何かを予測して何らかの法則を導くことができるように感じます。ルール30の真ん中の列について何かを予測できますが、これは計算の不可逆性の直感的な驚きであり、ルールが単純であっても何が起こるかはわかりませんし、それについて証明することもできません。とにかく、私は1984年頃に始めたのですが、非常に単純なルールでも一見ランダムな動作を生み出すという現象があることに気づき始めました。これは2番目のオーソダイナミクスに少し似ています。なぜなら、この単純な初期条件があるとすぐにわかるので、非常に簡単に説明できますが、非常に簡単に説明できます。ランダムに思えるこのことは、世俗的熱力学と可逆性の概念に関する技術的な詳細です。ビリヤードのボールが2つ衝突する映画のようなものがあり、それらが衝突して跳ね返るのを見て、その映画を逆に再生すると、個々のビリヤードのボールだけを見ているときは、どちらが時間の順方向でどちらが時間の逆方向だったのかわかりません。ビリヤードのボールのコレクション全体が100万個か何かになると、それが事実であることが判明します。これは、秩序あるものから始まり、無秩序になり、それが時間の順方向であり、その逆の場合、並べ替えが始まり、秩序になります。原理的には、今の世界ではそのようなことは見られません。もし、分子の詳細な動きを逆方向にたどってみれば、時間の逆行がわかるでしょう。時間の進行とともに秩序が無秩序になっていくのがわかります。時間の逆行とともに秩序が無秩序になっていくのがわかります。そうです、謎はなぜそうなるのかということです。謎の1つは、なぜ秩序に進化するために必要な無秩序のようなものがまったく見えないのかということです。なぜそれが起こらないのか、なぜ常に秩序が無秩序になっていくのを見るだけで、その逆ではないのかということです。1980年代に私が気づき始めたのは、暗号学に少し似ているということです。とてもシンプルなこの鍵から始めて、それを実行すると、複雑でランダムな混乱が生まれます。そして、その当時私が気づき始めたのは、第二法則は一種の計算の話だということです。還元性というのは、最初は簡単に説明できるように見えても、最後には膨大な計算労力をかけてしか説明できないという話です。それで、何年も経って、基礎物理学を理解するための大きなプロジェクトをやった後、その重要な側面は観察者がどのようなものかを理解することだということに気付きました。そして、2番目のオーソダイナミクスは、他の多くのケースと同じ話だと気付きました。計算的に制限された観察者が計算的に還元できないシステムを観察しようとする話です。つまり、分子が跳ね回っているという話です。分子はルールによって完全に決められた方法で跳ね回っています。しかし、ポイントは、計算的に制限された観察者である私たちには、このような単純な基本ルールがあったとはわからないということです。ランダムに見えるだけです。この質問に関しては、無秩序なものが、秩序のあるものを作るために適切な無秩序になるように初期状態を準備できるかどうかです。計算的に制限された観察者それはできません。この無秩序な状態が何であるかを正確に解明するために、このような不可分な計算をすべて実行する必要があります。正確な無秩序な状態が何であるかを解明して、そこから秩序あるものを生成する必要があります。計算的に制限された観察者とはどういう意味ですか。計算的に制限されたシステムを観察すると、計算的に制限された、つまり、チューリングマシンについて話したり、計算複雑性理論について話したり、多項式時間計算などについて話したりすることができます。より正確にするにはさまざまな方法がありますが、直感的なバージョンのほうが便利だと思います。ええ、基本的には、何が起こっているのかを解明するためにどれだけの計算を行うのかということですが、その答えは、多くの計算を行うことはできないということです。この部屋には1兆兆兆兆の分子があります。少し少ないですが、大きな部屋です。毎瞬、これらの分子が衝突し、大量の計算が行われています。問題は、私たちの脳内では、すべての分子が行う計算よりも毎秒はるかに少ない計算しか行われていないということです。計算不可逆性がある場合、すべての分子が何をするのかを詳細に解明することはできません。私たちにできることは、はるかに少ない量の計算だけです。したがって、熱力学の第二法則は、根底にある計算不可逆性と、初期状態の準備者または何が起こるかの尺度として私たちがそれほど多くの計算を行うことができないという事実との間のこのような相互作用です。したがって、私たちにとって、もう1つの大きな定式化は、熱力学の第二段階は、エントロピー増加の法則という考え方です。この宇宙の特徴は、エントロピーが常に増加しているように見えることです。これは、進化について何を示していますか？はい、わかりました。これは熱力学の歴史では非常に混乱しています。エントロピーは、ルドルフ・クラウジウスという人物によって最初に導入され、熱と温度の観点から説明されました。その後、ルートヴィヒ・ボルツマンという人物によって再定式化されました。ボルツマンは、エントロピーをもっと組み合わせ的な方法で定式化しましたが、常にクラウジウスのものと同等であると主張しました。そして、ある特定の単純な例では、エントロピーのこの2つの定式化のつながりは、これまで一度も接続されていませんでした。つまり、本当にそうです。ボルツマンによるエントロピーのより一般的な定義は次のとおりです。システムがあり、多くの構成が可能で、分子はさまざまな配置になることができます。などなど。システムについて何かを知っていれば、たとえば、それが箱には一定の圧力と一定の温度があり、これらについての全体的な事実がわかっているので、全体的な制約を前提として、システムの微視的構成がいくつ可能であるかを述べます。エントロピーはその数の対数です。これが定義であり、これがエントロピーの一般的な定義です。ボルツマンの時代には、これらの分子はどこにでも配置できると考えていました。彼は、分子を離散的にすることで、はるかに簡単にできると考えていました。実際、彼は分子が存在することを知りませんでした。彼の時代、1860年代などでは、マタが離散的な物質でできているかもしれないという考えは、古代から浮かんでいました。ギリシャ時代から、数学は離散的か連続的かという議論が続いていました。当時、人々は主にマタは連続的であると考えていました。熱とは何かというこの疑問と混同されていました。人々は熱は流体であると考えていました。それは大きなモデルでした。しかし、ボルツマンは、離散的な分子があると仮定し、離散的なエネルギーレベルがあると仮定し、すべてが離散的であると仮定すると、ある種の組み合わせ数学を行って、箱の中にこれらのものの配置がいくつあるかを計算し、セントロピー量を計算できると言いました。しかし、もちろん、これらのものが離散的であるというのは単なるフィクションなので、これは興味深い歴史だと言いました。ところで、当時は人々は分子が存在することを知りませんでした。化学を調べると、離散的な原子があるかもしれないというヒントがありました。2つの水素と1つの酸素の組み合わせから。水を作るには、水素を2つと酸素を1つ混ぜると水ができますが、離散的な分子が存在することは知られておらず、実際にブラウン運動が最終的な手がかりとなったのは20世紀の初めになってからでした。ブラウン運動とは、顕微鏡で花粉の小さな破片を見ると、それらが個別に蹴られているのがわかります。その蹴りは水分子がそれらに当たっていることで、離散的です。実際、それは非常に興味深い歴史でした。つまり、ボルツマンは物事が離散的になる方法を解明し、1860年代に量子論のようなものを発明しましたが、彼はそれが実際には機能しないと考えていました。これは物理学の歴史の一部です。1900年に、熱力学の長年の研究者であるマックス・プランクという人物が、マックスを含む熱力学の2次の原理を証明しようとしていたことは興味深いと思います。プランクとマックス・プランクは、電磁波のような放射線が何らかの形でマタと相互作用することで熱力学の第二法則が証明されると信じていましたが、彼は黒体放射に関する実験を行っていました。そこには曲線があり、放射線がマタとどのように相互作用するかについての彼の考えに基づいて曲線を当てはめることができませんでした。それらの曲線をどう当てはめるかはわかりませんでしたが、彼は、ボルツマンがやったように電磁波が離散的であると仮定すれば曲線を当てはめることができることに気付きました。しかし、これはたまたまこのように機能するだけだと言いました。その後、アインシュタインがやって来て、ところで、電磁場は実際には離散的であり、光子でできている可能性があり、それがこのすべての仕組みを説明できると言いました。1905年、それが量子力学の始まりでした。これはとても興味深い歴史です。最近調べるまで知りませんでしたが、1904年と1903年にアインシュタインは3本の論文を書きました。物理学の歴史ではよく知られていますが、1905年にアインシュタインは3本の論文を書きました。1本は相対性理論、1本はブラウン運動を説明し、1本は基本的に光子について紹介しました。物理学にとって、そしてアインシュタインにとってとても重要な年でした。しかし、それ以前にも彼はいくつかの論文を書いていました。それは熱力学の第二次戦争に関するもので、熱力学の第二次を証明しようとする試みで、そのナンセンスでした。だから彼がこんなことをしていたとは知りませんでした。興味深いことです。実際、彼が1905年に書いた3本の論文は、相対性理論の論文ではなく、ブラウン運動に関する論文と光子に関する論文で、どちらも一種の物語についてでした。世界を離散的なものにする、そして彼はボルツマンからそのようなアイデアを得た、ええ、でもボルツマンはそうは思わなかった、ボルツマンは信じて死んだ、彼は言った、でも彼は実際に引用文を持っている、つまり、結局のところ物事は離散的なものになる、そして私はこのことについて私が言わなければならないことを書き留めるつもりだ、なぜなら、最終的には物事は再発見されるだろう、そして物事がどのように離散的になるかについて私ができることを残したい、しかし、彼は、一人の人間が歴史の流れに逆らうことはできない、物質は離散的である、だから彼は銃を止めた、問題は離散的ではない、そう彼は言った、そして、これについて興味深いのは、当時、アインシュタインを含む誰もが、空間もおそらく離散的になるだろうと想定していたが、技術的にはうまくいかなかった、なぜならそれは相対性理論はそうではないようでした。物理学の歴史では、マタは離散的であると人々が判断したにもかかわらず、磁場は離散的であり、空間は離散的ではないという主張が続いていました。実際、アインシュタインは1916年に素晴らしい手紙を書き、最終的には空間は離散的であることが判明するだろうが、それがどのように機能するかを理解するのに必要な数学的ツールはまだありません、と書いています。ですから、100年後に私たちがそうするのはクールだと思います。そうです、あなたは現実のあらゆる層で離散的であり、空間は離散的であり、そして、つまり、私が最近気づいたことの1つは、熱の理論のようなもので、熱は実際には連続した流体であり、熱の熱量理論のようなもので、実際には熱は離散的な分子の運動であるため、完全に間違っていることが判明しました。離散的な分子があるので、熱が何なのか理解するのは難しいです。空間は離散的だと思います。問題は、宇宙の場合の熱量で犯された間違いの類似物は何なのかということです。私の現在の推測では、暗黒物質は、ここ数か月の私のちょっとした格言のように、私たちの時代の熱量です。つまり、暗黒物質は空間の特徴であり、粒子の集まりではないことがわかります。当時、人々が熱について話していたとき、彼らは流体について知っていて、熱は別の種類の流体に違いないと言いました。なぜなら、それが彼らが知っていたものだからです。しかし、今では人々は粒子について知っているので、暗黒物質とは何か、それはそうではない、粒子に違いないと言うのです。では、暗黒物質は宇宙の特徴として何なのでしょうか。まだわかりません。つまり、私が本当にできることの1つは、類似物を見つけることだと思います。ブラウン運動は宇宙で起きる現象です。言い換えれば、ブラウン運動は個々の分子からの影響のレベルまで見ていたのです。宇宙の場合、私たちがこれまで宇宙で見てきたもののほとんどは連続的に見えるブラウン運動ですが、1830年代に発見されました。それが何であるかが初めて特定されたのは、20世紀初頭のスモロコフスキーとアインシュタインによる偏見の結果でした。そして、ダークマターは100年前に発見されました。銀河の回転曲線は、100年前に発見された光物質に従わないという現象です。私たちがすでに知っているブラウン運動の類似物のような効果があっても驚かないでしょう。それは空間の離散性を明らかにしています。実際、私たちは推測を始めています。ブラックホールの合体は離散的な空間がある場合には異なる動作をするという証拠があり、重力波で見られるものがあるかもしれません。空間の離散性に関連する特徴や事柄ですが、これは物理学の歴史のこのような要約を見るのが私にとっては興味深いことです。人々は物質は連続的であると熱心に主張し、電磁場は連続的であるが、それが真実ではないことが判明し、空間は連続的であると言います。しかし、エントロピーは、何らかの制約と一致するシステムの状態の数です。はい、そして、ガス内のすべての分子の位置を詳細に知っていれば、エントロピーは常にゼロです。なぜなら、分子の構成とガスには1つの状態しか存在しないためです。分子は跳ね回り、跳ね回るには一定のルールがあります。ガスの状態は1つだけであり、ガスの状態は1つに進化します。しかし、それは、全ての分子がどこにあるのかを詳しく知らないと、エントロピーが増加すると言える。なぜなら、分子についてわかっていることと一致するシステムのミクロな状態がもっとあるからだ。だから、もし全ての分子がどこにあるのかわかっていたら、エントロピーは増加しないだろうというパラドックスが、20世紀初頭にギブスによって提唱された。実際、20世紀初頭に、イェール大学で最初の著名なアメリカ人物理学教授だったアメリカ人物理学教授が、このアイデア、つまり、分子が飛び回っている細部があるが、私たちはその粗い粒度のバージョンしか観察できないというアイデアを提唱した。しかし、混乱は、誰も有効なコーススクリーニングが何なのかわからなかったため、誰も、単純な初期状態から得られる特定の構成に気付くように非常に注意深く彫刻されたスコアスクリーニングを使用できるかどうかわからなかった。条件は、この粗粒度に適合し、粗粒度が非常に注意深く観察することで、なぜそのような非常に詳細で正確な粗粒度スクリーニングができないのかがわかります。答えは、計算的に制限された観察者であり、基礎となるダイナミクスが計算的に還元不可能である場合、それが可能なコアスクリーニングを定義するものであり、計算的に制限された観察者が実行できることであり、計算的に制限された観察者は、システムが行っていることのこのような粗粒度バージョンのみを見ることを余儀なくされるという事実です。そのため、その下で何が起こっているのか、これはさまざまな可能性を埋め合わせることです。つまり、基礎となる計算的還元不可能性が、つまり、粗粒度の結果が、ある種の計算的に制限された観察でコピーされたものだけを見ることができる場合、必然的に、それと一致する多くの可能な基礎構成が存在します。明確にするために、基本的に宇宙内に存在するすべての観察者は計算的に制限されます。我々のような観察者には分かりません。我々のような人間がどういう意味かは分かりません。我々のような人間がどういう意味かは分かりません。つまり、有限の心を持つ人間には科学のツールも含まれるということです。つまり、我々はより正確な測定が可能で、ところで、分子が正確にどこにあるかをより正確に測定すると、熱力学の2次の微視的違反が起こり始めることがあります。しかし、大規模な場合、十分な分子がある場合、それらの分子をすべて追跡することはできませんし、そのための計算リソースもありません。計算的に制限されていない観察者がどのようなものかを想像するのは興味深いことです。計算的に制限されているとはどういうことでしょうか。とりわけ、特定のことが起こると結論付けるということです。私たちは世界の複雑さをすべて考慮し、左に曲がるか右に曲がるかを決定します。これは、すべての詳細を、私たちが観察しているものに縮小し、この1つのものに押しつぶすようなものです。そうしないと、有限の心で物事を熟考できるように構築したこのような象徴的な構造がすべてなくなります。代わりに、私たちは宇宙と一体化するでしょう。単純化しないことに満足します。単純化しないと、私たちは私たちとは異なり、宇宙のようになります。本質的な宇宙のようになりますが、私たちが持っているような経験はありません。たとえば、特定のことが起こると結論付けるような経験はありません。私たちは、ある種の経験を持っています。これは、物語のような発言ができるという概念ですね。これは、コンピューターであることがどんなものか、思考実験として想像したのと同じことでしょうか。無限の計算がどんなものか想像してみることは可能でしょうか。では、これがどのように展開するかです。振動は最悪です。つまり、ここでは、このルーリアド、つまりすべての可能な計算の空間について話します。ルーリアド内の特定の場所にいるという考えは、物事を表現する特定の計算セットの特定の表現方法に対応しています。ルーリアドを広げていくと、宇宙のより多くの可能なビューを網羅し、より多くの可能な種類の計算を網羅するようになります。最終的には、これは本当の勝利と言えるかもしれません。ルーリアドを植民地化し、物事の考え方に関するより多くのパラダイムを構築しています。最終的には、私たちは完全に勝利したと言えるかもしれません。リヤド全体を植民地化することに成功しました。ここで問題なのは、存在の概念、つまり一貫した存在には、ある種の専門化が必要だということです。あなたがルーリアド全体を覆う頃には、何の役にも立たない意味でも、あなたは首尾一貫して存在しているのでしょうか。言い換えれば、存在の概念、つまり私たちが明確な存在と考えるものの概念には、この種の専門化が必要であり、私たちはすべての可能なものではなく、特定の集合であるというこの種の考えが必要であり、それが私たちが首尾一貫した存在になる理由です。もし私たちがルーリアド全体に散らばっていたら、私たちの働き方に一貫性はなく、あらゆる可能な方法で働き、それは一種の概念ではないでしょう。アイデンティティがなければ、一貫性のあるアイデンティティという概念は生まれません。地理的には、私はルーリアドのどこかにいます。したがって、私は物理的空間です。あなたは現実空間の特定の場所にいます。そして、あなたが十分に分散している場合、あなたはもはや一貫性がなく、つまり、存在することと経験を持つことの意味についての私たちの認識では、今は起こりません。したがって、存在するということは、計算的に結合されていることを意味します。つまり、私たちが自分自身が存在すると考える方法で存在するということです。はい、非常にアクティブな存在は、計算的に縮小可能なこの場所で動作しているようなものです。これは、予測できない巨大な混乱が起こっているだけですが、それでも、あなたの制限のために、あなたは命令を持っています。それは命令ですか、それとも単純化するスキルセットですか、それとも無知ですか、十分な愛ですか。わかりました。明らかではないのは、部屋の中を飛び回っているすべての分子のように、このすべての複雑さの一部を取っているということです。しかし、私たちが気づくのは空気の流れや空気の圧力など、私たちは特定のことに気づいているだけですが、興味深いのは、私たちが観察する大きなものを支配するルールや法則があるということです。明らかではありませんが、それは驚くべきことです。なぜなら、それがスライスのようには感じられないからです。そうですね、スライスではなく、それは抽象的なもののようなものです。そうですが、気体の法則が機能するという事実、圧力、体積などを説明できるという事実など、個々の分子について話すレベルまで下がる必要はありません。これは重要な事実です。そして、私にとって興味深いのは、宇宙には特定の側面があるという事実です。つまり、空間は最終的にはこれらの空間の原子やこれらのタイポグラフなどで作られていると考えており、それでも宇宙は大規模な連続空間のように認識しています。量子力学では、これらは多くの時間の糸であり、多くの歴史の糸ですが、私たちはある種の広がりを持っています。量子力学では、物理学のモデルでは、時間は単一の糸ではなく、多くの糸に分かれ、分岐し、融合しますが、私たちはその分岐し融合する宇宙の一部です。私たちの脳も分岐し融合しています。私たちが宇宙を認識するとき、私たちは分岐した脳であり、分岐した宇宙を認識しています。つまり、私たちが経験しているという主張は、私たちが時間の中で持続していると信じており、この単一の経験の糸を持っているということです。これは、宇宙の基本的な動作で分離された時間の糸を何らかの方法で集約できたという主張です。空間と同じように、私たちは空間の大きな領域を平均化しています。私たちは空間の多くの原子の集合的な効果を非常に多く見ています。同様に、これらの量子枝の空間である鰓空間では、宇宙のさまざまな歴史の可能性のある枝を効果的に平均化しています。熱力学では、分子の多くの可能な位置の構成を平均化しています。ここで見ているのは、空間を平均化した場合の空間の集合法則は何かということです。鰓空間を平均化した場合の鰓空間の集合法則は何か。分子を平均化した場合の鰓空間の集合法則は何か。どのような集合法則が得られるか。これは、集合法則が存在するということ自体が驚くほど素晴らしいと思います。はい、そうですが、問題は、それらの集合法則が何であるかということです。答えは、空間の集合法則は、重力に関するアインシュタインの方程式、時空構造に関する鰓空間の集合法則は量子力学の法則であり、分子などの集合法則は基本的に熱力学の第二法則は、熱力学の第二世界から派生したものであり、つまり、20世紀物理学の3つの偉大な理論、つまり、一般相対性理論、重力理論、量子力学、統計力学は、熱力学の第二世界から派生したもので、20世紀物理学の3つの偉大な理論はすべて、計算上の還元不可能性と観測者の計算上の限界性の相互作用の結果であり、私にとってこれは本当に素晴らしいことです。なぜなら、これら3つの法則はすべて導出可能であることを意味するからです。たとえば、アインシュタインの方程式は、宇宙の特徴である車輪のようなもので、宇宙はそのようになっているかもしれないし、そうでないかもしれないと考えていました。量子力学は、たまたまそうなっているだけです。第二法則は、人々は、それは導出可能であるかもしれないと考えていました。結局、物理学の3つの基本原理はすべて導出可能ですが、単に導出できるわけではありません。彼らが必要とする数学、あるいはある種の論理的計算から、彼らはもう一つのことを要求します。彼らは、宇宙の仕組みをサンプリングしている観測者が、信念、持続性、時間の計算上の限界性という特性を持つ観測者であることを要求します。つまり、それは観測者の性質であり、観測者の大まかな性質であり、2つの目があり、この周波数の光子を観察したなどという詳細ではありません。しかし、観測者の非常に粗い特徴は、物理学に関するこれらの非常に正確な事実を暗示しており、それは驚くべきことだと思います。実際の観察者の経験では、私たちはこの現実を体験しますが、それは私たちにとっては現実のように見えます。そして、あなたは、私たちの結びついた性質のために、それは実際にはすべて幻想であり、単純化であると言っているのです。はい、単純化です。単純化は幻想ではないと思いますか？いいえ、それは、まあ、わかりません。つまり、その下にあるのは、ええ、それは興味深い質問です。何が現実であり、それは宇宙が存在する理由という全体的な質問に関係しています。現実と、起こっていることの単なる表現の違いは何ですか？はい、私たちは表現を経験します。はい、しかし、質問は、なぜ私たちがそのように体験できるものがあるのか​​ということです。答えは、このルーリアドオブジェクトが、すべての可能な計算のこの絡み合った限界であるためです。それについては選択の余地はありません。それは存在しなければなりません。そのようなものがあるに違いありません。2が何であるかを定義し、プラスをプロットすると、2プラス2と同じ意味で存在します。 2 プラス 2 は 4 になります。同様に、すべての可能な計算のこの限界を加えると、計算という概念が理解できれば、必然的にルールが生まれます。ルールを持たなければなりません。ルールが必要です。そして、重要なことは、その 1 つが、このユニークなオブジェクトであり、そのユニークなオブジェクトが必然的に存在するということです。次に、私たちがその中に埋め込まれ、サンプルを採取すると、私たちが認識できるものがあることは避けられません。つまり、私たちが持つ特性を持つ観察者であることから、物理的な現実の認識は必然的にそのようになります。つまり、宇宙が存在するという事実は、実際には、いわば神学的に考えるようなものです。そして、宇宙の存在などに関する多くの質問は、科学のどのような種類をも超越しているため、本当に面白いです。過去数百年にわたる科学は、そのような疑問について語れるとは思っていませんでした。ええ、でも、私は、神は存在するのか、神は存在するのか、という議論は、ある意味では、ある表現では、私たちよりも何か大きなものが存在することの方が、私たちが存在することよりも明らかだと思います。私たちは、私たちの存在であり、観察者としての私たちのあり方は、宇宙についての偶然の産物であり、宇宙全体、つまりすべての可能性の集合体が存在することはより必然的です。しかし、この質問は、それが現実なのか幻想なのかということです。私たちが知っているのは、私たちの経験だけであり、私たちの経験とは、ルーリアドのサンプルのこの極小片であり、そして、ルーリアドをもっとたくさんサンプルして、物理学のさまざまな分野、例えば量子力学などについてもっと学ぶことができるかもしれないという点があります。それが発見されたという事実は、電子増幅器が発明され、小さな効果を増幅できるようになったという事実と密接に関係していると思います。これは以前は不可能でした。顕微鏡が発明され、物を拡大するなどですが、それらは非常に小さな効果を持ち、それを拡大できることは、宇宙のさまざまな側面を見ることができる新しいものであり、このようなものを発見することを可能にしました。つまり、ルーリアドには、発見できる新しいものの無限のコレクションがあり、実際には計算エネルギー能力があり、無限のコレクションの縮小可能なポケットがあることが保証されています。発見したよ、少年、ウーリー広告を歩いて、そこでどんなものが見つかるか見てみたら楽しいだろうね。エイリアンの知性について書いてるね。そう、つまり、これらの世界についてね。そう、これらの世界の計算上の問題は、私たちが彼らと話すことができないということ。そう、そして、私が多くの時間を費やしてきたのは、計算システムを研究して、それが何をするのかを見ることだった。今では、私はこれをルール学と呼んでいる。ルールの研究のようなもの。そう、そして、彼らが何をするのか、ルーリアドのどこか別の場所に簡単にジャンプして、これらのルールが何をするのか見始めることができる。そう、あなたが言うように、彼らはただ彼らがやることをやるだけ。いわゆる人間とのつながりはない。なぜなら、一部の人々は動物とコミュニケーションできると思うから。あなたは、これらのウィスパラーになれると思いますか。それを試みてきたのは、私が人生の一部を費やしてきたこと。聞いたことがありますか。そして、あなたは気が狂う危険にさらされていますか。私のお気に入りの科学の発見は、これらの非常に単純なプログラムが非常に複雑な動作を生み出すことができるという事実です。そう、そして、その事実は、ある意味では計算宇宙の何かがささやいているような感じでした。以前は存在すら知らなかったのです。つまり、1980年代に私は優秀な数学者たちとたくさんの仕事をしていました。彼らは、計算システムで何が起こっているのか解明しようとしていました。彼らは、基本的に、私たちが持っている数学ではどこにも到達できない、行き詰まっている、何も言うことがない、何も言うことがない、と言っていました。ある意味では、当時の私の主な成果は、優秀な数学者たちが何も言うことがないという事実自体が非常に興味深いことであり、ある意味では、ある意味、何かがささやいているような感じだった、と気付いたことだったのかもしれません。ルーリアドの別の部分は、私たちがマサチューセッツ州で知っていたものからアクセスできなかったものです。このような巨大なアイデアを探求していて、非常に興味深い発見に突入しようとしているように感じますが、あなたは有限の存在であり、あまりにも早く死ぬことになり、脳や全身のスキャンは、あなたがただの肉の塊であることを示しています。ええ、それは少し悲しく、恥ずかしくなりますか？つまり、私はこれらすべてがどのように機能するかを見るのが好きですが、これは興味深い思考実験であることを認識する必要があると思います。つまり、クライオニクスが機能すると仮定すると、いつかそれはチャットGPTのようなものの1つになります。いつか誰かが、水を摂氏0度からマイナス44度か何かに下げる方法を、それが拡大し、冷凍保存が解決され、いわば一時停止して、100年後か何かに再び現れることができるようになるでしょう。しかし、私がだんだんと理解してきたのは、ある意味では、この全体的な問題は、ある瞬間に埋め込まれているということです。私たちが今気にかけていること、私が今気にかけていること、例えば、私が500年前に生きていたとしたら、私が今気にかけていることの多くは、まったく奇妙なことです。つまり、誰もそんなことを気にしないでしょう。それは将来考えることでさえありません。ほとんどの人が考えること、つまり、ピンの先に天使が何人いるかなどについて神学者が考えていたかもしれない、あるいは神学者だったかもしれない、といった奇妙な考えの遺物になるでしょう。それは、あなたが知っているように、大きな知的なことだったかもしれません。だから、それは、ええ、でも、そうですね、特に、私は幸運か不運かはわかりませんが、よくわかりませんが、複雑なものだと思います。私はたくさんのものを発明してきましたが、50年後、100年後に何が起こるかは十分に予測できると思います。世界が自滅しないと仮定すると、これらは何が起こるかにとって中心的な重要性を持つものであり、人生の流れという点で良いことでもあり悪いことでもあります。つまり、私が理解したことすべてが「よし、25歳のときに理解した」という感じで、みんなが「素晴らしい、これで終わり」と言うので、「よし、あと何年生きるつもりだ」という感じで、そこからはすべて下り坂です。ある意味、それは物事を面白く保つことができるので、私がこれらの多くのことを見ることができる理由です。つまり、チャットGPTは予想していませんでした。この計算と計算言語のアイデアがこれによって開かれるとは思っていませんでした。これが予定より早いとは思っていませんでした。たとえ、その大きな開花がさらに50年先だと思っていたとしても、それがはるかに短い時間で実現するのであれば、それはかなり素晴らしいことです。なぜなら、私はいわばそれを見ることができると期待しているからです。つまり、私は非常に多くの人々を代表して、あなたがこれからも長く留まってくれることを願っています。あなたは長年にわたって非常に多くの興味深いアイデアを持っており、非常に多くの興味深いシステムを作成してきました。そして、GPTと言語モデルが世界で分裂したとは思えません。もっと、この開発の最前線にいるあなたを見るのが待ちきれません。あなたが何をしているのか、ええ、最初から何度も何度も言ってきたように、私はあなたのファンでした。あなたが新しい種類の科学を書き、セルオートマトンという謎を探求し、私の中にいる小さな子供に人工知能やこの美しい世界を追求するように刺激を与えてくれたことに深く感謝しています。本当にありがとうございます。あなたとお話できて光栄です。あなたの考えを聞き、あなたと一緒にこれらのアイデアをすべて探求することができます。これからも続けてください。次に何を思いつくのか楽しみです。今日はお話をありがとうございました。終わりました。ありがとうございます。深夜を過ぎてしまいました。たったの 4 時間半でした。おそらくあと 4 時間続けられるでしょうが、それは次回まで取っておきます。これは第 4 ラウンドです。きっともっとたくさんお話しするでしょう。本当にありがとうございました。スティーブン・ウルフラムとのこの会話を聞いてくれてありがとう。このポッドキャストをサポートするために、説明にあるスポンサーをチェックしてください。それでは、いくつか残しておきます。では、ジョージ・カンターの言葉を少し残しておきます。数学の本質はその自由にあります。ご清聴ありがとうございました。また次回お会いしましょう。