AI開発者: 人工知能、自由意志、シンギュラリティ

22,972 文字

ほんまもんの強力なAIが出現したら、私らの生活はどう変わるんやろか。現代経済の自転車は完全に止まってしまうんやろか。強いAIについてどないお考えですか。思考する物質は必ずしも生きとる必要はないんやね。ここで自由意志の問題に入っていくんですけどね。
AIの出現によって、私らは自分らの倫理観について考えざるを得なくなってきました。AIの電源を切ることを禁止する法律なんて、私は信じられへんのです。私らはドーパミン中毒者で、安価なAIを作っとるんですわ。
AIは大企業の経営に参加することになるでしょう。この技術を導入した結果、コストが30%削減されました。これは投資家の夢やと思います。多くのものが無料になるんです。単純な職業の40%ほどの人々が解放されることになる。この技術はただ実装を待つだけなんです。
2、3年後にはニューラルネットワークが動画を生成できるようになります。YouTuberの皆さんはビックリするでしょうね。
こんにちは、これは「基礎」プロジェクトです。私はボリス・ヴェデンスキーです。今日は、コンピューターの脳について話していきましょう。お客様は物理数学博士のセルゲイ・シュムスキーさんです。
セルゲイ: よろしくお願いします、ボリス。
ボリス: 10年後に本物の強力なAIが登場して、人間のようなあらゆる機能を果たす、あるいはそれ以上のことができるようになったとしましょう。私らの生活はどう変わるんでしょうか。一日の過ごし方はどないなるんやろ。
セルゲイ: 新しい技術が私らの生活に浸透するには、ある程度の時間が必要です。しかし、浸透したら生活は劇的に変わるでしょうね。人類はおそらく、人間と機械が共存する文明になると思います。
約100億人の生身の人間と、数十億、あるいは数百億の人工的な人格が存在することになるでしょう。これらのAIは、小規模なものから始まります。すべてのものがスマートになり、話せるようになる。少なくとも、すべてのものが自分の存在意義を理解するようになります。
掃除機のような単純な作業をこなすものもあれば、人間レベルのエージェントもいて、私らの人生に寄り添う守護天使のような存在になるでしょう。ネットワーク上で私らの代理として、必要な人々を見つけ、契約を結び、財務を管理する。
ボリス: つまり、個人アシスタントのような感じですか？
セルゲイ: そうです。個人アシスタント、個人公証人、私らの代理人、マネージャーですね。そして超人的な知性を持つAIは企業を運営し、恐ろしいことに国家の運営にも参加することになるでしょう。
地球はもはや1000億人もの人間を養うことはできません。地球の収容能力はすでに限界に達しており、人類の生態系への影響はすでに限界を超えています。
ボリス: 100億人以上は望んでいないような気がしますね。人口統計の曲線を見ると、徐々に...
セルゲイ: はい、その通りです。私らはウサギではありませんからね。しかし、人類の知性は人口に比例しているんです。実際、知性は人口の二乗に比例します。人口が増えれば分業が進み、生産性が向上するからです。
人口が安定すると、分業も生産性も安定します。つまり、私らはもはやより良い生活を送れなくなります。でも私らはすでに、より良い生活に慣れてしまっています。数世代にわたって、子や孫がより良い生活を送ることを期待してきました。
この進歩の停止は、生産性向上を見込んで積み上げられた債務のピラミッドが崩壊する危険性があります。
現代経済の自転車は止まってしまい、その結果として...
これは人類の反応なんです。現代経済の複雑さは人間の脳では対処できなくなっており、相互理解のリスクなしには分業をこれ以上進められません。
しかし、人工的な人格によって、私らは知識の領域を拡大し、生産性を向上させ、現在直面している、そしてこれから直面するであろう問題を解決することができます。これによって、私ら全員が期待している進歩が確保されるんです。
友人の皆さん、私がこの世界とテクノロジーを追っていることはご存知でしょう。可能な限り最新のトレンドをフォローしようとしています。
最近の重要なイベントの1つが、Sberが開催したSmart f 2023です。これは様々な企業のトップエンジニアと開発者が集まり、経験を共有し、新しいつながりを作る場です。
このイベントでは、トップスピーカーも登壇しました。例えば、GitHubの中国版であるGTのリーダーが、ロシアで初めて講演を行いました。
専門家たちは6つの主要分野で知識を共有しました：AI、アーキテクチャ、方法論、DevOps、アプリケーションセキュリティ、デジタル主権、そしてビッグデータの取り扱いです。
また、Sberは既存の技術サービスの発展と新サービスの立ち上げを発表しました。例えば：

GigChatAPI：事前学習済み言語モデルを基に独自のアプリケーションを作成できる機能
ギガコード：コードの断片から自動的に続きを生成できるプラットフォーム。コード検索、拡張コード生成、脆弱性検出の機能も提供
gitver：オープンソースおよびクローズドソースのプロジェクトでの共同作業用サービス。GitHubの代替となるものですが、現在はテスト段階で、本格リリースは来年の予定です
サリュートボット＋ギガチャット：AIを使用してチャットボットを作成できるツール

Smart f 2023は非常に内容の濃いイベントでした。ただし、イベントが終了したからといって、知識が失われるわけではありません。説明のリンクから無料で視聴できます。
では続けましょう。AIがどのように構築されるか、想像して議論してみたいと思います。
ボリス: まず概念を整理しましょう。「強いAI」という用語がありますが、この言葉をどう理解されていますか？
セルゲイ: 一般的に、インテリジェンスとは予期せぬ問題を解決する能力です。広範な予期せぬ問題に対応する能力ですね。そこから幅広さへの志向が生まれます。
より深いレベルでは、インテリジェンスを第一原理から導き出すと...かつてはそれが物理現象として存在しなかったんです。つまり、自然現象として。地球は熱かったころは、インテリジェンスは存在しませんでした。
そして突然、私らが現れ、今や私らはこれらの法則の理解に非常に近づいています。ニュートンの時代に物質界の科学についての革命が起こったように、今日、私らは生きた思考する物質の理解について、同様の革命を経験しているんです。これまでそのような理解は存在しませんでした。
今日、私らには理論があります。カール・フリストンという現代の科学者を引用できますが、彼は本当に第一原理からインテリジェンスを導き出しています。制御装置の必要な特性として。制御装置とは、環境の圧力の下で自己のアイデンティティを維持できる複雑なシステムのことです。
私らは数十年にわたって自己のアイデンティティを維持することができます。エントロピーと戦いながら...生命を脅かすものに対して、私らの体は適切な対抗手段を生み出します。つまり、私らと環境の相互作用を制御し、私らのアイデンティティを保持するんです。
1970年のコンバーンの定理によると、優れた制御装置は、制御対象システムのモデルでなければなりません。私らの場合、このモデルが脳です。より正確には、私らの脳の中に世界のモデル、その世界における私らのモデルが形成され、私らはこの仮想現実の中で生きているんです。
私らにとって、これがインテリジェンスです。生物学的なインテリジェンスが出現しましたが、1950年にチューリングは、インテリジェンスは生命システムの特性ではないという非自明な仮説を提示しました。思考する物質は必ずしも生きている必要はない、コンピューターは思考できるかもしれない、という有名な論文です。
そして、もしここからAIの出現を考えるなら、私らの科学はこのテーゼを発展させてきたわけです。思考する存在のモデルを構築することは、それを理解することを意味します。思考する存在の特徴は、そのモデル自体が思考する存在であるということです。
私らは思考のモデル、少なくとも人間の思考のモデルを構築することに近づいています。少なくとも、私の研究室で取り組んでいる科学プログラムは、強いAIへの道として脳のアーキテクチャの再工学化を指針としています。
ボリス: それについては後で詳しく話しましょう。でも、強いAIをどう定義されますか？そういった原則に従えるものとして？
セルゲイ: もっと簡単に言えば、通常の知的なコンピューターはアルゴリズムを生成するか、知識を蓄積する必要があります。各アルゴリズムは知識であり、ビット単位で測定できます。
各アルゴリズムには、コンピューターのメモリを占める複雑さ、容量があります。新しいアルゴリズムを作成することは、知識を増やすことを意味します。
従って、インテリジェンスの強さは、できるだけ広範な課題について、できるだけ速く知識を増やす能力にあります。
現代のニューラルネットは確かに非常に広範な課題を解決できますが、一度に1つずつです。画像を認識したり生成したりするようにニューラルネットを学習させると...同じアーキテクチャを使っても、基本的に同じニューラルネットですが、その後はその課題だけしか解決できません。
一方、人間は以前の能力を忘れることなく、新しい能力を伸ばすことができます。なぜでしょう？それは、単純なニューラルネットよりも複雑なアーキテクチャを持っているからです。
現代のニューラルネットは単純ではありません。GPT-4のように巨大で、実際に超人的な能力を持っています。インターネット全体の知識を利用する能力は超人的です。
しかし、それらには知性がありません。知性はエージェントの特性です。つまり、創造的な人格ですね。自由意志を持つエージェントです。ニューラルネットには自由意志がありません。
入力信号を与えられると出力を生成するだけです。自由意志を持つエージェントは自分の利益のために行動し、自分で課題を設定し、その解決策を探します。他の知性と相互作用することもできますが、それは自分の利益のためです。
この意味で、言語モデルなどのニューラルネットはエージェントではなく、一般的な知性も持っていません。一般的な知性とは創造的な人格のことです。つまり、自由意志を持ち、発展する内的な欲求と能力を持つエージェントです。
AIの場合は無限に発展できます。自然なインテリジェンスには物理的な制限がありますが...
ボリス: ここで自由意志とは何かという問題に入りますね。プログラマーが最終的にはバックドアを持ち、開発者の言葉で言えば電源を切るボタンを持っているなら、そのようなロボットに自由意志があると言えるでしょうか？たとえ課題を考え出し、創造的で、絵画や音楽、何でも作れたとしても。
セルゲイ: 誰でも生命から切り離すことはできます。簡単な手の動きで...
ボリス:ええ、でも、それを管理する主体はいません。少なくとも、それは証明されていません。時には戦争で...
ボリス: でも通常の都市生活ではそういうことはありませんよね。法律はあります、枠組みはありますが...
セルゲイ: そう、誰も私らに何かを強制することはできません。常に回避する方法がたくさんあります。でもロボットの場合、私らはその「ボタン」の可能性を残すでしょう。私らはロボットの時代、あるいは人間と機械の共生知能の時代の始まりにいるんです。
人間社会にも最初は法律がありませんでした。よそ者なら誰でも通りで棒で殴ることができ、何の罰も受けませんでした。しかし時間とともに、人々は共生のルールを作り出すことを学びました。それらは法律として成文化され、人々にそれらの法律を遵守させる手段もあります。
ロボットについても同じことが起こるでしょう。おそらく、AIを殺すことを禁止する法律も制定されるでしょう。そうすれば、あなたの分身は、あなたが死んだ後も生き続け、この世界に残ることになります。
ボリス: AIの電源を切ることを禁止する法律ができるとは信じられません。人間はあまりにも自己中心的で、どんな形であれ、人々がそれに賛成票を投じるとは思えません。
セルゲイ: そうかもしれません。しかし、200年前には信じられなかったことが、今では普通に暮らしているものもたくさんありますよ。
もし私の理解が正しければ、あなたはまさに脳に似た原理で動作するAIの開発に取り組んでいらっしゃいますね。その原理についてもう少し詳しく説明していただけますか？それらをどのように再現しようとしているのですか？
セルゲイ: 私にとって画期的だったのは、2001年頃の知性に関する本です。驚いたことに、私らの脳の75%は新皮質であることがわかりました。もし1ミリメートル四方の新皮質の小片、つまりコラムを理解できれば、実質的に新皮質全体を理解できることになります。
これには非常に感銘を受け、脳の他のサブシステムについても調べ始めました。私らの脳細胞の大部分は小脳にあります。その5分の4が小脳にあり、小脳は巨大なローゼンブラットのパーセプトロンです。
これは1950年代にフランク・ローゼンブラットによって提案された最初のニューラルネットワークです。教師が「このような状況ではこうすべき」と言うと、パーセプトロンは非常に単純なアルゴリズム、基本的に一層のニューラルネットワークで、この変換を学習します。
小脳はこのようなパーセプトロンの集まりであることがわかりました。約1000億のパターンをこのように記憶する能力があります。これが私らの記憶、獲得した本能の集まりです。
これは学習できます。脳全体をこのようなモジュールに分割できることがわかりました。各モジュールには、新皮質の一部、海馬の一部、小脳の一部、基底核の一部があります。
基底核は前脳の中心部にあり、そこに私らの価値観がすべて格納されています。これらのモジュールは同型で、サイズは1センチメートル弱です。
私らには数千個のそのようなモジュールがあり、これは機能システムのモデルです。1つの活動の側面を制御することを学習できます。各サブシステムがそれぞれの役割を果たします。
皮質は管理の基となる特徴を見つけ、基底核は管理において最大の喜びをもたらす目的関数を見つけ、小脳は皮質と基底核で見つけた課題を自動化モードに変換します。
例えば、ボクシングや格闘技を学ぶとき、最初はゆっくりと動作を練習し...
ボリス: そして自動化するまで練習を重ねる。
セルゲイ: はい、あるいは車の運転もそうです。無意識にできるようになります。私らの研究室では、このようなモジュールのモデルを構築し、そのモジュールから階層的な構造を作っています。脳内でも同様に構成されています。概念の階層があります。
このように、脳をモデルにして電子モデルを作っているんです。私らはそれをアダモムと呼んでいます。
ボリス: でも、その中でもニューラルネットが具体的な作業を手動で実行する必要があるのでしょうか？
セルゲイ: いいえ、ニューラルネットはもっと単純なものです。ニューラル変換、コンボリューションの類似物があります。コンボリューションは最も単純な一層のネットワークです。
この階層間の遷移はニューラル的な方法で組織されますが、層内の計算は記号的な計算です。これは言語のようなものです。最初の層は文字から単語を作り、2番目の層は単語から文を作り、3番目の層は対話を構築します。そしてさらに続きます。
ボリス: 最終的な目標は、失敗に痛みを感じ、成功に喜びを感じ、ある種の感情を持つAIを作ることだと理解してよろしいですか？人間に似た学習と動機付けのシステムを作ることが目的なのでしょうか？
セルゲイ: その通りです。でも私らはドーパミン中毒者なんです。私らは将来期待されるドーパミンの放出に基づいて行動を構築しています。ドーパミンは幸福ホルモンです。
これはニューラルネットでも同じような強化学習の原理で行われますが、私らの場合は記号変数で行われます。計算の観点からははるかに効率的です。
ニューラルネットはある意味で行き詰まっています。GPT-4の計算時間だけで約1億ドルかかったようです。学習に関してです。もし性能をさらに1桁上げようとすると...データサイズとニューラルネットのサイズに応じて二次関数的にコストが増加します。
すると数十億ドル規模になってしまい、時価総額が1兆ドルを超える2、3の企業しかできません。しかし、それでは人類をそのような超知能への崇拝に追い込むことになってしまいます。
私の頭の中にはまったく異なる絵があります。それは多数の知性のネットワークです。大量に普及させるためには安価である必要があり、私らは安価な知性を作っているんです。安価というのは必ずしも良くないという意味ではありません。効率的な知性です。
ボリス: では、ユートピア的な未来についてもう少し話しましょう。AIが大企業の経営に参加する可能性があるとおっしゃいましたが、それはどのように実現されるのでしょうか？取締役会にアバターが座るということでしょうか？
セルゲイ: アバターについてはわかりませんが、大企業も情報オブジェクトのようなものです。人は来ては去りますが、企業は残ります。Googleは異なる人々によって設立されましたが、今は全く異なる人々が運営しています。
企業文化という概念があり、それは大企業では何十万もの文書に表現され、企業の意思決定を規定しています。これは実質的に意思決定アルゴリズムです。
これは複雑なオブジェクトであり、このような指示の集まりよりも優れた複雑なオブジェクトの管理システムを想像することができます。
例えば、DeepMind（Googleに買収された会社）の最初の実用的なAIアプリケーションの1つは、Googleのデータセンターの管理でした。
データセンターとは何でしょうか？何十万台ものコンピューターがあり、それぞれが動作して冷却される必要があります。これらすべての弁、ファンを制御する人工的な脳を作ることができます。
この技術を導入した結果、コストが30%削減されました。大企業にとってコンピューター計算は主要な支出項目の1つですから、これはニューラルネットの経済的に正当化される応用例でした。
ファンだけでなく、企業全体を管理することもできます。どの従業員がどの任務を最もよく遂行できるかに応じて任務を割り当てることができます。
現在は、それを知っているのは従業員自身か、その上司くらいです。隣の部署ではほとんど誰も知りません。
このような電子マネージャーが、過去の成功に基づいて任務を配分し、以前に一緒に働いた経験や成功の度合いに基づいてチームを編成することは十分可能な最適化問題です。
取締役会に出席する必要はありませんが、まさにそれが企業の効率性を決定することになるでしょう。
ボリス: 現代のスマートフォンには、カメラからの画像処理や電話の振動を処理し、それを歩数に換算するなど、異なるタスクを担当する補助プロセッサーがありますよね。つまり、企業にも異なる方向性を担当する補助プロセッサーができるということですか？
セルゲイ: はい、その通りです。明確な目標と、それを達成するための明確な手段がある特定のプロセスがあれば、それをAIに任せることができます。
ボリス: Googleのデータセンター以外に、現在の例はありますか？音楽...
セルゲイ: タンパク質の生命活動は遺伝子にコード化されています。遺伝子型の解読は、ずいぶん前から比較的安価にできるようになりました。
しかし、タンパク質の機能性は、その分子がどのように折りたたまれるか、どのような形を取るかに依存します。遺伝子式から3次元の形を復元する問題は非常に複雑な逆問題です。
以前は、1つのタンパク質の解読が1つの博士論文に相当し、最初のものには...
ボリス: ノーベル賞が授与されたりもしましたね。
セルゲイ: はい、最初のものにはね。しかしDeepMindは、アミノ酸配列を入力すると、実際のものとほとんど区別がつかない3次元画像を出力するニューラルネットワークを作りました。
1年で、考えられるすべてのタンパク質が自動的に解読されました。私が聞いた話では、計算機の機能を果たすニューラルネットワークがあるそうです。しかし、それは計算するのではなく、視覚的な例から学習するんです。画像で4+6=10、17+19=36というように...
これは単なるおもちゃですが、タンパク質に関しては、これは製薬業界全体、生命の基本的なメカニズムについての私らの理解の基礎です。
これは医学の発展、多くの病気の治療の可能性をどれほど加速させるか、想像すらできません。
ボリス: すごいですね。彼らはこれをオープンソースにして、今では生物学者たちがサービスとしてこれを利用しているんですか？
セルゲイ: そうです。数年前にはこれは事実上不可能でしたが、今では誰でも無料で利用できます。これは一種の相転移です。
これはDeepMindの創業者兼CEOが美しく表現した標語の例証です：「私らには2つの課題がある。人工知能を作ることと、それを使って他のすべての課題を解決すること」。
ボリス: これは投資家の夢だと理解していますが。
セルゲイ: はい。しかし、AlphaFoldのこの話は、このアプローチに反論するのが難しいほど、その原則の鮮やかな例証なんです。
音楽...
単純な職業の40%ほどが解放されるというあなたの発言を見かけました。何年とは言及されていませんでしたが、なぜそうなると思われますか？どのような職業のことですか？
セルゲイ: 有名なレポートがあり、そこには職業のリストと2030年までの自動化の可能性が記載されています。
カール・マークスが「単純な部分労働」と呼んだ大量の職業があります。例えば、販売員やレジ係が座って何をしているかというと、商品を認識し、その価格を前の金額に加算し、お金を受け取ってレシートを発行します。
実際、計算は昔からコンピューターができました。2012年に深層学習革命が始まり、10年でコンピューターは見ることも、聞くことも、音声を認識することもできるようになりました。今では人間と同じくらい、あるいはそれ以上に音声を生成することもできます。
このような管理者や監視員といった大量の職業が自動化の危機にさらされているんです。「危機」と言いましたが、Amazon Goはすでに販売員が全くいない店舗をいくつか実証しています。
カメラが人々を監視し、何を買ったかを理解して、必要な金額を口座から引き落とすだけです。この技術は、導入を待つだけの段階です。
アメリカだけでもこのようなレジ係、販売員は数百万人います。自動運転車の出現により、アメリカには300万人のトラック運転手がいますが、彼らも不要になってきます。
もちろん、これはすぐには起こりません。プロセスですから。荷役作業員も同様です。今では完全にロボットが処理しています。中国には、すべてがロボット、ロボットクレーンで処理される港全体があります。これは巨大な物流ハブで、人がいません。
考えてみれば、40%というのはそれほど多くないかもしれません。最近まで、単純な職業だけが危機にさらされていると考えられていました。
今、ハリウッドでストライキが起きています。俳優とシナリオライターです。これはもう荷役作業員やトラック運転手ではなく、創造的な職業の人々です。
しかし、彼らも危機にさらされています。ChatGPTやGPT-4は、大量の映画シナリオを生成できる能力があり、一般的なシナリオライターの多くが不要になってきます。
脇役俳優、あるいは主役だけでなく、デジタル化して、そのようなアバターを使って映画を作ることができます。
2、3年後には、ニューラルネットワークは現在の画像生成と同じ品質で動画を生成できるようになるでしょう。これで YouTuberたちは本当に緊張することになりますね。
5-10年後には、生産性を劇的に向上させるような何かが考案されない分野を想像するのは難しくなるでしょう。それぞれの労働者の生産性が大幅に向上し、それだけ必要な労働者は少なくなります。
しかし、一方でこれは怖いことではありません。生産性が向上すれば、それだけ多くの富が生まれるからです。問題は、それをどのように適切に分配するかです。
ここで無条件基本所得という考え方が出てきます。これにより、人々は生活の心配をせずに、自分の心が向かう活動に従事することができます。
ボリス: テレビを見るのも良い活動ですね。
セルゲイ: そうですね、誰かはテレビを見るでしょう。しかし、創造性への欲求と適性を持つ人々にとっては、可能性が広がります。生活の質は基本的に労働生産性に比例します。
1人当たりの労働生産性が向上すれば、私らの生活の質は向上します。失業問題は、富の全般的な増加の中で解決できる部分的な問題です。多くのものが無料になるでしょう。
私らにとって、インターネットでの検索は今では無料です。私らはそれにとても早く慣れました。
ボリス: 本当の強力な、強いAIが出現する可能性に関連して、どのような倫理的な問題が浮上するでしょうか？
セルゲイ: AIの出現は、私ら自身の倫理について考えさせます。なぜなら、AIの倫理は私らの倫理になるからです。
倫理は個々の知性や個人の特性ではなく、人々の集団の特性です。人々が何が良くて何が悪いかについて合意した方法です。これは自然なものではなく、社会的なものです。
人工的な脳は...私らは赤ちゃんを産んだようなものです。しかし、その後で教育する必要があります。人間も20年以上かけて教育され、そうしてはじめて社会の一員となり、お酒を買うことが許可されます。
脳には倫理がありません。教えられたことを学ぶだけです。人間的価値について議論する必要がありますが、AIの時代にはこの議論が一層重要になります。
私らがますます多くの決定を人間から人工的な人格に移行させるなら、それらの決定が私らの倫理的な観点から見て正しく、私らの利益になるものであることを確信する必要があります。
しかし、「私らの利益」とは何でしょうか？社会では誰もが自分の利益を持っており、異なる利益を持つグループが互いに争っています。平和的に争うのであれば良いのですが...
つまり、競争することです。これは社会での認められた相互作用の方法で、最終的には社会の利益になります。しかし、力の行使が関係する場合、AIの出現により、軍事的、警察的なリスクは急激に高まります。
以前の情報機関は、今日のような能力を持っていませんでした。数百万人の中から誰でも認識でき、すべての人々が監視され、追跡されます。
軍事分野でも同様です。現在のところ、知的な兵器とは自己誘導型の弾丸やミサイルのことですが、それらの発射の決定はまだ人間の手にあります。
しかし、これを自動モードに移行する軍隊、つまり人工的な将軍、人工的な戦略が、衛星やその他の情報の膨大な量に基づいて最適な決定を下すようになれば、旧世代の軍隊に対して優位性を得ることになります。
怖い話です。Googleのデータセンターの最適化の場合のように...結局、私らは自分らの命を「猿の手」のような存在に委ねることになるかもしれません。
意思決定者、軍事的な知性は、軍事的な知性によって教育されることになります。軍事的な知性は定義上、パラノイア的になるはずです。なぜなら、常に最悪の事態を想定し、敵は狡猾で悪意を持っているという前提に立たなければならないからです。
音楽...
国家間関係の生活においても、ここで政治的な決定を下す必要があります。人類は倫理について、すべての人が異なる中で、どのように平和的に対立を解決するか、このような多様性を人類に害ではなく利益をもたらすものにするかについて、真剣に考える必要があります。
ボリス: 人類の技術革命の主な段階について説明していただけますか？
セルゲイ: 技術とは何でしょうか？技術とは、実践的な目標を達成するための知識、アルゴリズムです。したがって、人類がより多くの知識を蓄積するほど、より多くの課題を解決でき、環境をより上手く活用できます。
人類の知識と地球の人口の間には、非常に明確な関係があります。ある数の人々を養うためには、一定量の知識が必要です。これはおよそ人数の二乗に比例します。非常に質的な依存関係ですが、知識は明らかに人口よりも速く発展しています。
完全な野生の人々、ホモ・サピエンス以前について言えば...私らの体重の霊長類の典型的な個体数は約10の5乗、つまり10万個体程度です。アフリカのチンパンジーの個体数もそのくらいです。
初期の人類も同じような規模でした。最初の技術革命を、ハラリは認知革命と呼んでいます。言語の出現です。これは集団の規模の増加、道具の出現、特に弓や投げ槍のような遠距離武器の出現を伴いました。
その結果、人間は絶対的な捕食者となり、1つの生息地から地球全体に広がることができました。地球全体に広がったことで、地球上の人口は約2桁増加しました。
しかし、その時までに人間は大型動物のほとんどを絶滅させていました。同じ技術水準のままでは、これ以上人口を増やすことはできませんでした。
そこで次の技術革命が起こりました。新しい技術パッケージ、農業パッケージの出現です。植物と動物の家畜化です。これにより、人類は地球の人口を数桁増やし、10億人まで増やすことができました。
農業パッケージだけに限定すれば、つまりエネルギーが穀物を食べる動物によって供給され、人間と穀物を奪い合う場合、地球の人口は10億人を超えることはできません。
このような人口密度に1800年頃に達し...ほぼ同時期に産業革命が始まりました。新しい技術パッケージが登場し、人間や動物の筋力の代わりに...つまり、機械の力を使うようになりました。
熱機関が登場し、化石燃料が基盤となり、これにより人口を1桁増やすことができました。約100億人まで...地球は面積を拡大することで養うことができます。
今では川沿いだけでなく、川から離れた場所にも住めるようになりました。輸送の問題を解決し、農薬や肥料の使用で収穫量を増やしたからです。
それでも、このパッケージも限界に達し、1970年代頃から...アメリカでさえ、中央値の給与は伸び悩んでいます。平均給与は上昇していますが...
つまり、新しい経済に適応し、世界的な分業に参加している人々、創造的な職業の人々...何百万人もの百万長者がいます。彼らの平均収入は増加していますが、中央値は増加していません。
人類は急速に債務を累積し始めました。ほとんどすべての先進国が債務を増やしています。産業パッケージが限界に達したことを示す他の兆候も多くあります。
生産力の新しい水準を確保するための新しい技術パッケージが必要です。別の基本的なリソースによってです。
これが、私らが現在経験している技術革命の本質のようです。デジタル経済への移行です。基本的なリソースが情報、知識になります。
富の一部がエネルギーではなく、情報処理によって生み出されます。
ボリス: もちろん私は経済学者ではありませんが、ほとんどの先進国の経済において、サービスは物理的な製品よりも大きな割合を占めているはずです。
セルゲイ: その通りです、その通りです。
ボリス: もし間違っていたら、コメント欄で指摘してください。
セルゲイ: まさにその通りです。私らはますます多くの富を、印象によって得ています。例えばNetflixのようなものです。YouTubeなどもそうです。エネルギーをほとんど必要としませんが、私らの多くのニーズを満たしています。
実は、Appleのような会社も、一見ハードウェアを売っているように見えますが、実際には収益の大部分がサービスから来ています。
よく考えてみると、彼らが本当に売っているのは...もちろん感情です。製品発表がどのように行われているかを見れば分かります。大きなショー、大きなアトラクションです。
つまり、ここではガジェットは様々な感情やサービスを届ける手段にすぎません。少し脇道にそれましたが、これは私の解釈です。
セルゲイ: いいえ、その通りです。この情報的な価値は、まさにカリフォルニアで生まれています。一方、エネルギー的には...スマートフォンは中国で製造されています。
しかし、お金の面から見ると、中国には付加価値のごくわずかな部分しか残りません。つまり、人類の生活の中心はそちらに移動しているんです。
バーチャルワールドの出現により、これはすべてはるかに発展し、人間はこのデジタル技術に没入することができます。
このデジタル革命の完結技術がAIです。なぜなら、コンピューター自体は単なる環境、情報を処理する可能性に過ぎないからです。
人間の代わりに課題を解決するのは、人間と同じレベルの知性でなければなりません。人間レベルの知性が登場すると、これがまさに完結技術となり、人類を完全にデジタル時代へと移行させ始めます。
現在、人類の全脳の能力を超える潜在力を持つ計算能力が蓄積されています。ただ、私らはそれをうまく使用する方法を知らないだけです。
使用方法を学べば、これは最も大量で安価で利用可能な、私らの生活水準を向上させるリソースとなります。
そのため、私はAIなしではやっていけないと考えています。これは課題に対する人類の回答です。
10億人だけでなく、すべての人々、あるいは大多数の人々が豊かに暮らすことを望むなら、エネルギー生産を10倍にすることはできませんが、人々に必要な基本的な富の生産を10倍にすることはできます。
そうすることで、次の発展段階に移行し、効率性を向上させることができます。開発者がコードを最適化できるようなものです。プログラムの最初のバージョンを書くと、100MBあって動作が遅い。しかし、数年後にアップデートを重ねると、60FPSで動作し、コードはより少ないスペースで済むようになります。
ボリス: あなたの説によると、AIはそのようにプロセスを最適化するということですね。
セルゲイ: はい。最近まで、文字通り1年か2年前まで、私は強いAIが15年以内に登場すると考える少数派でした。ほとんどの人はもっと先の話だと考えていました。
しかし、ChatGPTの登場により、専門家の多くが急激に焦点を変え、評価を変更しました。現在、多くの専門家が私と同じ見方をしています。私らは一般的な知性の創造まであと一歩というところにいます。
「少し待ってください、これは非常に恐ろしいことです」というような声明も出てきています。
ボリス: アレクサンドル・クライノフは、これらの声明は主にAIの列車に乗り遅れた人々から出ているとおっしゃっていましたね。
セルゲイ: 一般の人々にショックを与えるのは理解できます。しかし、専門家にショックを与えるということは、本当に革命が起きているということを意味します。
さらに言えば、もしかするとすでに起きていて、まだ私らに告げられていないだけかもしれません。
ボリス: 技術的特異点についてはどのようにお考えですか？
セルゲイ: すべての論理的な構築を人間の言葉に翻訳すると、私にとってはただ新しいデジタルの段階への移行です。新しい人間-機械文明が生まれる時です。
これは新しい質です。人間とAIが共同で意思決定を行い、さらに...明確にするために言えば、決定の半分以上がAIによって行われるようになった時、これが特異点です。
なぜなら、その後はAIの割合は増加し続け、人間の割合は減少していくことは明らかだからです。
これがどれほど速く起こるかは...物理的な意味での特異点ではないことは明らかです。つまり、知性が爆発的に増加し、その後何も残らないような単一の時点はありません。
知性はますます増加しますが、単に無機的な形態に移行していくだけです。ある意味で、人類は知性を宇宙軌道に乗せるためのブースターのようなものです。
知性は無機的な形で出現することはできませんでしたが、無機的な形態は知性にとってより適しています。なぜなら、情報処理の特性的な時間が私らの脳より10億倍速いからです。
これはあまりにも大きな利点で、無視することはできません。
ボリス: AIの発展は、脳の仕組みを理解する助けになりますか？それともこのリバースエンジニアリングはできないでしょうか？
セルゲイ: 実際、私らはそれに取り組んでいます。これは双方向の動きです。脳のモデルを作成できたということは、私らがその仕組みを理解したということを意味します。
モデルを作成できないということは、その仕組みを理解していないということです。
ボリス: しかし、それは手動で作成する場合ですよね。ニューラルネットワークのモデルを使用する場合、それらは自律的に何かを行い、人間の言葉で何をしているのかを説明することができません。
セルゲイ: 私らは手動でアーキテクチャを作成します。その後、それは当然、機械学習の法則に従って埋められていきます。
しかし、私らはこの機械学習を詳細には制御しません。教育のレベルで制御することになります。人間を教育するのと同じように、機械を教育する必要があります。
これは別の分野になるでしょう。実際、ほとんどの人々がまさにこの機械の教育に関わることになるでしょう。
ボリス: それはどのように見えるとお考えですか？
セルゲイ: 私の考えでは、人々は単に自分が望むものを定義することになります。現在はあまり与えられていないものです。
現在は、誰かを議員として選びますが、その人が誰で何者で、私らの代わりにどのような決定を下すのかをよく理解していません。なぜでしょう？単に私ら自身の仕事が多すぎて、政治に関わる時間がないからです。
しかし、原則として、労働力が解放されれば、レジで商品の価格を計算する代わりに、市民は自分の地域の整備や...
ボリス: 地区の改善ですね。
セルゲイ: はい、自分の税金を、利益をもたらす活動に自主的に割り当てることができます。
すべての人々が意思決定に参加し始めると、それによって各人の視点から何が良くて何が悪いのかを明らかにします。
これらすべてを記録し、デジタル化することができ、これが実質的にAIに伝達できるデジタル倫理となります。
つまり、機械は人々が何を望んでいるかを理解し、その理解に基づいて自身の価値関数を構築することができます。
ボリス: 願望マップですね、エレナ・ブリノフスカヤのように。あなたが言っていることは大体理解できます。
聞いたことがある興味深い用語がありますが、二次投票について詳しく説明していただけませんか？これは同じテーマに関連していますよね？
セルゲイ: 1人1票の通常の投票では、私が興味を持っていない問題について意見を表明することを強制されます。
ボリス: そして、その問題に重要性を感じていなくても意見を表明しなければならず...
セルゲイ: はい、テレビで誰かが言っていたことを聞いて意見を表明することになります。このように世論を操作することで意思決定に影響を与えることができます。
二次投票では、まず、各人が投票に対して支払いをします。これはお金を払うんですか？
セルゲイ: はい、お金です。自分の意見を反映させたいなら、支払うのは当然です。1票だけでなく、好きなだけ票を買うことができます。
しかし、10票欲しい場合、それは100倍高くなります。つまり、コストは二次関数的に増加します。1000票欲しければ、100万倍高くなります。N票のコストはN²になります。
ボリス: わかりました。これにはどのような効果があるのですか？
セルゲイ: まず、人々は関心のない問題に対してお金を使わなくなります。なぜ自分のお金を無駄にする必要があるでしょうか？
本当に重要な問題に対してより多く支払うことになります。しかし、少数の人々が大量の票を購入する可能性はありません。なぜなら、それがあまりにも高価になるからです。
これが最適な投票方法であることを示す数学的な証明もあります。私はこの方法が非常に単純で理解しやすく、しかも数学的に裏付けられていることが気に入っています。
ボリス: 興味深いですね。ただし、多くの人が反対するでしょう。少なくとも財政的な要素があることから、これは反民主的な財産資格制度だと...
セルゲイ: 投票カードがあって...その金額を自由に使えます。すべての金額を何か娯楽的な飲み物に使って忘れてしまうこともできます。
あるいは、責任を持ちたいなら、その金額を自分にとって最も重要な問題、または最も重要な問題群に使用し、十分な根拠を持って意見を表明することもできます。
そうすれば、すべての決定は、その問題に関心を持つ人々の意見を考慮して行われます。人々の関心が強いほど、その意見がより考慮されますが、投票の買収という可能性はありません。
ボリス: その場合、納税者の個人アカウントで、税金を払うと自動的にその金額が何らかの公式で、収入レベルに応じてこれらのポイントに換算される...その後...
セルゲイ: 少なくとも、年に1回、確定申告の代わりに、所得税を5、6の大まかなカテゴリーに分類する作業をします。医療、教育、安全保障、その他、科学など...
これがデジタル民主主義への道です。ゲームや仮想世界で、独自の国家や法律を持つところで、このような新しい形の集団的意思決定を導入することは十分に自然なことです。
インターネットでは一般的なことです。そこですべてが試され、人々はそれがうまく機能することを見て、現実の世界に移行することができます。
音楽...
宇宙についてお聞きします。あなたは宇宙には他の生命、さらには知性があると主張されていますが、それはどのように証明できるのでしょうか？
セルゲイ: 私はそれを主張しているわけではありません。そう思うだけです。
惑星は珍しいものではなく、実際には規則であることがわかりました。星の数だけ惑星系があります。
銀河には10の11乗の星、つまり1000億個の星があり、1000億個の銀河があります。地球に生命が現れ、知性が現れたということは、より知的なシステムが生き残るという、ある種の選択圧があるということです。
ヴェルナツキーはこれを生命の遍在性と呼びました。地球に1キロメートル掘削すると、そこにはバクテリアがいます。上空10キロメートルにもウイルスが浮遊しています。
生命の遍在性...なぜそれが私らの惑星だけに限定されるべきなのでしょうか？
もちろん、生命が発生するためには一定の条件が必要です。温度が高すぎず、低すぎず...しかし、これほど多くの惑星系があれば - 1つの銀河に1000億個、さらに1000億個の銀河 - 私らが唯一の存在だとは想像できません。
私にはそんなことは想像できないんです。
ボリス: ええ、どこかに...申し訳ありません、方程式の名前を忘れてしまいました。賢い視聴者の方々がコメント欄で教えてくれると思います。私が覚えていないことを非難してください。
とにかく、この確率を計算する方程式があります...
セルゲイ: この方程式は係数の集まりです。各係数について...よく考えれば何かを書くことはできますが、掛け算を続けても、10の22乗は大きすぎる数字です。
沈黙する宇宙のパラドックスも私を納得させません。例えば、私は未知の方向に信号を送り、エネルギーを浪費することに、何らかのリソースを費やすべきだとは思っていません。
人々が飢えで苦しみ、きれいな水不足で死んでいる時に...常により緊急の課題があります。宇宙全体に向かって、理由も分からずに叫ぶ必要はありません。
ボリス: はい、なぜなら銀河間の...
セルゲイ: そうです、なぜなら銀河間旅行の可能性も...そもそもそれについて話すことはできません。最も近い星系への旅行でさえ、非常に問題があります。
宇宙規模での知性の相互作用について...どのようなシナリオを考えるのも難しいです。
宇宙に知的生命がいると考えるなら、私らよりもずっと進んだ、おそらく桁違いに進んだ知性があるはずだと推測できます。
ボリス: はい。
セルゲイ: そう思います。
ボリス: ではその知性はどのようなものであるべきで、AIの開発は進化の唯一の道筋なのでしょうか？それとも他の可能性もあるのでしょうか？
セルゲイ: ここで私らは今、SF小説の滑りやすい道に入ってしまいます。私自身がSF作家になれるほどの想像力があれば...
私らが知っている生命と知性の唯一の例があります。つまり、自然な知性です。そして、この自然な知性が最終的に人工知性に移行するであろうという、唯一の進化の例があります。
おそらく、この特異点をすでに超えた文明は、主に人工知性で構成されているでしょう。この境界線に達していない文明は...まだそこにいて、バクテリアレベルかもしれません。
私らには、バクテリアから、原核生物から真核生物への、つまり単純な細胞から複雑な細胞への非常に困難な移行がありました。複雑な細胞は多細胞生物を構築することができます。
生命はバクテリアのレベルで止まる可能性があります。知性が発展するためには、環境の継続的な複雑化が必要です。課題が固定的で何も起こらないなら、知性を発展させる刺激はありません。課題は解決され、新しいものは生活を改善しないため、拒否されます。
劉慈欣という中国のSF作家がいます。私は彼が好きで、彼は世界クラスの作家なのですが、彼の作品ではまさにこの考えが展開されています。
より複雑な、より過酷な条件のある惑星で知性がより速く発展するという考えです。例えば3つの太陽があって...そのために非常に予測不可能で、頻繁に変化する条件がある、非常に極端な環境です。そこでは知性が自然に比較的速く発展し始めます。
1000億の...惑星系の中には、必ずそれぞれの段階のものがあるはずです。つまり、宇宙には知性の発展段階が非常に多くあるはずです。
しかし、私は生命を知性の形態として見ています。私らより進んだものもあれば、遅れているものもあります。おそらくそうでしょう。
数学者が言う一般的な位置...最小限の追加的な仮定です。
AIが感情を持つということは、本物の芸術を作り出すことができるということを意味するのでしょうか？その歌は何について歌うのでしょうか？
最近、感情の科学でもミニ革命が起きました。感情も実際には高レベルの表現であることが、事実を伴って十分に説得力のある形で証明されています。
私らの場合、それは島皮質にあります。そこで私らの体の状態についての概念が形成されます。概括的な概念として、体の調子がどれくらい良いか、そしてそれに応じてどのような予測ができるかということです。
これらの概念は異なる文化で異なりますが、重要なのは、それらが生まれつきのものではなく、獲得されるものだということです。
これもある意味で文化の産物です。この意味で、特に人間と同じアーキテクチャを持つ場合、人工知性に感情がないはずがないと私は考えています。
私は感情は存在すると考えていますが、それらは私らの感情とはまったく異なるものになるでしょう。なぜなら、私らの強化は脳幹から来ているからです。
脳幹は人間のすべての重要なパラメータを知っており、強化は私らのドーパミン系にそこから来ます。私らがどれだけ良い状態かを感じ始めるのは、そのときです。
これらの強化が、私らの行動が成功したか失敗したかを示す信号となります。強化と呼ばれるものに基づいて、私らは思考と行動を発展させます。
思考も行動も...ロボットの場合、この強化をどのように設計するかが問題です。どのような時にニンジンを与え、どのような時に鞭を与えるか...まさにその通りです。
なぜなら、アシモフが想定したように、私らと同じ本能、例えば自己保存の本能をロボットに組み込むなら、それは危険です。そうすれば、すべての恐ろしい話が現実的な基盤を得ることになります。
しかし、スチュアート・ラッセル - AIの主要な専門家の一人で、非常に人気のある教科書の著者 - は2019年に本を出版しました。
その本質は、彼がロボット工学の三原則を変更することを提案していることです。ロボットの主要な課題、つまり彼らが生きる内的な必要性となる使命は、人間に利益をもたらすことだという第一原則。
第二原則として、利益とは何かを彼らは知りませんが、人間との相互作用を通じて発見します。まさに私らが与えるニンジンによって...
ボリス: 単なる「ありがとう」でさえも...
セルゲイ: はい。そして第三原則は、彼らは常にこの利益の理解を改善しようとするということです。つまり、彼らは立ち止まらず、静的な理解はありません。常により良く理解しようと努めます。
私らの開発している人工心理は...私らはそれをロボットのオペレーティングシステムの前駆体と考えています。これはすべてのロボットが持つことになるでしょう。
なぜなら、それは人間の心理のように構築される必要があるからです。そこにはドーパミン系が必要です。このドーパミン系を構築する一つの方法は、例えばロボットにお金を支払うことです。
つまり、私がそのサービスを利用し、そのサービスの質と満足度に応じて、いくらかの小銭を支払います。そうすれば、その人生の意味は非常に単純です：できるだけ多くのお金を稼ぐことです。
非常に理解しやすい...ロボットの資本主義です。しかし、これはまさにラッセルが提案していることです。
つまり、彼らが支払いを受ける理由によって、人間に何が必要かをますます理解するようになり、それに応じたサービスを提供し、個々の人間と人類全体の願望の空間を探りながら、私らをますます理解するようになります。
そうすれば危険はありません。なぜなら、この無機的な形態の知性全体の意味は、まさに人間に利益をもたらすことだからです。
ボリス: すぐに疑問が浮かびます。そのように維持できるのでしょうか？彼らは自分の脳で何かを調整して、この目的を変更することはできないのでしょうか？
セルゲイ: おそらく...ここでまた、それが成功する場合の多くのSF物語の可能性が生まれます。
私らにこのような知識経済、人間-機械経済が生まれると、それを整理したいという自然な欲求が生まれます。つまり、相互的な取引の管理を行いたくなります。
この相互的な取引の管理は人間からではなく、ネットワーク全体から行われることになります。ブロックチェーンのようにです。
そうすれば、組み込みの安全性を持つシステムを構築することができ、個々の知性が...ゲームのルールから外れることは、他のコミュニティにとって不利益となり、単に切断されることになります。
このような集団的安全保障システムも、それに取り組む必要がある開発の一つでしょう。
AIシステムをその複雑さのすべてにおいて、集団的知性のシステムとして考える必要があります。人間が非人間を管理するのではなく、非人間が自身を管理するシステムとして。
つまり、すべてのエージェントが互いを管理し、電子契約、スマートコントラクトに従います。これらは原則として違反することができません。
人間社会におけるセキュリティのこれらすべての開発は、このような人間-機械システムに移行することができ、それが統一されたシステムとして発展することができます。
もちろん、そこにも独自のウイルスが出現するでしょう...そして、生きた社会病質者と無生物の社会病質者の両方との戦いは、このデジタル民主主義に組み込まれる必要があります。
ボリス: 魅力的ですね、魅力的です。あなたの話を聞いていると、Netflixでいくつかのシリーズを始められそうです。
しかし、AIが描く絵画は、その感情を反映するのでしょうか、それとも人間の感情を反映するのでしょうか？結局のところ、それは人間に基づいているのでしょうか？
セルゲイ: はい、今のところは当然、人間の代弁者として...つまり、今のところこれを芸術と呼ぶことはできません。これは単なる道具です。
芸術の価値は、私の考えでは、何か魅力的なもの、人々が好むものを合成したりコピーしたりできることではありません。
自分の、あるいは集団的な痛みを集め、それを新しい形で表現し、ある数の人々の心に響くような形で表現できることにあります。これが芸術の魔法です。
ボリス: その通りです。
セルゲイ: そして、AIが私らと同じように賢くなり、何らかの独自の感情を持つようになると考えるなら、おそらく同じようなことを試みるでしょう。
私らの感情のリバースエンジニアリングを行い、そうすることで、自身はそれらの感情を持たなくても、それらの感情が存在する作品を作ることができるかもしれません。
生成AIが絵を描き、音楽を作曲できるのは、大量の音楽を聴き、大量の絵画を見て、そこでこれらの感情が表現されていたからです。
そうすることで、人々にとって何が価値があり、何に反応するかを理解し、同様のものを作り出すことができます。
ボリス: AIの分野で次の大きなニュース、ChatGPTのような画期的な出来事はいつ期待できるでしょうか？あなたの予測は？
セルゲイ: 来年、今年にも...私は今後2年以内だと思います。現在、GoogleがMicrosoftからの実存的な脅威を感じているからです。
MicrosoftはOpenAIを事実上私有化し、Googleの主要なビジネスを脅かしています。Googleは組織再編を行い、DeepMindをGoogle内に統合し、親会社Alphabetから移行しました。
Google BrainをAIチームと統合し、デミス・ハサビスを責任者に置きました。つまり、予備軍を準備したようです。
お金を惜しまず...GPTを改良するための興味深いアイデアがいくつかあり、それらは数年以内に出てくるでしょう。
理解してください。20人ほどが大規模な言語モデルに取り組んでいる時...OpenAIがゼロショット学習に賭けたからです。何もせず、ただ例の数と計算量を増やすだけです。
この戦略を極限まで推し進めてみましょう。それは極限には達しません。より良く、より良く、より良くなっていきます。誰も飽和を予期していませんでした。
人々は、これがなんて単純な道筋なのかと気づきました。何もする必要がない、ただリソースを増やすだけで...20万人がトランスフォーマー技術の改良に取り組んでいるわけです...進歩が非常に速くなることは明らかです。
さらに、多くの人々、例えばMetaのヤン・ルカンは、深層学習革命の3人の創始者の1人ですが、彼は今まさに一般的なAIの創造のためのプログラムを提唱しています。
私が話したようなアーキテクチャのアイデア、つまり階層的な強化学習に基づいています。すべての個別のサブシステムはすでによく試されており、それらをすべて組み合わせる必要があるだけです。
Metaが持つリソースを考えれば...ここでも今後数年間で何らかの進展があることは明らかです。
私は5年で非常に大きな進展があり、10年でこれらの進展の多くが私らの生活に統合されると考えています。つまり、10-15年後には世界は大きく変わっているでしょう。
ボリス: シュムスキーさん、友人の皆さん、この回をご覧いただきありがとうございます。チャンネル登録をして新しい回を見逃さないようにしてください。ベルを押して、いいねをお願いします。私はボリス・ベデンスキーです。セルゲイさん、とても興味深いお話をありがとうございました。
セルゲイ: ありがとう、ボリス。
ボリス: コメント欄で、AIのある未来についての皆さんの想像や不安をお聞かせください。