【DeepL翻訳】デミス・ハサビス：インタビュー - DeepMind

DeepMind創業者デミス・ハサビスのインタビュー動画をDeepLで翻訳しました。

Apple Podcastsの「New and Noteworthy」に選ばれ、高い評価を受けて賞にノミネートされた「DeepMind.The Podcast」のファーストシーズンは、人工知能（AI）の魅力的な世界を探求しています。The Podcast」は、人工知能（AI）の魅力的な世界を探求しています。数学者であり放送作家でもあるハンナ・フライが、世界的な科学者や思想家と出会い、AIの基礎を説明し、この分野が取り組んでいる課題を探り、AlphaGoやAlphaFoldなどの画期的な進歩をもたらした研究に飛び込んでいきます。初心者の方も、経験豊富な研究者の方も、AIの過去、現在、未来を探る旅に参加してみてください。

第1シーズンの最終回では、ハンナがDeepMindのCEO兼共同創設者のデミス・ハサビスに会い、DeepMindのインスピレーション、基盤、野望を明らかにします。

この特別拡大エピソードでは、チェスプレイヤー、ゲームデザイナー、神経科学者としての彼の前世と、チェスへの愛がVCからの資金調達につながった経緯について掘り下げています。また、将来のビジョンや、なぜAIが彼を夜眠らせないのかについても語っています。

"科学という未知の世界で暗中模索している時、どんな道標も本当に貴重で、脳は宇宙で唯一、知性が可能であるという存在証明なのです。"

ハンナ: さて、DeepMindポッドキャストのこのシリーズも最終回となりました。私の名前はハンナ・フライです。数学者であり 人工知能に深く興味を抱いている者です。ここまで来たからには、あなたと同じようなものでしょう。さて、私たちはこのシリーズで大きな疑問と戯れてきました。知能とは何なのか？アルゴリズムはどのように学習するのか？そして、AIの未来に到達したら、どうすればいいのか？そして、ここDeepMindの科学者とエンジニアのチームに、現状と今後の方向性について見解を求めてきました。しかし、この最終回では、DeepMindの共同創設者兼CEOであるデミス・ハサビスにインタビューし、これらの疑問やその他の点について彼の意見を聞く機会を得ました。デミス・ハサビスは、1970年代のノースロンドンで育ちました。13歳までにチェスの世界ランキングで同年代2位となる。16歳のとき、ゲームデザイナーとして働きました。「テーマパーク」を覚えていますか？それが彼だった。その後、コンピュータサイエンス、神経科学を学び、共同創業者のシェーン・レッグとムスタファ・スレイマンとともにディープマインドを設立した。彼の業績は、猛烈に威圧的である。しかし、『タイムズ』紙の記事にあるように、デミスは社会的に欠落した存在であるという潔さすら持ち合わせていないのだ。しかし、これらのことから、デミスが計画的な人物であるように思われるとしたら、それは正しいことです。

デミス：私は、ずっと以前からAIを研究するDeepMindのような会社を作ることを念頭に置いていましたので、そのようなものを作るチャンスを得るためには何が必要か、どんなスキルが必要か、どんな経験が必要かという最終状態から逆算していました。

ハンナ：チェス、神経科学、ゲームデザインなど、あなたの人生のさまざまな側面は、切り離されたものではなく、より大きな絵のために構築されているのですね。

デミス：そうなんです。ケンブリッジ大学ではコンピュータサイエンスを、UCLでは認知神経科学を学びました。コンピュータサイエンスと神経科学の要素を融合させたいと思ったからです。ゲームから学んだもうひとつのことは、手持ちの資産を余すところなく使うことです。ゲームでは、チェスなら盤上に残っているチェスの駒のように、常に限られた資源しか持っていませんから、ゲームについて考えるひとつの方法は、手持ちの資産を最大限に活用することです。だから、私はゲームを使うことに偏っていたのかもしれません。でも、AIを作るには、それが論理的な方法だとも思っていました。

ハンナ 博士号は何だったのですか？

デミス 認知神経科学を選んだ理由は、脳が特定の認知機能をどのように行うかをもっと理解したかったからです。そうすれば、脳の働きに基づいて、新しいタイプのアルゴリズムに着想を得ることができるかもしれません。AIでどうやるかわからない機能を選ぶのはいい考えです。私はUCLのエレノア・マグワイアのところで勉強しました。彼女は記憶に重要な海馬の世界的な専門家の一人です。でも、私が本当に見たいのは想像力なんです、と言いました。想像力は計画立案に役立ちますが、創造性にも役立ちます。私がこのことに興味を持ったのは、もちろん、想像力は人間の知能にとって非常に重要な部分であり、私のゲームデザインのキャリアでもたくさん使ってきたものだからです。だから、ビジュアライゼーションのテクニックをたくさん使って、「テーマパーク」のようなゲームをプレイヤーが直感的にどうプレイするかを想像し、それをプログラミングする前に、頭の中で、あるいはスケッチで、何かを変えようとしたんです。私たちは、自分の身に起こったことを明晰に記憶するのと同じようなプロセスを使っていると感じたので、想像と記憶の両方に使われている、心のシミュレーションエンジンのようなものと関係があるのではないかと思い、博士課程で研究したいと思いました。そして、海馬がこの2つのタイプの機能の中核を担っているという、非常に重要な発見をすることになったのです。海馬は記憶にとって重要であることはすでに知られていますが、想像力にとっても重要なのです。海馬がなければ鮮明に想像することはできませんから、結局この重要なことを発見し、その後、私たちがAIでやろうとしていることの多くの核心は、記憶力と想像力の能力をAIシステムに組み込むことであり、現在もそれを続けています。

ハンナ そのようなアイデアを持ち込んでAIに実装しようとするとき、脳が行っていることをそのままコピーするのと、インスピレーションとして利用するのと、どこでバランスを取るのでしょうか？

デミス：科学という未知の世界で暗中模索しているとき、これは非常に重要な道標です。どんな道標でも本当に価値があります。ですから、AIを構築するための情報源として、脳を無視するのはおかしいと常に感じていました。1つは、脳が使用するアルゴリズムや表現へのアーキテクチャに関する新しいアイデアのインスピレーションを得るためです。そして、そこから新しいタイプのアルゴリズムのヒントを得ることができるのです。もうひとつは、神経科学を利用した検証です。強化学習のような学習システムを構築する方法について、工学や数学から来たアイデアがすでにあるかもしれません。しかし、90年代に脳も強化学習の一種を実装していることが分かりました。研究でも工学でも、最初からうまくいくことはないのですが、今すぐうまくいかなくても、もっと頑張る価値があるということです。とはいえ、AIの専門家や神経科学者の中には、神経細胞レベルで脳を完全にコピーする必要があるという考え方もあります。私たちが求めているのは、システム神経科学と呼ばれるアプローチで、脳が使っているアルゴリズムやアーキテクチャに関心を持つことです。というのも、コンピュータのようなシリコンシステムと、私たちの心のような炭素ベースのシステムでは、実装の詳細が異なる可能性が高いと思うからです。私たちの心のような炭素ベースのシステムとは異なる長所と短所を持つことになるシリコンベースのシステムで、まったく同じ実装の詳細を実装すると考える理由はないでしょう。

Hannah: 通常、技術系のスタートアップには顧客がいて、製品がありますが、ここはどちらかというとスタートアップの研究施設という感じですね。

デミス：そうです。

Hannah: どのようにして、このようなものを軌道に乗せるのでしょうか？

Demis: かなり難しいです。つまり、あなたの言う通り、とても変わった会社なんです。シリコンバレーのような最高のスタートアップ企業に見られるような集中力、エネルギー、ペースがあります。青空思考、非常に優秀な人材、長期的で大きな研究課題に取り組み、常に未知の世界に足を踏み入れていること。その多くは、組織的な側面や、ペースが思うように上がらないことです。しかし、私はアカデミアにいたとき、博士課程に戻る前にすでにいくつかのスタートアップ企業を立ち上げて関わっていたので、両方の側面を経験しており、これらが相互に排他的な環境であるべき理由はないと感じていました。しかし、一般的には、両者はまったく異なる、ほとんど正反対の環境として扱われてきました。しかし、私は、この2つの世界の良いところをうまく取り出せば、ある種のハイブリッドな組織にすることができると思いました。それがDeepMindだと思うのですが、それを成し遂げた人はあまりいません。おそらく組織として、私たちは科学的な成果を示してきたと思います。通常の尺度、ネイチャーやサイエンスの論文など、通常の学術研究所が評価するようなもので測っても、私たちは非常に成功しています。また、その一方で、AlphaGoのように、多くの工学的努力を必要とする、本当に大きなブレークスルーを生み出すことができたと思います。これは学術機関では、通常の、つまり小さな学術研究所では非常に難しいだろうと思われます。

Hannah: DeepMindが少し変わっているのは、研究成果を公表していることでしょう。つまり、他の企業はあまりこのようなことをしません。多くの企業が、なぜ私たちがそんなことをするのかと不思議に思っているようですが、他の多くの企業は必ずしもそうしていないからです。私たちは、それが科学的言説の一部であり、科学を行う正しい方法であると信じています。私たちは、科学におけるゴールドスタンダードである同業者による最高レベルの精査を受けることができる、ピアレビュージャーナルのようなものを本当に信じています。ですから、私たちは「ネイチャー」や「サイエンス」といった一流誌で論文を発表しています。私たちの論文の中には、過去2〜3年の間に5,000回以上引用されたものもあり、世界で最も引用された論文の一つです。しかし、これには興味深い側面もあります。1つは競争的な側面で、誰よりも速いペースで技術革新を続ける必要があると感じています。それが最も重要なことで、すでに革新したアイデアを持ち続けようとしないことです。同じペースで、同じレベルのイノベーションを続けていれば、出版する頃には、1つか2つ、さらに先のアイデアを持っているはずですから、それが競合他社に対する最大の防御になると思います。

Hannah: 初期の頃、つまり2009年から2010年にかけては、AIが今ほど話題になっていなかった頃ですが、人々の注目を集めるのは難しいと感じていましたか？

デミス： はい。10年前は、AIに投資する人など誰もいなかったのですから。実際、お金を得るのは不可能なことでした。誰も投資してくれませんでしたし、今でも、ディープテクノロジーやサイエンスベースのスタートアップと呼ばれるものには、非常に難しいですよね？明確な製品があるわけでもないのに。私たちが基本的に言っていたのは、この驚異的な汎用技術を作り、それがより強力になれば、無数のものに応用できるはずだ、ということです。でも、普通の投資家にとっては、かなり突飛な話に聞こえるかもしれませんね。それこそ、学問のためではないか、という感じでしたね。もし、それが青天井の研究であり、いつ成功するかわからない、純粋な研究であるなら、もう10年間アカデミアでそれを続けて、成功したときに話をすればいいんです。でも、それでは遅すぎる。普通のベンチャーキャピタルは、ヨーロッパでもイギリスでも、3～5年以内に10倍のリターンを得たいと考えているはずです。そういう時間軸です。もちろん、研究開発型の企業にとっては、3年経ってもやっと軌道に乗ったとは言えないでしょう？ですから、1,000倍のリターンに興味があり、10年、いや20年でも待てるような投資家が必要で、そのような投資家は基本的にヨーロッパには存在しません。2010年当時は、確かにそうでした。シリコンバレーの自称億万長者たちは、そういう賭けに出るだけの資金力を持っていて、もしうまくいかなくても大丈夫なんです。しかし、彼らは個人的にもこの種の話題に関心があり、信じられないほど野心的なことがうまくいくのを目の当たりにしてきたのです。

Hannah: 話を戻しますが、さまざまな側面、情熱、すべてがうまく調和しているのですね。最初の資金を得るのに、チェスは関係なかったのですか？

デミス：ええ、そうです。チェスは、私の性格の核となる重要なもので、長い間プレイしてきましたから、私の思考プロセスの多くはチェスによって発達したと思います。でも、それは直接的に役立つこともありました。私たちが最初に話をした投資家の一人は、チェスプレイヤーで、アメリカではかなり強いジュニアチェスプレイヤーでした。というのも、私たちはシリコンバレーに何のツテもなく、私もカリフォルニアに知り合いはいませんでしたし、ShaneやMustafaもそうでした。それでようやく、この億万長者がスポンサーを務めるカンファレンスに招待してもらうことができました。そして、カンファレンス後のパーティーで彼に会うことになったのですが、問題は、何百人もの人がみんな彼に自分のアイデアを売り込もうとしていることです。だから、もしあなたがただ単に別のクレイジーなアイデアを売り込むだけなら、注目されることはまずないでしょう？だから、その代わりに、計算されたリスクを取って、代わりにチェスについて話してみようと思いました。なぜ、これほどまでに素晴らしいゲームに進化したのか。そして、その偉大な理由は何なのか？それは、ビショップとナイトの持つ創造的な緊張感のおかげだと私は考えています。ビショップとナイトは基本的に同じ価値--それぞれ3点ですが、まったく異なる力を持っています。この非対称性--ビショップとナイトがさまざまなポジションに入れ替わることで起こる、創造的な非対称性が、チェスを魅力あるゲームにしているのだと私は考えています。それで私は基本的にそのセリフで切り抜けました。どうやって飲み会の席でそんなことを言ったのかわかりませんが、そうしたら彼はちょっと立ち止まって考えてくれました。翌日には、私たちのビジネス・アイデアをきちんと売り込むために再び招待してくれたので、お酒を飲んで1分と言わず、30分も彼と話すことができました。つまり、チェスには2つのレベルがあると言えるでしょう。億万長者から資金を得るのは、実に簡単なことです。1年かけて彼らの興味を研究し、彼らの注意を引くような天才的なアイデアを思いついたら、実行に移すのです。

Demis: その後に、良いピッチをすることですね、簡単です。

Hannah: シンプルですね。とても簡単です。この建物で、そして実際にこのポッドキャストシリーズを通して何度も耳にするのが、DeepMindが人工知能を使ってあらゆることを解決しようとしていることです。ここで、彼らが実際に何を言いたいのか、尋ねてみましょう。知能が解明されたら、世界のあらゆる問題に対処する存在になりたいのでしょうか？

デミス：私がリストアップしたのは......この種の根源的な問題と思われる科学的な問題を10～数十個、作業リストにしたのですが、もしこれらをすべて解明できれば、社会はより良い方向に変化し、医学や科学のあらゆる分野でブレークスルーを遂げることができると感じているんです。

ハンナ デミスは、私たちが解明しなければならない重要なことは、再生可能でクリーンな、安価で豊富なエネルギーだと考えています。それが核融合であれ、常温超伝導体を使ったより優れたバッテリーやより優れたソーラーパネルであれ、それもまた問題を解決してくれるでしょう。材料科学的な解決策もあれば、物理学的な解決策もあり、そのすべてを解き明かす必要があります。世界の人口が増えれば増えるほど、その重要性は増していきますよね。多くのコミュニティ、特に貧しいコミュニティにとって、これは非常に大きな問題です。しかし、私たちにはすでに解決策があります。地球の70％は水ですが、それは塩水です。では、どうやって塩水を処理するのでしょうか？海水淡水化の技術はありますが、問題はエネルギーコストがかかりすぎることです。コストがかかりすぎるのです。イスラエルや他の国々ではこの方法で多くの水を得ていますが、貧しい国々ではコストがかかりすぎます。ですから、再生可能で安価なクリーンエネルギーの問題が解決されれば、水へのアクセスの問題も自動的に解決されるでしょう。なぜなら、実はそれが問題なのです。

ハンナ：では、水の唾液の問題が解決されたとき、あなたはどうありたいのですか？その物語の中で、あなたはどのように位置づけられるのでしょうか？

デミス: 核融合や材料科学の分野で、アルファゼロのようなシステムを使って、効率が50％高く、コストが現在の10分の1で、寿命が10倍も長いバッテリーを開発するなど、その解決策を見出すのに不可欠な存在になっていることを望んでいます。また、熱エネルギーを電気エネルギーに変換する効率が2倍になったソーラーパネル（太陽光発電材料）も開発しました。そうすれば、海水淡水化をどの地域でも実現できる可能性が出てきます。そのためには、海水淡水化技術そのものを改善する必要があり、私たちもそれに携わることができるかもしれません。でも、私たちは比較的小さな会社なので、これからも比較的小さな会社であり続けるでしょう。だから、私たちが取り組むソリューションは効率的でなければならないのです。少なくとも私の視点からは、合理的に、論理的に、何がベストなのかを考え、これまで何が起こったのか、この中で文明を見ると、少し奇妙な見方と言えるかもしれませんが、私はこれが正しい見方だと思います。

ハンナ：こちらはポッドキャストのDeepMindです。今日の科学で最も魅力的な分野の1つであるAIを紹介します。

デミス：私がいつも人々に言っているように、あなたの質問が何であれ、その答えはAIです。なぜなら、それはある種、限界に近いからです。というのも、これまでのところ、私たちがなぜここにいて、なぜ話しているのか、なぜこのような素晴らしいコンピュータやデバイスを使っているのかという答えは、知性、人間の知性、そして奇跡的だと思いますし、科学的手法のおかげだからです。もう一つの奇跡的なことは、科学的方法が有効であるという最大の発見だと思うのですが、啓蒙主義をご存知ですか？なぜ宇宙はそのように機能しなければならないのか、科学的方法が機能するということは、もう少しランダムであってもいいのではないか、そうすれば本当に混乱するのではないか、というような疑問を持たなければならない、ということです。太陽が昇るときと昇らないときがあったら、科学をやるのはかなり難しいでしょう。そうでしょう？全く同じ条件で実験を繰り返しても、何か違うことが起こることもあるんです。しかし、この世界はそのように機能していないように思えます。そして、信じられないほど不思議なことに、私たちの脳は狩猟採集のために進化してきたにもかかわらず、何とかそれに対処することができるのです-それ自体が奇跡のようなものです。だから、a.) そうした疑問に取り組みたいと思わないわけがありませんし、b.) それができることになぜ限界があるのでしょうか？

ハンナ：しかし、これらすべての究極の目標は、人工的な一般知能を作り出すことですが、それは正確に何を意味しているのでしょうか？

デミス: そうです。人工知能の定義に合意があるわけではありませんが、シェーンと私が考える人工知能は、幅広いタスクに対応できるシステムです。人間レベルの人工知能について考えるなら、人間ができる認知タスクの全範囲を、少なくとも人間と同じようにこなせるシステムのことを言います。これが人工知能の妥当な定義の一つでしょう。

ハンナ では、AGIの閾値とは何でしょうか？

デミス：それは哲学的な問題で、AGIの構築が完了したとどうすれば分かるのでしょうか？例えば、AIシステムがノーベル賞級の新しい科学的発見をしたときが、私にとって大きな分岐点となり、これらのシステムの能力において重要なステップになると思います。他にも大きなポイントがあるとすれば、言語が使えるようになり、自然な形で私たちと会話ができるようになったときでしょう。これらはすべて、私たちがまだ到達していない高度な認知能力だと思いますが、その道しるべとなるものだと思います。

ハンナ このようなことが可能になると確信されたのはいつですか？

デミス：10代前半の頃からこのことを意識していました。おそらくSFの読みすぎだったのでしょう。興味深いのは、アシモフの「ファウンデーション」シリーズで、ロボット工学の本は読んでいませんが、「ファウンデーション」シリーズは本当に素晴らしいSF小説でした。ホフスタッターの『ゴーデル、エッシャー、バッハ』も読みました。哲学書というより、数学に関するゲーデルの不完全性定理と、エッシャーの絵やバッハのフーガを結びつけて、それらがすべて何らかの形で関連していること、パターンの反復サイクル、それらがすべて示す無限パターンを示している、驚くべき作品です。そして彼はそれを意識と知能に結びつけました。私にとっては本当に刺激的で これらの深い疑問について考えさせられました。一緒にゲームを書いていた多くの友人と このことについて議論しました。私たちは24時間365日ゲームを書いていました。もしAIをゲームで使うだけでなく 実際に人間と同じレベルまで進化させることができたなら AIの限界について議論しました 彼らはただ限界があると感じていたのです。つまり、別の言い方をすれば、今日、私たちの周りを見渡せば、現代文明は信じられないほど発達していますが、現代文明を築いたのは、知性ですよね？もし私たちを1、2万年前、3万年前の狩猟採集時代に連れ戻し、いつかマンハッタンを建設し、ロンドンからマンハッタンまで747で雲の上を定期的に飛ぶと言ったら、あなたは何と言うでしょう、それは驚異的なことでしょう？なぜなら、人間の脳のもう一つの特徴は、信じられないほどの順応性があるからです。私たちは何かをするとすぐに、それが退屈で平凡なものになり、つまらないものになりますよね？でも、大西洋を横断する飛行機に乗るといつも思うのですが、猿の頭脳でどうやってこの種の技術を考え出したのか、信じられないくらいです。100トンの金属が雲の上を確実に飛行しているのです。そう考えると、もし私たちがAGIのようなものを作り、この素晴らしいツールで自分たちの能力を高めるとしたら、物理法則の範囲内ではほとんど何でも可能になり、おそらく物理法則を超えることさえあるかもしれない、と感じます。そう考えると、AGIのような技術がある状態で、さらに数百年先のことを考えると、AGIを使って何ができるかを考えると、私たちは本当に信じられないような状況になるのではないかと思います。

ハンナ：しかし、AGIの壮大な野望がいかに刺激的であっても、慎重に進める必要があるのも事実です。

デミス：私たちは、AGIを取り巻く技術的な問題、つまり、私たちが望むことを正確に実行させること、私たちの価値観をどのようにプログラムするか、私たちの目標をどのように特定するかなど、いくつかの問題を認識しています。ニック・ボストロムのような人々が心配しているAGIに関する理論的・技術的な疑問はすべて、私たちやシェーンが率いる安全チームが研究・技術的な観点からこうした疑問の多くに取り組んでおり、そこで行うべきことはまだまだたくさんあると思います。そして、今後10年、20年の間に、このようなことが起こってくると思います。

Hannah: 慎重に行動しても、そのとき目の前にある情報に基づいて可能な限り安全に行動しても、悪質な行為者を減らすことはできませんし、誰かがやってきてみんなのために台無しにするのを止めることはできません。そうでしょうか？

デミス：それを最小限に抑える方法はあると思います。今のところ、これらのシステムはまだ生まれたばかりの段階なので、慎重に考える必要があるでしょう。囲碁のような印象的なことはできますが、まだきちんとした汎用品ではありませんし、非常に危険なことや実社会で使うことはできないでしょう。しかし素晴らしいアルゴリズムを発表した場合 その間接的な影響について考えなければなりません。世界中の悪質な行為者などが あなたのアルゴリズムを 同意しないことに使う可能性があります。私たちはこの時間を使って どんな原則が必要かを考えなければなりません。それは慎重に考えられた規制なのか これらの問題に対する技術的解決策なのか 数学的証明なのかです。 私たちがここで行っているプロジェクトの1つは 「仮想脳分析プロジェクト」と呼んでいます 神経科学で行っていることにヒントを得ています。 FMRI装置で人が作業している時に脳をスキャンし 脳のどの部分が光っているのかを見て 脳が何をしているのかより良く理解できるようにします。それと同じことを仮想脳、人工神経ネットワークで行うべきなんです。このようなシステムには、行動的、実験的な理解と、数学的な理解の両方があると思います。どのようなコンポーネントが必要なのか？また、先ほどお話した出版物などについても、危険なアプリケーションが存在する状況下でも、情報や知識の自由な交換が可能かどうかを考えなければなりません。生物学では、合成生物学やウイルス、発生学、そしてCRISPRの設計で、このようなことが何度も起こってきました。

ハンナ 倫理と安全性という点で、ブランドテック業界の中でディープマインドはどのような位置づけにあるとお考えですか？

デミス：私たちは1つの会社に過ぎませんが、おそらく世界で最も大きなグループであり、間違いなく世界のリーダーの1つであり、そのように認識されています。そのため、模範を示すための強力なプラットフォームとなります。私たちはAIに関するパートナーシップの設立を支援しました。これは製品におけるこれらの問題のいくつかについて話し合うための業界横断的なイニシアチブです。私たちはまた多くの学術グループを後援してきました。ポスドクやこの問題を研究するための資金を提供しました。私たちはこれらの問題に取り組む多くの研究所と密接に連絡を取っています。オックスフォードのすぐそばにある人類の未来研究所などです 彼らとはいつも話をしています。そして私たち自身もディープマインドのリーダーとしてです 私たちは常に倫理について話してきましたし 常にそれを念頭に置いています。DeepMindの設立当初からそうしてきた理由は 成功のための計画を立てているからです。AIが行うべき野心的なことをすべて計画しているならば それが何を意味するかについても慎重に考える必要があります。だから私たちは裏で多くのことを行っています。そして一種の例となることで 他のみんなに影響を与えると私は思っています。今のところ技術的にリードしているからですが。技術的なリーダーでなければ、どのグループも同じようなことを言うかもしれません。国であれ、企業であれ、個人であれ、テーブルにつくためには、信頼性を高めるために、技術面の最前線に近いところにいなければならないのだと思います。

ハンナ 一般市民はこの中のどこに位置するのでしょうか。テクノロジー企業としての信頼が必要なのでしょうか、それとも、一般市民が全く参加しなくても、なんとなくやっていけるのでしょうか。

デミス：いいえ。この問題は、こうした技術的な事柄の多くが非常に複雑で、それを理解するには博士号が必要であるなど、一般の人たちが関与する必要があることです。しかし、基本的なことは簡単に理解できます。本当に理解しなければならないのは、その結果であり、社会は、先ほど言ったように、これらのものがどのように使われ、社会のさまざまな人々にどのように利益がもたらされるかを決め、それが公平であることを確認しなければならないのです。このポッドキャストシリーズのようなものがそうであるように、私たちは英国王立協会と共同で、昨年行った「あなたとAI」シリーズで、多くの市民参加を行いましたし、さらに多くのことを行わなければならないと思います。

ハンナ 将来については、楽観的ですか？

デミス: ええ、未来についてはとても楽観的です。なぜ楽観的かというと、AIがこの先やってくると思うからで、もし私たちがそれを正しい方法で作り、みんなのために正しい方法で展開すれば、人類が発明した中で最も素晴らしい変革のテクノロジーになると思うからです。そして、気候変動や持続可能性、不平等など、私たちが社会として直面しているいくつかの問題については、かなり悲観的になってしまうでしょう。これらは、今後数年で悪化していくと思います。そして、近い将来、AIのようなものが登場しなければ、私たちの解決能力について悲観的になってしまうでしょう。社会が抱える大きな問題や課題を解決するには 人間の行動を指数関数的に改善する必要があります。もっと協力し 利己主義を減らし 協力し合うか 技術を指数関数的に改善する必要があります。残念ながら今の政治の動きを見ていると 前者の証拠があまりありませんし 地球規模で気候問題に対処できるほど 早く行動を起こせるとは思えません。だから技術的解決に力を入れるしかないと思うんです。少なくともUmは、私たちは両方を試すべきですが、私たちは何らかの技術的な賭けが必要だと思います。

ハンナ：デミスの知識に対する飽くなき探究心に触発され、彼の未来に対するポジティブな考え方に引き込まれないわけにはいきませんね。楽観的すぎるマーケティングトークにはあまり興味がなく、技術系カンファレンスで自称未来学者を目の敵にするのが趣味のひとつですが、この1年、このあたりをうろうろしているうちに、AIの最先端では本当に特別なことが起きているんだという結論に達しましたね。50年もの間、遅々として進まなかったこの分野が、ついに成果を上げ始めているように感じます。ほんの数年前までは、誰もが手の届かないところにあると思っていた問題が、次々と解決に向かいつつあるのです。そして、ここでも、世界中の研究所でも、科学は驚異的なスピードで前進しているのです。そして、人々が取り組んでいる疑問は、深遠で重要なものです。この種の技術の潜在的な落とし穴や倫理的な懸念も含めてです。ですから、私はデミスと一緒に、未来とAIの可能性について楽観的に考えたいと思います。しかし、私の言葉を鵜呑みにするのではなく、このポッドキャストを通して述べてきたように、あなた自身のAIの旅に刺激を与え、もしかしたら最大の疑問に対する答えを見出すきっかけになればと思います。

デミス：私は第二の起業家であり、第一の科学者です。ただ、これを実現するのに適した手段だったので、生まれたようなものですが、もしアカデミアで実現できていたら、そのままアカデミアでやっていたでしょう、アカデミアの持つ制約下では不可能だったのです。だからこそ、Googleに会社を売却したのです。ミッションとサイエンスを加速させるのは何かということで、最終的に私が人生でやりたいことは、この宇宙で何が起こっているのかを理解することです。脳の中と、宇宙の外側の両方です。私たちの周りで起こっている、信じられないほど興味深く、魅力的な謎を理解したいという願望が、常に私の原動力になっているのだと思います。人生の意味、宇宙はどのように始まったのか、意識とは何か、こうした疑問はすべて、私の心の中で鳴り響く警鐘のように感じられ、私はそれを理解したいと思い、それを実現するために、まずAIを構築しようとしています。

ハンナ：このエピソードでお話ししたことについてもっと知りたい、あるいはDeepMind以外のAI研究の世界を探りたいという方は、各エピソードのショーノートに役立つリンクがたくさん掲載されていますので、他のリスナーも参考になると思う話やリソースがあれば、教えてください。また、このアドレスを使って、このシリーズに関するご質問やご意見をお送りいただくこともできます。DeepMind the podcastはWhistledownの制作で、バイノーラルサウンドの録音はLucinda Mason-Brownが担当しました。このシリーズの音楽はEleni Shawによって特別に作曲されました。プロデューサーは、Amy RacsとDan Hardoonです。シニアプロデューサーはLouisa Field、シリーズエディターはDavid Prestです。ハンナ・フライです、ご清聴ありがとうございました。