機械の台頭: ジョン・エチェメンディとフェイフェイ・リーが語る私たちのAIの未来 | アンコモン・ナレッジ

1956年、ダートマス大学で、ある数学教授が当時まったく新しく空想的な言葉を研究提案で使いました。それは「人工知能」でした。今やAIには空想的なところは何もありません。スタンフォード大学人間中心人工知能研究所のディレクターであるジョン・エチェメンディとフェイフェイ・リーが、アンコモン・ナレッジに登場します。
アンコモン・ナレッジへようこそ。私はピーター・ロビンソンです。哲学者のジョン・エチェメンディは2000年から2017年までスタンフォード大学のプロボストを務めました。エチェメンディ博士はネバダ大学で学士号を取得し、その後スタンフォード大学で哲学の博士号を取得しました。1983年に博士号を取得し、翌年にはスタンフォード大学哲学科の教員となりました。1990年の「論理的帰結の概念」を含む多くの著書があります。プロボストを退任後、エチェメンディ博士はスタンフォード大学でいくつかの役職を務めており、今日の目的に関連する役職としては、スタンフォード大学人間中心人工知能研究所の共同ディレクターがあります。
北京生まれのフェイフェイ・リー博士は15歳でアメリカに移住しました。プリンストン大学で学士号を取得し、カリフォルニア工科大学で電気工学の博士号を取得しました。現在スタンフォード大学のコンピューターサイエンス教授であるリー博士は、同じくスタンフォード大学人間中心人工知能研究所の創設者です。リー博士の回顧録「私の見る世界:AIの夜明けにおける好奇心、探求、発見」が昨年出版されました。
ジョン・エチェメンディとフェイフェイ・リー、お時間をいただきありがとうございます。
ありがとうございます、お招きいただき光栄です。
愚問だと言うつもりはありませんが、実際にはこれが私の最高の形の質問です。人工知能とは何でしょうか? この言葉を何年もの間、1日に100回は目にしていますが、簡潔で満足のいく説明を見つけたことがありません。さて...
では、哲学者に聞いてみましょう。ここには専門的に厳密な人がいますが、実際に答えを知っている女性もいます。
実際に答えを知っている人、そうですね。では、フェイに答えてもらって、私は別の答えを出しましょう。
本当ですか? いいでしょう。
ピーターさんが「簡潔に」という言葉を使ったので、私は汗をかいています。人工知能は今日では、データ、パターン認識、意思決定に関するコンピューターサイエンスの全体的な分野をまとめた方法やツールの集まりです。自然言語、画像、動画、ロボット工学、音声などです。人工知能の核心は、機械学習などの統計的モデリングを使用したコンピュータープログラムです。しかし今日、人工知能は本当に包括的な用語となっており、言語インテリジェンス、言語モデリング、音声、視覚など、私たちが馴染み始めている多くのものをカバーしています。
ジョン、あなたと私は両方ともジョン・マッカーシーを知っていましたね。スタンフォードに来る前に、彼が「人工知能」という言葉を作り出し、使用しました。今は亡きジョン・マッカーシーですが、彼を知っていた私としては、その用語に少し疑問を感じています。なぜなら、ジョンは挑発的であることを好んでいたからです。私は自分に言い聞かせています。待てよ、我々はまだ1と0を扱っているんだ。コンピューターは計算機だ。つまり、人工知能はマーケティング用語なのではないか...
いいえ、マーケティング用語ではありません。ジョンが与えたであろう答えに近い答えを出しましょう。それは、知能を必要とするように見える作業を遂行できる機械を作り出そうとするコンピューターサイエンスの分野です。初期の人工知能は、チェスやチェッカーをプレイするシステムなど、非常に単純なものでした。ジョンは、ご存じの通り、野心的でした。彼は、ダートマスでの夏の会議で大半の問題を解決できると考えていました。
いくつかの非常に有名な出来事を挙げてみましょう。私が探しているのは、ここで1997年、コンピューターがチェスでガリー・カスパロフを破りました。大きな瞬間でした。初めて、ビッグブルーというIBMのプロジェクトが人間を破ったのです。それも単なる人間ではなく、ガリー・カスパロフは、ある基準では史上最高のチェスプレイヤーの6人のうちの1人でした。私の知る限り、コンピューター科学者たちは「ふーん」と言いました。物事は速くなっているだけだと。そして2015年に、コンピューターが囲碁の専門家ファン・フーを破り、翌年には5戦マッチで囲碁のグランドマスター、イ・セドルを破りました。その発音が正しいかどうかはわかりませんが。そして人々は「おお、何かが起こった」と言いました。今回は違うぞと。
私が探しているのは、私のような素人が理解できる何かです。ここに不連続性がある、ここで我々は新しい瞬間に入ったのだと言えるものです。人工知能において、私は存在しないものを探しているのでしょうか?
いいえ、あなたは存在するものを探しています。ディープブルーとアルファ碁の違いは、ディープブルーはチェスをプレイしましたが、従来のプログラミング技術を使用して書かれていました。ディープブルーが行ったのは、盤面の各位置、各手に対して、考えられるすべての可能性を一定の深さまで調べることでした。もちろん、最後まで行くことはできません。そして、どれが最良かを判断する方法を持っていました。そして、今この時点で私にとって最良の手はこれだと言うのです。そういう意味で、理論的にはあまり面白くありませんでした。
一方、アルファ碁はGoogleのプロジェクトでしたが、これはディープラーニングを使用しています。ニューラルネットワークで、明示的なプログラミングではありません。このアルゴリズムを使用し、これをしてからこれをするというアイデアを持って始めるのではありません。
そのため、特に公衆にとっては非常に驚きでした。私にとってはそうでもありませんでしたが。
公衆にとっては、はい。でも私たちの同僚...もう一度試してみます。本当に理解したいのです。スタンフォード大学の物理学者で、あなたたち両方がご存知のはずのシャオシ・ジェンが私に言いました。「ピーター、あなたが理解する必要があるのは、コンピューターが囲碁で勝利した瞬間のことです。囲碁は、少なくとも決定空間においては、チェスよりもはるかに複雑です。より多くの駒、より多くのマスがあります」。そしてシャオシは私に言いました。「チェスは単により速く行っただけで、グランドマスターの委員会が決定したことを行っただけです。一方、囲碁でのコンピューターは創造的でした。人間が今まで追求したことのない戦略を追求していました」。そこに何かあるのでしょうか?
はい。5戦マッチの3戦目だったと思いますが、32手目か35手目だったと思います。コンピュータープログラムが、イ・セドル本人だけでなく、観戦していた囲碁のマスター全員を驚かせる手を打ちました。非常に驚くべき手でした。
実際、私はそれが間違いだと思いました。その手がどのように生まれたかを事後分析しても、人間のマスターたちは「これは完全に予想外だ」と言うでしょう。起こったことは、ジョンが言うように、コンピューターは学習能力と推論能力を持っており、訓練された人間のマスターの知識領域の外側でさえ、パターンを考えたり、特定の動きを決定したりする能力があるのです。
それを補足させてください。これらのディープニューラルネットは、パターン認識システムとして極めて優れています。しかし、それらが認識し、学習するパターンは、必ずしも人間が認識するパターンと正確に同じではありません。そのため、人間の観点からは意味をなさない盤面の位置について何かを見て、手を打ったのです。実際、囲碁の教えはすべて、そんなに早くエッジに近い手を打つなと言っています。そのため、誰もが間違いを犯したと思いました。しかし、その後勝利しました。
そのことを理解する方法は、我々には見えないパターンを見ているということです。我々の伝統的ではないパターンを計算しているのです。そして、それを計算する能力を持っているのです。
私は本当に...我々はすでにこの領域に入っていますが、私は本当に「待てよ」という瞬間を引き出そうとしています。これらはまだ単なる0と1を実行する機械で、より大きな記憶とより速い計算能力を持っていますが、我々はまだ0と1を実行する機械を扱っているのです。これが一つの流れです。そしてもう一つの流れは、ご存知の通り、「2001年宇宙の旅」です。コンピューターが船を乗っ取ります。「ポッドベイのドアを開けてくれ、HAL」「申し訳ありません、デイブ。それはできません」。
OK、すぐにこの話に戻りますが。フェイフェイ・リー、あなたの回顧録「私の見る世界」から引用します。「私は、我々の文明が生活を根本から変える力を持つ技術革命の瀬戸際に立っていると信じています」。革命、生活を根本から変える。さて、あなたは学問的訓練のすべてが厳密さにあるJohn Etchemendy氏ですが、彼女のこの種の大げさな発言を許すつもりですか?
いいえ、私はそれが大げさだとは思いません。彼女が正しいと思います。
彼は私にその本を書くように言ったのですよ、ピーター。
これは非常に強力な技術で、我々がプログラムすることができなかったことをコンピューターにさせることができるようになります。そしてそれはすべてを変えるでしょう。しかし、多くの人が言っているように、それは電気や蒸気革命のようなものです。必ずしも恐れる必要はありません。突然世界を乗っ取るわけではありません。それはフェイが言っていることではありません。
そうですね、それは意識を持つ存在ではなく、単に強力なツールであり、産業や我々の生活様式を革命的に変えるものです。しかし、革命という言葉は意識を持つ存在という意味ではありません。単に物事を変える強力なツールなのです。
フェイが数ページ後に次のように書いていなければ、私はそれを安心させるものだと思うでしょう。「科学の美しさと、例えばマンハッタン計画のようなものを切り離すことはできません」。核科学は豊富なエネルギーを生み出すことができますが、同時に言葉では表現できないほどの恐ろしい武器も生み出すことができます。AIには独自のおばけがあります。殺人ロボット、広範囲な監視、あるいは単に80億人全員の仕事を自動化してしまうことなどです。
これらのおばけのそれぞれについて1つの番組を捧げることができるでしょうし、おそらくいつかはそうすべきかもしれません。しかし、今、あなたが私を安心させようとする行為の中で私を怖がらせたので、実際、あなたが私を安心させようとするのがとても熱心なので、私は本当はもっと怖がるべきだと思うのかもしれません。
では、ここでキラーロボットの話に行きましょう。故ヘンリー・キッシンジャーの言葉を引用させてください。「中国とアメリカの戦争を想像してみてください。人工知能兵器を使うことになりますが、誰もこれらを広範囲でテストしたことがなく、両側のAI戦闘機が相互作用したときに正確に何が起こるかを誰も言えません」。そして、ヘンリー・キッシンジャーの言葉を引用していますが、結局のところ彼は愚か者ではありません。「そうすると、あなたは潜在的に完全な破壊性の世界にいることになります」。
フェイフェイ、そうですね。私が言ったように、これらのツールがいかに強力であるかを否定しているわけではありません。AIの前の人類も、非常に破壊的になり得る道具や技術を作り出してきました。マンハッタン計画について話しましたよね。でも、そのことは、我々がこのツールを集団的にこの破壊的な方法で使うべきだということを意味するものではありません。
ピーター、人工知能について聞く前、つまりたった5年前か10年前のことを思い出してください。これはすべてとても速く起こっているのです。イランの旅客機がペルシャ湾上空で撃墜された悲劇的な事件を覚えていますか?
はい、はい。
我々の船の1つによってです。
自動化システム、イージスシステムによってです。人間が反応できないほど速く反応する必要があるため、自動化されていなければなりませんでした。
そうです。この場合、事件を理解すれば非常に理解できる理由で、恐ろしいことをしてしまいました。これはAIでできることと種類が違うわけではありません。そのため、我々はこれらのデバイスの創造者として、またはAIの使用者として、それらをどのような用途に使うかについて警戒する必要があります。そして、特定の用途に使うことを決めたとき、そしてそこには軍事的にも多くの良い用途があるかもしれません。我々は、それらが我々の意図通りに動作し、意図しないことをしないように警戒する必要があります。
あなたは大きなテーマを発表しています。そのテーマは、フェイフェイ・リー博士が発明したものが、あなたが人生を捧げてきた分野である哲学をさらに重要にし、それほど重要ではなくしていないということです。
はい、人間をより重要にし、それほど重要ではなくしていません。私はそれを正しく理解していますか、それとも軽率すぎますか?
では、ある話をさせてください。フェイは以前、私の隣か近くに住んでいました。
それで私をより安全に感じさせるのか、それともより露出させるのか、わかりませんが。
そして私は彼女と話をしていました。私はまだ学長でした。彼女は私に言いました。「あなたとジョン・ヘネシーは、技術を大学の他の部分に持ち込むための多くの研究所を立ち上げました。私たちは哲学と倫理学と社会科学をAIに持ち込む研究所を立ち上げる必要があります。なぜなら、AIはコンピューター科学者だけに任せておくには危険すぎるからです」。
何も問題はありません。彼が学長だったときに説得するのがいかに大変だったかについては多くの話があります。
あなたは成功したのですね。もう一つだけ、簡単におばけの話をさせてください。そしてあなたが今与えてくれたテーマに戻り、そしてスタンフォード研究所に戻りましょう。
再びあなたの回顧録から引用します。「80億人全員の仕事を自動化してしまう見通し」。これはあなたが使った表現です。
私のAI対応の検索アルゴリズム、検索デバイスを使って、わずか数秒でゴールドマン・サックスの昨年の調査を見つけることができました。その調査では、アメリカとヨーロッパで仕事の3分の2が少なくともある程度自動化される可能性があると予測しています。
では、なぜ私たちは皆恐れるべきではないのでしょうか? ヘンリー・キッシンジャーは世界の終末を、まあ、それは少し大げさかもしれませんが、私の仕事は...
そうですね、仕事の変化は現実です。人類文明が直面してきたあらゆる技術進歩において、仕事の変化は現実であり、軽視すべきではありません。また、「仕事」という言葉には注意が必要です。仕事は通常、全体的な職業を描写したり、人がその収入やアイデンティティを結びつけるものを描写したりします。
しかし、ほとんどすべての仕事の中には、多くのタスクがあります。1つの仕事に1つの単一のタスクしかないと想像するのは難しいですね。教授であること、学者であること、医者であること、料理人であることなど、これらすべての仕事には複数のタスクがあります。
私たちが目にしているのは、技術がこれらのタスクの一部をどのように実行できるかを変えていることです。そして確かに、これらのタスクが変化するにつれて、その一部、一部分が自動化される可能性があります。これは仕事のやり方を変え始め、最終的には仕事に影響を与えることになります。
これは徐々に進行するプロセスであり、私たちがこの上に留まることが非常に重要です。これが人間中心研究所を設立した理由の1つです。これらの問題は深遠であり、定義上、学際的です。コンピューター科学者だけではすべての経済分析を行うことはできません。しかし、これらのコンピューターサイエンスプログラムが何をするのかを理解していない経済学者だけでは、仕事のシフトを理解することはできません。
ジョン、言わせていただいてもよろしいでしょうか?
どうぞ。ただ、一点指摘させてください。ゴールドマン・サックスの調査では、仕事の一定の割合が自動化される、または少なくとも部分的に自動化される可能性があると述べています。
はい。
彼らが言っているのは、特定の仕事に含まれる特定のタスクの数が自動化される可能性があるということです。
そうですね。ピーター、あなたは「コンピューターを使ってその記事を見つけるのに数秒しかかからなかった」と言いましたね。これは、以前はあなたに多くの時間がかかっていたタスクの1つです。つまり、あなたの仕事の一部はすでに自動化されています。
OK、では話をさせてください。
わかりました。ありがとうございます。気分が良くなりました。
では、話をさせてください。私たち3人はみなカリフォルニアに住んでいます。つまり、おそらくハリウッドに友人がいるでしょう。私には脚本家のストライキに関わっていた友人がいます。
はい。
問題はこうです。シットコムを運営するには、以前は脚本家の部屋を運営していました。脚本家の部屋では7人から12人を雇用していました。シンプソンズというアニメ番組では、2つの脚本家の部屋を運営し、20人を雇用していました。これらは、コンピューターが置き換えられると最後に想像するような人たちでした。彼らは教育を受け、機知に富み、言葉の使い方が素早かったからです。コンピューターは単に計算を実行するもの、おそらくスプレッドシート、いつかは会計士を排除できるかもしれないと考えられていました。
しかし、実際には...私の友人がこれを示してくれました。人工知能に「ジョー・バイデンとドナルド・トランプがビアポンをしているサタデー・ナイト・ライブのスケッチを書いてください」というプロンプトを与えました。15秒後には...
プロの脚本家がそれを洗練させたり改善したりできたかもしれませんが、かなり面白いものでした。そして即座にできました。
それが何を意味するかわかりますか? 7人の脚本家のうち4人か5人は必要ありません。シニアライターが人工知能に指示を与え、もう1人か2人のライターが洗練させたり書き直したりするだけでよいのです。
これは現実です。そしてあなたの人工知能は、おしゃべり階級の仕事を排除し始めたときに悪評を買うでしょう。それはすでに始まっています。
私が間違っていると言ってください。
農業革命以前は、アメリカの人々の80〜90%が農場で働いていたことをご存知ですか?
現在では2〜3%に減少しています。そして、同じ農場、同じ土地がはるかに生産的になっています。
1890年代に誰もが農場で働いていたときと比べて、あなたや誰かの人生が今悪くなったと言えますか? いいえ。
そうですね、あなたの言う通りです。仕事は変わるでしょう。一部の仕事はより簡単になり、以前にはできなかったことができるようになります。そして、はい、より少ない人数でより多くのことができるようになり、結果として、その分野で働く人は少なくなるでしょう。それは事実です。
また、2つのことを指摘したいと思います。1つは、仕事は常に変化しており、その変化は常に痛みを伴うということです。コンピューター科学者として、哲学者として、また世界の市民として、私たちはそれに共感すべきです。誰もその変化の痛みを無視すべきだとは言っていません。
だからこそ、私たちはこれを研究し、政策立案者と話し、人々を教育しようとしているのです。
一方で、AIに直面した人間の創造性にもっと信頼を置くべきだと思います。私はこの例を使い始めました。AIでさえない例ですが、ハリウッドの話に戻ると、高度なグラフィックス技術、CGIなどを考えてみてください。ビデオゲーム産業や、単にアニメーションなどですね。
私たちの子供たちを含む多くの人々のお気に入りアニメーションシリーズの1つはジブリスタジオによるものです。「もののけ姫」「となりのトトロ」「千と千尋の神隠し」などです。これらはすべて、コンピューターグラフィックス技術がこれらの手描きアニメーションよりもはるかに進歩した時期に作られました。
しかし、これらの映画の美しさ、創造性、感情、独自性は、人類を引き続き魅了し、楽しませています。
だから、私たちはまだその誇りを持ち、人間に信頼を置く必要があります。私たちの創造性と感情と知性はユニークであり、すべてが技術によって奪われるわけではないことを忘れないようにしましょう。
ありがとうございます。少し安心しました。まだ自分の仕事について神経質ですが、少し安心しました。
しかし、あなたは先ほど政府について言及しましたね。それは、AIをどのように規制すべきかという話題につながります。
2つの引用を紹介させてください。まずは、テキサス州選出のテッド・クルーズ上院議員とフィル・グラハム元上院議員による最近のウォール・ストリート・ジャーナルの記事からです。
「クリントン政権は初期のインターネットの規制に対して手を付けない方針を取り、そうすることで並外れた経済成長と繁栄を解き放ちました。対照的に、バイデン政権は積極的な規制により人工知能における革新を妨げています」。
これが彼らの意見です。次はあなたたちの意見です。これも最近のウォール・ストリート・ジャーナルの記事からです。
ジョン・エチェメンディとフェイフェイ・リー:「バイデン大統領は人工知能に関する大統領令に署名し、この技術を活用し統治しようとする政権の決意を示しました。バイデン大統領は舞台を整えました。今こそ議会が行動を起こすべき時です」。
クルーズとグラハムは規制を少なくと言い、エチェメンディとリーはバイデン政権がうまくやっているので、議会はさらに多くのことをすべきだと言っています。いいえ、OK、ジョン...
そうですね、私はそれに同意しません。私は、あらゆる種類の技術を規制することは非常に難しく、早すぎる規制や遅すぎる規制に注意する必要があると考えています。別の例を挙げましょう。インターネットの話がありましたが、確かに政府はかなり手を付けませんでした。それは良かったです。うまくいきました。
しかし、ソーシャルメディアのことも考えてみましょう。ソーシャルメディアは、私たちが望んだ通りにはうまくいきませんでした。当初、私たちは友情、コメディ、そして誰もが声を持ち、みんなが一緒に仲良く暮らせる黄金時代に入ると信じていました。しかし、そうはなりませんでした。
ジョナサン・ハイトが若者の特定の病理に関する新しい本を出版しましたが、これらすべてのソーシャル...それは議論ではありません。議論ですが、多くのデータに基づいています。
私は、技術に対して一種のバンパーや、何と言えばいいでしょうか、ガードレールを設置しようとする、非常に軽いタッチで情報に基づいた規制に賛成です。イノベーションを抑制するような、上からの重い規制には賛成しません。
ここにもう一つ...私は確信していますが、この質問にあなたの答えを適応させることができるでしょう。あなたのウォール・ストリート・ジャーナルの記事を続けます。
「大手テクノロジー企業に自己統治を任せることはできません」。シリコンバレーでは、これは挑発的な言葉です。「学術機関は、これらの先進技術の信頼できる評価とベンチマーキングを提供する上で主導的な役割を果たすべきです。私たちは、学術界と政府とともに、AIの分野により多くの才能をもたらすための人的資本への投資を奨励します」。
さて、私がこれを言うのは義務的なので、どうか許してください。私のスタンフォード大学の同僚たちは別として、なぜ学術機関を信頼すべきなのでしょうか? 国の半分が学術機関への信頼を失っています。DEI、ウォーク・アジェンダ全体、キャンパスでの反ユダヤ主義。最近のギャラップ調査では、高等教育に「大いに」または「かなり」の信頼を示すアメリカ人の割合が今年はわずか36%で、8年前の57%から低下しています。
あなたは、私たちがあなたを信頼すべきだと言っていますが、まさに私たちがあなたを信頼する理由がないと信じている時に。もうやめてください。あなたを信頼しろと?
OK、フェイ。
まず、答えの前半から始めましょう。ジョンもたくさん言いたいことがあると思います。HAIの共同ディレクターとしての立場で、政府と技術の関係について話すとき、私たちは「規制」という言葉を使う傾向がありますが、私は本当に「政策」という言葉を使いたいと思います。政策と規制は関連していますが、同じではありません。
ジョンと私がそのウォール・ストリート・ジャーナルの意見記事を書いたとき、私たちは本当に公共部門のAIに資源を提供し、学術界に資源を提供するという政策の一部に焦点を当てていました。なぜなら、私たちはAIが非常に強力な技術であり、科学と学術界と公共部門がまだ公共の利益を生み出す役割を果たすべきだと信じているからです。
公共の利益とは、好奇心に基づく知識の探求、がんの治療法、地球の生物多様性の地図、これまで見たことのないナノ材料の発見、劇場や文章や音楽での異なる表現方法などです。これらは公共の利益です。
政府と政策について協力するとき、私たちはそこに焦点を当てています。規制については、私たち全員が個人的な意見を持っていますが、政策には規制以上のものがあることを確認したいと思います。
そうですね。見てください...最後にもう一度試させてください。ここでの私の理論について、質問をしているにもかかわらず、あなたは私を外に連れ出してぶん殴りたくなっているのではないかと確信していますが、ジョン、これは真面目な話です。
あなたはスタンフォード大学人間中心人工知能研究所を持っています。それはあなたが本当にこれが重要だと考えているからです。しかし、私たちは民主主義の中で生きており、あなたは多くの人々を説得しなければなりません。
もう一度試させてください。そしてあなたに戻します、ジョン。
あなたのウォール・ストリート・ジャーナルの記事からもう一度引用します。「私たちは、学術界と政府とともに、AIの分野により多くの才能をもたらすための人的資本への投資を奨励します」。
これを繰り返しますが、投資とはお金を意味します。投資とはお金を意味し、それは納税者のお金を意味します。
クルーズとグラハムがウォール・ストリート・ジャーナルで言っていることはこうです。「バイデンのAIに関する規制政策は、特別利益のレントシーキングと全く関係があります」。
スタンフォード大学の教員は全国平均収入をはるかに上回っています。私たちは数百億ドルの基金を持つ大学に座っています。
ジョン、あなたのウォール・ストリート・ジャーナルの記事は、クルーズ上院議員とグラハム上院議員が言っているような種類のレントシーキングではないのですか?
冗談でしょう、ピーター? 別の例を挙げましょう。
この国が今まで行った最大の政策決定の1つは、当時のトルーマン大統領の顧問であったバネバー・ブッシュが、アイゼンハワーまで続いたと記憶していますが...
重要なことですが、超党派の...
はい、全く党派的な問題ではありませんでした。トルーマンを説得して、大学での好奇心に基づく研究、先端研究に資金を提供するためのNSF（国立科学財団）を設立しました。
そして、企業が何の役割も持たない、政府が何の役割も持たないと言うのではありません。両方が役割を持っていますが、それぞれ異なる役割です。
企業は開発、製品の生産、1年か2年か3年以内に有用な製品になる可能性のあるものを活用することに優れる傾向があります。
大学の科学者たちは、その制約を持っていません。これがいつ商業化されるかを心配する必要はありません。
そして、それは計り知れない効果をこの国の繁栄に、そして私たちがあらゆる技術分野でリーダーであるという事実に与えてきたと思います。私たちがあらゆる技術分野でリーダーであることは偶然ではありません。以前はそうではありませんでした。
そして、私がこう付け加えると、あなたの議論に影響しますか? それはまた、冷戦での勝利を可能にしたり、貢献したりしました。
大学から生まれた兵器システム、すべて...
はい、絶対にそうです。そして、大統領...それは最終的に防衛的な...あらゆる観点から良いものだったと議論できます。納税者のお金に対する良いROIでした。
私たちは教員のより高い給与を主張しているわけではありません。しかし、特にAIにおいては、コンピューティングのコスト、データへのアクセスの困難さのために、大学の科学者たちがもはやゲームに参加できなくなっているポイントに達していると考えています。
だからこそ、これらの開発がすべて企業から出てくるのを目にするのです。それらは素晴らしい開発です。しかし、製品を見ずに、利益動機に動かされずにこれらの技術を探求する人々も必要です。そして最終的には、希望的に彼らは発見を...発見をし、それらが商業化可能になるでしょう。
フェイ、あなたの本で非常に印象的だったのは、約10年前、2015年頃だと思いますが、同僚たちが民間部門に流出し始めたことに気づいたと言っていたことです。
おそらく、シリコンバレーでは非常に高給を支払うからでしょう。しかし、AIで進歩するためには膨大な計算能力が必要であり、それらすべての1と0を組み立てるのは非常に高額です。
そうですね。ChatGPTの親会社であるOpenAIは、10億ドルの初期投資で始まりました。10億ドルの初期の友人や家族の資本は、ここでさえ大金です。
それがあなたが言っているポイントですね。
はい。
私には、これらの話題のそれぞれが実際に1日がかりのセミナーに値するように感じます。
実際にそうだと思います。ところで、これは以前にも起こったことがあります。科学が非常に高価になり、大学レベルの研究者がもはや科学を行うことができなくなった時です。高エネルギー物理学で起こりました。
高エネルギー物理学は、以前はオフィスにバンデグラフ発電機があり、それが加速器でした。あるいは、必要なものを手に入れることができました。そして、もはやそうではなくなりました。エネルギーレベルがどんどん高くなり、何が起こったでしょうか?
連邦政府が介入し、「助けましょう。加速器を建設しましょう」と言いました。スタンフォード線形加速器センター、まさにそうです。
サンディア国立研究所、ローレンス・リバモア国立研究所、これらはすべて少なくとも部分的に連邦の施設です。CERNはヨーロッパのものですね。
フェルミ国立加速器研究所...最初の加速器はSLAC（スタンフォード線形加速器センター）でした。その後フェルミ国立加速器研究所、そして続いていきました。
CERNは実際にはゲームの後半に登場し、ヨーロッパのコンソーシアムです。
重要なのは、政府の助けなしには科学を続けることができなかったということです。
そして、高エネルギー物理学に加えて、バイオもそうです。特に遺伝子シーケンシングと高スループットゲノミクス、バイオテクノロジーも変化しています。
今では、政府と慈善事業の組み合わせによって heavily funded される新しい波の生物学研究室が見られます。これらが従来の大学モデルを補完しています。
そして今、私たちはAIとコンピューターサイエンスでここにいます。
これについては、別の番組を1つ丸ごと制作する必要がありますね。
特異点について...oh、これは良いですね。あなた方両方が目を転がしているのを見て、素晴らしいです。私はこれについてもっと安心しました。
良いですね。レイ・カーツワイル...あなたはまさにここに向かっていると知っていますね。レイ・カーツワイルは2005年に本を書き、それは誰もの注目を集め、私を含む多くの人々を死ぬほど怖がらせました。
その本は「シンギュラリティは近い」と題されており、カーツワイルは特異点を予測しています。彼の言葉を引用すると、「人間の技術と人間の知能の融合を伴う」とあります。彼は技術が人間の知能をより密接に模倣すると言っているのではなく、それらが融合すると言っているのです。
「人間の能力に深遠で破壊的な変革をもたらす特異点の日付を2045年に設定しています」。
これが最初の引用です。ここに2つ目の引用があります。これはスタンフォード大学の講義カタログにある「人工知能の哲学」というフレッシュマンセミナーの説明からのものです。私の記憶が正しければ、先学期にジョン・エチェメンディが教えていました。
ここに説明の一部があります。「人工システムが本物の知能、思考、意識、感情を達成することは本当に可能なのでしょうか? それは何を意味するのでしょうか?」
ジョン、それは可能ですか? それは何を意味するのでしょうか?
私は実際に答えは「いいえ」だと思います。そして、ありがたいことに...
あなたは私をしばらく待たせましたね。
私は、レイ・カーツワイルや他の人々が紡ぎ出してきたファンタジー、そう表現するのが適切だと思いますが、それらは人間が実際にどのように機能するかについての理解不足から生まれており、生物学が私たちの働き方、動機付けられ方、欲望や目標を得る方法、人間がどのように人となるかにとってどれほど重要であるかを理解していないのです。
AIがこれまでに行ってきたことは、私たちが行うことの情報処理の部分を捉えているにすぎません。私たちの行動の一部は情報処理ですが。
つまり、右前頭皮質は獲得したが、左前頭皮質はまだ獲得していないということですね。
はい、それは単純化しすぎですが、そうですね。
テレビではそう想像してください。
実際、私は第一に、2045年という日付は...2045年は...狂っていると思います。それは起こりません。第二に、私たちがそこに到達することが明確であるかどうかさえ分かりません。
待ってください。彼の擁護をするなんて信じられませんが、2045年は機械が人間のような意識を持つ存在になる日だとは言っていないと思います。それは技術の力が社会を混乱させる転換点のようなものです。
彼は遅れています。私たちはすでにそこにいます。
そうですね、私が言っているのはまさにそのことです。彼が特異点で意味しているのは、人工知能システムが自己改善できるようになり、そして再帰的なサイクルに入り、超知能になる日付だと思います。
はい、そして私はそれを否定します。彼は「2001年宇宙の旅」のゲームをしているのです。
見てください、別の質問をしてもいいですか? ある意味でこれはより深刻な質問だと思いますが、それも深刻です。
ここに故ヘンリー・キッシンジャーの言葉があります。「私たちは哲学のない世界に生きています。支配的な哲学的見解がないのです。そのため、技術者たちは暴走することができます。彼らは世界を変えるようなものを開発できますが、それを何かに統合しなければならないと言う人は誰もいません」。
粗っぽく言いますが、中国では1世紀前まで、少なくとも教育を受けた階級の間では儒教思想が支配的でした。私の中国の歴史についての非常に薄い理解では。
この国では一昨日まで、ユダヤ・キリスト教の伝統について皮肉なしに語っていました。それは道徳性や人間であることの意味について特定の概念を含んでいました。それは神への信仰を前提としていましたが、たとえ神を信じなくても実際にかなり前進できることが分かりました。
そして今、キッシンジャーはすべてが崩壊したと言っています。支配的な哲学はありません。これは深刻な問題ではありませんか? AIを統合するものが何もありません。
あなたはその点を理解していますか? あなたが哲学者で、あなたが仏教徒で、あなたが哲学者だからです。
まず、その引用をありがとうございます。ヘンリー・キッシンジャーからのその引用を読みました。これは私たちが人間中心AIの研究所を設立した理由です。これらは私たちの世代が解決する必要がある根本的な問題です。
それは単なる質問ではなく、質問そのものです。
それは根本的な質問の1つです。また、大学がなぜ今日でも関連性があるかを示す根本的な質問の1つでもあります。
ピーター、ヘンリー・キッシンジャーがその引用で言っていることの1つは、支配的な哲学がないということです。以前はユダヤ・キリスト教の伝統のような支配的な...これは12世紀のパリ大学での別の会話です。
AIシステムを作成する際に価値観を考慮に入れるためには、支配的な伝統は必要ありません。例えば、ほとんどの倫理的伝統に必要なのは黄金律です。このような深い価値の問題に関しても、私たちにはまだ十分な共通の基盤があると信じています。
OK、もう一度ほっとしました。スタンフォード研究所について少し話しましょう。私たちは多くのことについて少し話していますが、そうです。アリスの不思議の国に書かれているように、多くのことについて語りましょう。
スタンフォード大学人間中心人工知能研究所、あなた方は共同ディレクターですが、2つの質問があります。お好きなように答えてください。
現在行っていることの味わい、感触を教えていただけますか? そして、ある意味でより重要ですが、より捉えどころのない質問として、たとえば5年後にどこにいたいと思っていますか?
この分野では全てが動いているので、私の衝動は10年と言いたくなります。より丸い数字だからです。しかし、この分野では遠すぎます。
フェイ、私が本当に思うのは、過去5年間にスタンフォードHAIが行った多くのことの中で、1つ確実に言えることは、スタンフォードだけでなく、皆にとっても、これは学際的な研究であり、人工知能は独自の科学であり、強力なツールであるという杭を打ち込んだことです。
そして起こっていることは、AIのトピックを中心に多くの分野が交差し、受け入れられる、またはAIのツールを使って他の科学を進めたり、新しいアイデアを探求したりすることができるということです。
この学際的で多分野にわたる分野にするというコンセプトは、私が思うに、スタンフォードHAIがスタンフォードにもたらし、また世界にもたらしたものです。
あなたが言ったように、コンピューターサイエンスは比較的新しい分野です。ご存じの通り、故ジョン・マッカーシーが50年代後半にその用語を作りました。今はとても速く動いているので、誰もがそれはただコンピューターサイエンスのニッチな分野で、未来に向かって進んでいるだけだと感じています。
しかし、私たちは「いいえ」と言っています。広く、ここに置くことができる多くの分野があります。
スタンフォード研究所と人間中心設計と競合するのは誰ですか? ハーバード大学やオックスフォード大学や北京にそのような研究所があるのかどうか、私にはわかりません。
私たちが立ち上げてから5年の間に、他の大学でもいくつかの類似の研究所が作られました。私たちはそれを競争とは見ていません。
もしあなたが主張している議論が有効であれば、私たちはそれらを必要としています。
運動が必要です。私たちはそれらを必要としています。
私たちがしたいこと、そして私たちがある程度成功したと思うことの一部は、この技術を開発し、適用する際に人間と人間の価値観を中心に置くことの重要性についてのビジョンを伝えることです。
そして私たちはそれを世界に伝えたいのです。私たちは同様の立場を採用する他のセンターを望んでいます。
そして重要なことは、私が言及しなかったことの1つは、私たちが教育しようとしていることです。例えば、立法者たちに、この技術が何であるか、何ができるか、何ができないかを理解してもらおうとしています。
つまり、あなたたちはワシントンに行っているのか、それともこの機関の非常に寛大な評議員たちが議会のスタッフをここに連れてきているのでしょうか?
両方が起こっています。
フェイ、まず、あなたはスタンフォードHAIでその講座を教えたのですか? それとも哲学部で開催されたのですか? それとも相互登録されていたのですか? 実際に何が行われているのかを把握しようとしているのです。
はい、実際にHAIの建物内で教えました。
では、HAIの...いいえ、それは哲学の講座です。哲学の講座として掲載されていますが、HAIの建物で教えられました。
彼は元学長です。彼は学際的な歩く驚異です。
そして、あなたのAI支援医療の仕事は、HAIで行われているのですか? それとも医学部で行われているのですか?
それが美しいところです。HAI、コンピューターサイエンス学部、医学部で行われており、法学部や政治学部からの協力者さえいます。
それが美しさです。それは深く学際的です。
もし私が学長だったら、これは暴走し始めそうに聞こえます。これは少し学際的すぎるのではないでしょうか、ジョン? もう少し物事を定義する必要があるのではないでしょうか?
何か言わせてください。スティーブ・デニングは長年私たちの理事会の議長を務め、多くの面で大学を長年支援してきました。実際、私たちはスタンフォードHAIのデニング共同ディレクターです。
スティーブは5、6年前に言いました。「AIはこの大学のすべての学部に影響を与えるだろう。そしてその影響が正しい方法で起こるようにする研究所が必要だ」と。その影響が...暴走しないようにするために。
5年後にどこにいたいですか? 5年後に教えたい講座は何ですか? 特別なプロジェクトは何ですか?
「AIによる最大の発見」というフレッシュマンセミナーを教えたいです。
最後の質問ですが、これは最後の質問というわけではありません。あなた方それぞれが最後の答えを1つに限る必要はありません。なぜなら、これはある種のオープンエンドの質問だからです。
私には理論がありますが、私はこのキャンパスをさまよっているだけです。あなた方二人はここに深く根ざしており、17年間この場所を運営してきました。そのため、私よりもよく知っているでしょう。私の理論が間違っていることも知っているかもしれません。
しかし、私はそれを控えめながらも提示します。
故ミルトン・フリードマン、私が最初にここに来たとき、フーバー研究所の同僚でした。実際、奇跡的に彼のオフィスは私のオフィスと同じ廊下にありました。私は時々彼のところに立ち寄っていました。
彼は経済学に進んだ理由を私に語りました。彼は大恐慌時代に育ち、当時の国の最重要の問題は「どうやって物質的なニーズを満たすか」でした。本当に何百万人もの失業者がいて、家族を養うのに苦労している人々がいました。
私は自分の世代のことを考えます。それはほぼジョンの世代です。フェイフェイ、あなたはずっと後に来ました。ありがとうございます。
私は寮でどんな議論をしたかわかりませんが、私が大学にいたとき、冷戦についての熱い議論がありました。ロシア人はどうなるのか。冷戦は私たちの世代にとって現実でした。それが最重要の問題でした。どうやって私たちの生活様式を守るか、どうやって私たちの根本的な原則を守るか。
さて、ここが私の理論です。
現在の学生たちは、想像もつかないほどの繁栄の時代に育ってきました。物質的なニーズは全く問題ではありません。
彼らはまた、比較的平和な時期に育ってきました。冷戦は終わりました。ソビエト連邦は1991年に自らを解散したと宣言しました。遅くともその時点で冷戦は終わりました。
これらの子供たちにとっての最重要の問題は、意味です。これはすべて何のためなのか。なぜ私たちはここにいるのか。人間であることは何を意味するのか。私たちと機械の違いは何か。
そして、もし私の小さな理論が正しければ、奇跡的に、あなたが生み出したこの技術の驚異が、人文科学の新たな開花につながるでしょう。
あなたはそれを受け入れますか、ジョン?
私はそれを受け入れますか? もしそれが起こるのであれば、私はそれを受け入れるでしょう。
少し下手に言い方しましたか?
いいえ、素晴らしいことだと思います。それは期待すべきことです。
ここで私が皮肉屋になります。今のところ、学生たちに見られるのは、スタンフォードの学生たちにますます見られるのは、技術への集中です。コンピューターサイエンスは依然としてこの大学で最大の専攻です。
私たちはHAIで実際に「埋め込み倫理学」というプログラムを始めました。CSの最後の文字が大文字になっているので、コンピューターサイエンスと...
それは子供たちの注目を集めるでしょうね。
いいえ、彼らの注目を集める必要はありません。私たちがしているのは、コンピューターサイエンスの導入コースのほぼすべてに倫理的な要素を組み込んでいることです。
例えば、今週の問題セットがあります。そこには多くの非常に難しい数学の問題やコンピューターサイエンスの問題があり、そして非常に難しい倫理的な課題があります。「ここに状況があります。あなたはコンピューター、AIシステムをプログラミングしています。そしてここにジレンマがあります。さあ、議論してください」と言うのです。あなたはどうしますか?
私たちはこれを...これはフェイが望んでいたことです。私たちはコンピューターサイエンスのカリキュラムに倫理への注目を持ち込もうとしています。
これは過去2、3年の間に新しく始まったことです。
部分的には、学生たちが...学生たちは最小抵抗の道を選ぶ傾向があるからです。
彼らはまた...再び粗く言いますが、誰かが言わなければなりません。彼らはお金を追いかけます。この周りの谷がスタンフォードの優秀な若者たちにCS学位で豊かな報酬を与える限り、そして実際に驚くほど豊かな報酬を与えています、彼らはCS学位を取得するでしょう。
そうですね、それは少し粗すぎると思います。お金は、現在進歩している物事の一つの代替指標にすぎません。現在、技術は本当に私たちの文明の変化の最大の原動力の一つです。
学生たちの世代が何を話題にしているかについて話していたとき、400年前のことを考えていました。科学革命が起こっていたとき、寮での話題はもちろん、全て若い男性たちがケンブリッジやオックスフォードにいましたが、それも非常にエキサイティングで興味深い時代だったに違いありません。
もちろん、インターネットやソーシャルメディアがあって知識の伝播を加速させることはありませんでしたが、そこにあったと想像してください。発見の花開き、物理的世界についての理解の花開きを。
今、私たちはそのような技術的な花開きの偉大な時代にいます。デジタル革命です。
寮での会話は、私たち人間として誰であるかの意味と、私たちが構築しているこの技術との関係のブレンドだと思います。
そうですね、適切に教えられた技術は、哲学や文学を包含したり埋め込んだりすることができます。もちろん、インスピレーションを与えることもできます。
また、科学革命の後に何が続いたかを考えてください。政治的、社会的、経済的な大きな変化の時代が続きました。
そしてわかります。必ずしも良い方向だけではありません。
私はそれが必ずしも良い方向だとは言っていません。しかし、私たちは変化を目にしています。私たちはデジタル革命のピークにさえ達していませんが、すでに政治的、社会的、経済的な変化を目にしています。
これは再びスタンフォードHAIに戻ります。5年前にそれを設立したとき、私たちはこれらすべてが起こっていると信じていました。そして、これらの種類の会話、アイデア、議論が行われ、教育プログラムが行われるべき研究所であると。そしてそれが私たちがこれを行った理由の一部です。
ちょっと言わせてください。
あなたが指摘したように、私はちょうど「人工知能の哲学」という講座を教え終わったところです。
そのことについて、私が遅すぎることを知ったのは残念です。あなたの講座を聴講する許可を求めたでしょう、ジョン。
いいえ、あなたは年を取りすぎています。
そして、学生の約半分がコンピューターサイエンス専攻を予定していました。また4分の1がシンボリックシステム専攻を予定していました。これはコンピューターサイエンスに関連する非常に...学際的な専攻です。そして、その他の学生もばらばらにいました。
そして、これらの人々は全員、コースの終わりに...これは自慢するためではありませんが、全員が「これは今まで受けた中で最高の講座だった」と言いました。
なぜそう言ったのでしょうか? それは彼らにインスピレーションを与え、考えさせ、これらの問題の一部、あなたが今日提起した懸念の一部に取り組むための枠組みを与えました。そして、それらについてどのように考え、どのように対処するか...単に見た科学フィクション映画や、レイ・カーツワイルを読んだからといって、パニックに陥らないようにする方法を。
私がその講座を取らなかったのは良かったかもしれません。ジョンが私にC-をつけたに違いありません。
いいえ、成績インフレです。
これらの子供たち、学生たちが、これらのことを考え、難しい哲学的な問題に取り組む方法を理解するための開かれた機会を探していることは明らかです。
そして、それは彼らがコースから得たものです。そして、それはこの時代に意味を探す方法の一つです。
はい、そうです。
フェイフェイ・リー博士とジョン・エチェメンディ博士、お二人ともスタンフォード大学人間中心人工知能研究所の方々、ありがとうございました。
ありがとうございます、ピーター。
アンコモン・ナレッジ、フーバー研究所、フォックス・ネーションのために、私はピーター・ロビンソンでした。