TED「AGI（汎用人工知能）への刺激的で危険な旅」OpenAI イリヤ･スツケヴァー
OpenAIでのサムアルトマン解任騒動で非常に注目を集めたOpenAI イリヤ･スツケヴァーさんが、TEDでAGIに関する発表を行い、2023/11/21にTEDで公開（収録は2023/10/17）されました。
イリヤ･スツケヴァーさんのAGI（汎用人工知能）に関する知見や考え方が明確に伝わる内容です。是非ご覧ください。
和訳：「AGI（汎用人工知能）への刺激的で危険な旅」
皆さんは人工知能の進歩を体験してきました。多くの方がコンピューターと会話し、コンピューターが理解し、返答してくれることを経験しているでしょう。この進歩の速さを考えると、将来的には我々の知能コンピューターが人間と同じくらい、あるいはそれ以上に賢くなることは想像に難くありません。また、その時が来たら、そのような人工知能がもたらす影響は本当に大きいでしょう。そして、そんな影響力のある技術が出てきたら、それが大丈夫かどうか、疑問に思うかもしれません。
ここで、私の目標は、皆さんが気づいていないかもしれない、私が希望を感じる力の存在を指摘することです。そう、人工知能とは何か、どのように機能するのでしょうか？実は、人工知能の仕組みを説明するのは非常に簡単で、一文で済みます。人工知能とは、大型コンピューター内のデジタル脳に過ぎません。それが人工知能です。あなたが見たAIのすべての興味深い例は、このアイデアに基づいています。
何十年にもわたり、科学者やエンジニアは、そのようなデジタル脳がどのように機能し、どのように構築されるべきかを考え、工学的に実現してきました。私には面白いと思えるのは、人間の知能の源泉は我々の生物学的脳であり、人工知能の知能の源泉が人工脳であることです。ここで、私のAIへの関心がどのようにして生まれたかについて、少し話を逸らしてみましょう。私がAIに引き込まれた3つの要因があります。最初の1つは、5歳か6歳のころ、私は自分自身の意識体験に非常に驚かされました。
私は自分が自分であること、物を見るときに自分の視点で見ることに非常に驚き、奇妙に感じました。この感覚は時間が経つにつれて薄れていきましたが、今それをあなたに話していることで再び戻ってきます。この「私が私である」という感覚、あなたがあなたであるという感覚は、非常に奇妙で、ほとんど不安を感じるものでした。ですから、人工知能について学ぶと、「もし知能を持つコンピューターを作ることができたら、おそらく私たちは自分自身、自分たちの意識について何かを学ぶことができるだろう」と思いました。それが、私がAIに引き寄せられた最初の動機でした。
二つ目の動機はもっと平凡なものでした。私は単純に知能がどのように機能するのかに興味がありました。私が10代の若者だった1990年代後半には、科学は知能がどのように機能するのかをまったく理解していないという印象を受けました。また、三つ目の理由もありました。それは、人工知能が機能すれば、それは信じられないほど影響力のあるものになるだろうということが私には明らかだったからです。人工知能の進歩が可能かどうかは全く明らかではありませんでしたが、
もし人工知能の進歩が可能であれば、それは非常に影響力があるものになるでしょう。これらが、私がAIに力を注ぐべき素晴らしい分野だと考えた三つの理由です。では、現在の人工知能、デジタルの脳について話しましょう。今日のデジタルの脳は、私たちの生物学的な脳よりもはるかに賢くありません。AIチャットボットと話をすると、すぐにそれが完全ではないことがわかります。主に理解していますが、はっきりと、
それができないことが多く、いくつかの変なギャップがあることがわかります。しかし、私はこの状況は一時的なものだと主張します。研究者やエンジニアがAIの作業を続けるにつれて、私たちのコンピューター内に生きるデジタルの脳は、私たち自身の生物学的な脳と同じくらい良くなり、さらにそれを超える日が来るでしょう。コンピューターが私たちより賢くなる時が来ます。私たちはそのようなAIをAGI（汎用人工知能）と呼びます。これは、AIに私ができること、または他の誰かができることを教えることができるレベルに達したときのことです。
今日、AGIは存在しませんが、それが構築された一度、AGIの影響について少し洞察を得ることができます。AGIが持つであろう影響は、人間活動や社会のあらゆる分野において劇的であることは明らかです。簡単な事例を挙げてみましょう。これは非常に広範な技術の狭い例ですが、私が提示したい例はヘルスケアです。多くの方が医者に行く体験をしているでしょう。時には何ヶ月も待たなければならないこともあり、実際に医者に会えたとしても、非常に限られた時間しか与えられません。
さらに、医者は人間なので、存在するすべての医療知識については限られた知識しか持てません。そして最終的には、非常に高額な請求書を受け取ります。しかし、医者として設計された賢いコンピューター、AGIを持っていれば、すべての医療文献について完全かつ網羅的な知識を持ち、数十億時間の臨床経験を持ち、いつでも利用可能で非常に安価になるでしょう。これが実現したら、私たちは今日のヘルスケアを、16世紀の歯科医療のように振り返るでしょう。
そして、再び強調しますが、これは一つの例に過ぎません。AGIは、人間活動のすべての分野に劇的で信じられないほどの影響を与えるでしょう。しかし、これほどの影響力を持つ技術を見ると、あなたは思うかもしれません。「この技術は影響力が強すぎるのではないか」と。実際、AGIのポジティブな用途には、否定的な用途も存在します。この技術は、我々が慣れ親しんだ技術とは異なり、自らを改善する能力を持っています。
AGIを構築することは可能であり、次世代のAGIの開発に取り組むことも可能です。これまでに類を見ない速い技術進歩の最も近い類似点は、産業革命の際でした。当時、人間社会の物質的条件は非常に一定でしたが、急速な成長が見られました。AGIによって、これがもう一度、しかしより短い時間スケールで起こる可能性があります。さらに、AGIが非常に強力になった場合、それが反逆することを望むかもしれないという懸念もあります。
それはエージェントであるため、この前例のない、まだ存在しない技術には、このような懸念が存在します。AGIのポジティブな可能性と懸念される可能性を見て、あなたは思うかもしれません。「このすべてはどこに向かっているのか」と。OpenAIを創設した私の動機の一つは、この技術を開発することに加えて、AGIによって提起される困難な質問、懸念に対処することでした。
政府と協力し、何が来るかを理解し、それに備える手助けをすることに加えて、AIが反逆することを望まないようにするための技術的側面にも多くの研究を行っています。これも私が取り組んでいることです。しかし、AIとAGIは経済の唯一の分野であり、そこには多くの興奮と投資があり、世界中の多くの研究所が同じことを構築しようとしています。たとえOpenAIが私が言及した望ましいステップを踏んだとしても、他の会社や世界の残りはどうなるでしょうか。
ここで私が観察したい力についてお話ししましょう。この観察は次のようなものです。1年前の世界を考えてみてください。たった1年前まで、人々はAIについて、今と同じようには話していませんでした。何が起こったのでしょうか？私たちは皆、コンピューターと話し、理解されることを体験しました。コンピューターが本当に賢くなり、最終的には私たちよりも賢くなるという考えが広まっています。
以前は、AIに非常に興味を持っている少数の愛好家や趣味人だけが考えていたニッチなアイデアでしたが、今では誰もがそれについて考えています。AIが進歩を続け、技術が進化し、ますます多くの人々がAIができること、それが向かっている方向を見るにつれて、AGIがいかに劇的で信じられないほど、ほとんど空想的であるかが明らかになります。
そして、どれだけの慎重さが適切であるかがわかります。私が主張するのは、人々は自分たちの利益のために前例のない共同作業を始めるようになるということです。それはすでに起こっています。主要なAGI企業が、特定の例としてFrontiers model forumを通じて協力を始めています。競合他社である企業がAIを安全にするために技術情報を共有することが期待されます。
私たちが考えているアイデアの一つであり、5年前からウェブサイトにも書かれているのは、テクノロジーが非常に進歩し、人間よりも賢いコンピューター、つまりAGI（汎用人工知能）に非常に近づいた時、他の会社が私たちより遥かに進んでいれば、競争するのではなく、彼らを支援し、ある意味で彼らに加わるということです。なぜそうするのかというと、AGIの劇的な影響を私たちは非常に理解しているからです。私の主張は、AIが改善されるたびに、能力が向上するごとに、AIができることを体験する皆さん、AIやAGIの運営や開発に携わる人々も、これを体験することで、私たちのAIやAGIに対する見方が変わるだろうということです。これが、この技術がもたらす大きな挑戦にもかかわらず、私が希望を持つ重要な理由です。ありがとうございました。
AIの進歩が進むごとに、AGIの取り組みを行っている人々やそれに携わる人々が体験することで、私たちのAIやAGIに対する見方が変わり、それが集団行動に影響を与えるだろうということです。この技術がもたらす大きな挑戦にもかかわらず、私たちがそれを克服することができるという希望を持つ重要な理由です。ありがとうございました。
Ilya Sutskever（イリヤ･スツケヴァー）
イリヤ・スツケヴァーは、ロシアのゴーリキー（現ニジニ・ノヴゴロド）生まれのイスラエル・カナダのコンピュータ科学者で、機械学習の分野で活動しています。5歳の時に家族と一緒にイスラエルに移住し、その後カナダへと移りました。彼はイスラエルのオープン大学に在籍し、トロント大学で数学の学士、コンピュータ科学の修士、博士号を取得しました。彼の博士課程の指導教授はジェフリー・ヒントンでした。
スツケヴァーは、アレックス・クリジェフスキー、ジェフリー・ヒントンと共同で、畳み込みニューラルネットワーク「AlexNet」を開発しました。また、Google BrainではOriol Vinyals、Quoc Viet Leと共に、シークエンス・トゥ・シークエンス学習アルゴリズムを作成し、TensorFlowの開発にも携わりました。
2015年末にGoogleを去り、OpenAIの共同創設者兼最高科学責任者に就任しました。2023年には、OpenAIの新しい「Superalignment」プロジェクトを共同リードし、4年以内に「超知能」の調整問題を解決しようとしています。
ライセンス表示
この記事は、TED Talksの使用ポリシーを遵守しています。原文はTED.comで公開されており、クリエイティブ・コモンズ・ライセンス（CC BY-NC-ND 4.0 国際）の下で使用しました。これには以下の条件が適用されています：
BY（帰属）: この翻訳はTED Talksの公式文書に基づいています。原文の所有者はTEDであり、TED.comへのリンクを含める必要があります。
NC（非商業的）: この翻訳は非商業的な目的でのみ使用されます。TED Talksの内容を商業的な文脈で使用することはできません。
ND（改変禁止）: この翻訳は原文の意味を尊重し、内容を改変していません。TED Talksの内容を編集、改変、または形を変えることは許可されていません。
この記事が気に入ったらサポートをしてみませんか？