サム・アルトマン、マサチューセッツ工科大学長との対談

下記の5月3日に上がったマサチューセッツ工科大学での学長とサム・アルトマンとの対談動画を解説していきます。52分の動画なので要点を上げて解説していく事にします。

「P Doom」（破滅確率）に関する質問

「P Doom」つまり「破滅確率」について質問がありました。サム・アルトマンは、「P Doom」（破滅確率）に関する質問をあまり有益なものとは考えていません。彼はそれが静的なシステムを仮定していると指摘していますが、実際には私たちが未来にどう影響を与えるかによって変化するものだと捉えています。そのため、単に数字で示すことで結論づけるよりも、未来を良くするために何をすべきか、どのように安全を確保するかを考えることが重要だと強調しています。

日本では考えられないバイアスの例

サムはモデルのバイアスについて尋ねられた時に「医学のような分野で、特定の人口統計グループに対する偏見があるということを考えると、それらは実際には私たちの人間の医師が振る舞っている方法に基づいて訓練されているからです。」と言っており、これは例えば、ある人口統計グループが過去の臨床試験に十分に含まれていない場合、そのグループの特有の症状や反応がAIシステムによって適切に認識されない可能性があり、診断の正確性が低下したり、最適でない治療が提案されることがあるという事を指摘しました。

人種や民族によって病気のかかりやすさや反応が異なることがあり、これを「人種差別医療」と言います。例えば、特定の人種グループが特定の遺伝的特性を持つために、特定の病気にかかりやすかったり、薬の反応が異なったりすることがあります。これは、日本を含む多くの国で認識されている問題です。

パーソナライゼーションメモリ機能について

彼は、最近ChatGPTに実装されたパーソナライゼーションメモリ機能について、社会が航行するための新しい課題は「AIのパートナーがあなたに対して証言する必要がないように、または裁判所に召喚されないようにするためのものです。」と述べています。

AIによって生成されたデータや記録が法的手続きでどのように取り扱われるかについては、国や地域によって異なる規制や解釈があります。AIとプライバシーに関する法律は進化し続けており、AIが人々の日常生活に深く組み込まれていくにつれて、その法的枠組みもさらに明確になっていく必要があります。

例えば、ヨーロッパの一般データ保護規則（GDPR）のような規制は、個人データの処理に厳格なルールを設けていますが、AIによるデータ処理の具体的なケースにどのように適用されるかは、まだ完全には解明されていません。また、AIが生成したデータが証拠としてどのように扱われるか、その証拠の信頼性や有効性をどのように評価するかという問題もあります。

このような問題を考慮すると、AIの使用に関する透明性、データ保護、そして個人のプライバシー権の保護が重要な議論のポイントとなります。それに、AIによるパーソナライズメモリの利用が個人の権利や自由を侵害しないようにするための技術的、法的保護策の検討も必要です。

パーソナライゼーションメモリ機能については下記のNoteに詳しく解説していますので、合わせてご覧ください。

プライバシーとのトレードオフ

サムは、この様に話しています。「プライバシーについてどのように考えるか、オンライン広告についてどのように考えるか、それらがAIと交差するとき、はるかに大きなリスクとはるかに大きなトレードオフが生じるため、私たちは本当に直面し始めると思います。」

つまり、Googleや他の大手テクノロジー企業のサービスは、便利さと引き換えに私たちのデータを提供するというトレードオフがあります。日常生活においてこれらのツールがもたらす利便性は計り知れず、それがない生活を想像するのは難しいです。このような状況はAIにも当てはまり、ますます私たちの生活に統合されていくでしょう。

AIの能力が向上するにつれて、私たちの生活に与える影響も大きくなり、それを管理する方法を見つけることがますます重要になってきます。それには、技術的な解決策だけでなく、法的な規制や倫理的な考慮も含めたアプローチが求められるでしょう。具体的にはユーザーの行動履歴を解析するAIがユーザーに表示する広告の問題があります。OpenAIはこの広告に依存しない運営を公式ブログで明記しています。詳しい解説を別のNoteで執筆していますので合わせてご覧ください。

今のAIのパラメータ空間にエンコードする効率の悪さ

サム・アルトマンは、現在のGPT-4が「パターン」や「概念」をパラメータ空間にエンコードし、データベースのように機能しているが、それは遅く、高価で、あまり効率的ではないと指摘しています。彼は、これが現在のモデルが推論エンジンを構築する「唯一の方法」の副産物であると述べています。

さらに、将来的には推論エンジンをデータの必要性やデータの保存から分離する方法を見つけ出し、より効率的なアプローチを開発できるだろうと予測しています。 この考え方は、AIの設計と運用における効率と実用性の向上を目指すものです。つまり、AIが直接的に大量のデータを記憶してアクセスするのではなく、より抽象化された方法で情報を処理し、使えるようになることが理想とされています。

AIネイティブの世代について

彼は、これから生まれてくる子どもたちについてこの様に述べました。AIネイティブの世代にとってAI技術は特別なものではなく、日常的に利用するツールの一部として自然に受け入れられることになります。このことは、彼らの学習方法、コミュニケーションスタイル、問題解決のアプローチに大きな影響を与える可能性があります。

また、このAIネイティブの世代は、技術がもたらす可能性を最大限に活用し、新たな創造的なアプローチやイノベーションを生み出すかもしれません。彼らは、技術との相互作用を通じて、より効率的かつ効果的な方法で個人的、専門的な課題に取り組む能力を自然と身につけることでしょう。この変化は、教育、仕事、社会関係においても新しいパラダイムを生み出すことになります。

アメリカに多い破壊論者について

彼はアメリカの大きな勢力となりつつある、破壊論者についての懸念をしめしています。

彼はこういいます。

現在の社会で、若い人たちに世界が完全にダメで、問題を解決しようとすることが無駄で、私たちができることは暗い部屋で座って自分たちがいかにひどいかを考えることだけであると教えているのは、非常に生産的でない流れです。MITが他の多くの大学キャンパスとは異なることを願っていますが、皆さんには、繁栄と豊かさ、来年のより良い生活、子供たちのためのより良い生活という人生の使命を戦うことをお願いします。これが前進する唯一の道であり、機能する社会を持つ唯一の方法です。

アメリカにおける破壊論者の例としては、環境問題や経済崩壊に関して常に最悪のシナリオを予測する評論家や活動家が挙げられます。たとえば、気候変動に関する議論で、地球の未来が非常に暗いと繰り返し述べる人物や、経済危機について常に崩壊を予言する経済学者などがこれに該当します。これらの人々は、しばしばメディアでその見解を共有し、公衆の意見に影響を与えることがあります。

AI技術、特にChatGPTやSoraのような高度なシステムが登場した際の反応には、さまざまな心理的な要因が影響しています。これらの反応は、技術に対する不安、誤解、そして未知への恐れに根ざしていることが多いです。以下に、これらの心理を解説します。

1. 恐怖の不確実性: AI技術が急速に進化することにより、人々はその影響が自分の生活や社会全体にどのように作用するかを完全には理解できないことがあります。特に、AGI（汎用人工知能）のような概念は、その能力が人間の理解を超える可能性があるため、コントロール不可能な何かを生み出すかもしれないという恐怖が生じます。

2. メディアの影響: メディアがAIに関連するネガティブな情報や、過剰なスキャンダライズを報じることがあります。これにより、人々の間で不安や恐れが煽られ、技術への抵抗感が生まれやすくなります。

3. 損失回避: 人間は一般に、得るものよりも失うものに敏感です。AI技術が仕事を自動化し、雇用機会を奪う可能性に対する懸念や、プライバシーの侵害など、AIによる変化が自分たちの現状を脅かすと感じることが、反対運動につながることがあります。

4. エートス（注01）に対する挑戦: AIのような技術が、人間の独自性や特別な地位を脅かすと perceあられる場合、文化的または哲学的な抵抗が生じることがあります。これは、人間中心の世界観を保持しようとする心理から来ています。

※注01：エートス（ethos）」という言葉は、ギリシャ語由来で、主に「性格」、「慣習」、「信条」を意味することが多く、あるコミュニティや文化、組織に特有の特徴や価値観を指す際に使用されます。哲学や倫理学で使われることが多く、特定の集団や社会の道徳的性質や信念の体系を表現するために用いられることもあります。

若い研究者や研究者を目指す人々へのアドバイス

この部分は重要なので、サムの言葉を翻訳して掲載します。

まず第一に、これはおそらく何十年にもわたってキャリアをスタートさせるのに最もエキサイティングな時期です。これは非常に重要なことで、この巨大な追い風があることは、いつもより多くのリスクを取ることができると思います。もし何かがうまくいかなくても、長い間素晴らしい機会が続くでしょう。通常よりも大きな影響を与えることができるので、この期間に一生懸命働くことが求められます。私はAIと一緒に何かをすることをお勧めしますが、もちろんそう言うので間違っているかもしれません。一般的に、キャリアの早い段階で学ぶべき最も重要な教訓は、あなたが何でも理解できるということです。誰もが最初からすべての答えを持っているわけではなく、ただ何とかそれを乗り越えて、速い反復速度で試み、自分にとって最も興味深い問題に向かって漂い、最も印象的な人々と一緒にいることで、正しいことに逐次的に反復する信頼を持つことです。

さらに彼は、人々が自分自身の能力に対する認識を拡大し、何か新しいことを試みる際に、実際には自分が想像している以上に多くのことを、より速く達成することができると指摘しています。このようなマインドセットは、自信を持って挑戦し、継続的な学習と成長を促進する重要な要素です。
サムの言及する「ただ何かをする」というのは、単に行動に移すことの重要性を示すものであり、具体的な目標に対して積極的に取り組むことの価値を説いています。このプロセスを通じて、人々は自身の潜在能力を最大限に引き出し、予期せぬ成功を収めることが可能になるというわけです。

テクノアバンダンスの推奨

「テクノアバンダンス」という言葉は、技術を通じて繁栄と豊かさを実現するというコンセプトを指します。これは、先進的なテクノロジーが人々の生活の質を向上させ、より豊かで充実した生活を提供する可能性を表現しています。具体的には、AIや他のデジタル技術が、教育、医療、エネルギー、交通など多くの分野で革新をもたらし、それによって人々の日常生活が大きく改善されることを想定しています。

このアイディアは、技術が単に問題を解決するだけでなく、人々の生活を豊かにし、新たな機会を創出するという楽観的な見方に基づいています。サム・アルトマンがこのテーマを強調することで、彼は技術のポジティブな影響を最大限に活用し、社会全体の福祉を向上させる可能性を信じていることを示しています。

スタートアップにとっては非常に長い間で最高の時期

サム・アルトマンは、「スタートアップは、大きなプラットフォームのシフトの際に成功する傾向があります。」と述べていますが、彼が指摘しているのは、大きなプラットフォームの変化の際には新しいチャンスが生まれ、特にスタートアップが大きな成果を上げる機会があるという点です。インターネット広告経済圏のエコシステムから、より先進的で包括的なAIを中心としたエコシステムへの移行は、このような変化の一例と言えるでしょう。

サム・アルトマンやOpenAIが推進するような、AIを核としたエコシステムは、単に広告収入に依存する現在のモデルから、データとAI技術を活用してより多様な価値を創造する新しい経済の形を提案しています。この移行は、新たなビジネスモデルの開発、効率化されたサービスの提供、個人の生活の質の向上など、広範な影響を及ぼす可能性があります。

この変化の中で、スタートアップは新技術を迅速に採用し、イノベーションを推進することで、市場での競争優位を確立するチャンスを持っています。大きなプラットフォームのシフトは、既存の大企業が対応するのに時間がかかるため、より小さくて動きの早い企業が先行して利益を得ることができるのです。

AI規制に関しての本音

サムはこの様にAI規制に対する本音を話しています。

規制行動が受け入れかねない衝動は完全に理解できます。なぜなら、それは単に大企業が規制の獲得を利用するだけだからです。（注02）そして、社会がAIを全く規制しないことを決定しその結果を受け入れるならば、私は民主的なプロセスの結果を受け入れるでしょう。しかし、恐怖に基づいて行動するのではなく、いくらかの合理的な注意を払って進めるべきだと言う声があるのは良いことだと思います。

※注02：実際の規制策定プロセスで大企業が影響力を行使することがあり、それが市場の競争環境に影響を与える場合があるという点は重要な考慮事項です。このため、規制が公平かつ効果的であるためには、透明性のあるプロセスと多様な利害関係者の意見が反映されることが必要です。

エンドユーザー向けアプリケーションにも大きな可能性

サム・アルトマンがインフラストラクチャの構築も重要だと認識しつつ、同時にエンドユーザー向けアプリケーションにも非常に大きな可能性があると指摘しています。具体的には、現在市場には「1000億ドル規模のアプリケーション層の企業」が多数存在しており、これらの企業が人々に迅速に非常に有用なサービスや製品を提供していることが、彼にとって非常に興奮する点であると述べています。

これをChatGPTがアプリになるという文脈に当てはめると、ChatGPT自体がアプリケーションとして提供されることによって、直接的にエンドユーザーに役立つ機能やサービスを提供する可能性があるということです。すでにChatGPTはWebインターフェースやAPIを通じて利用可能ですが、専用のアプリケーションとして提供されることで、さらにアクセスが容易になり、ユーザーエクスペリエンスが向上する可能性があります。このような動きは、ユーザーにとって直接的な利益をもたらし、市場においても大きな影響を与えることが期待されます。

AGIは私のOSの中に組み込まれている

最後に行ったサム・アルトマンの美しい言葉をここに共有します。

I have been trying to avoid using the term 'AGI' anymore. Honestly, it feels like I'm never going to completely succeed in that because it's deeply embedded in my operating system. I often wonder when we will achieve new scientific breakthroughs in certain areas, or when we will be able to significantly boost economic value. By the end of this decade, I expect that our systems will create substantial economic benefits.

彼は「AGI」という言葉を使わないようにしようとしているが、それが完全に成功することはないと述べています。そして、それは「（自分の）OSの深い部分に根ざしている」ためという意味合いが込められています。彼の言葉には、AGIに関する一般的な議論や期待から距離を置こうとする意志が表れていますが、その用語が非常に根強いため、完全に避けることは難しいと認めているのです。