OpenAI サム・アルトマン最新２時間インタビュー＜7500文字 詳しめ要約＞
編集局員のpsymenです。AI最新情報を読み解きます！
レックス・フリードマンは、MITで自動運転AIなどを研究する傍ら、世界の天才たちを相手に数時間に及ぶ容赦のないガチインタビューをする、ポッドキャストインフルエンサーです
彼がサム・アルトマンに２回目のインタビューをしました
3/18に公開された、この2時間に渡るインタビューですが、
解任騒動を含めて、サム氏がとつとつと真摯に話している様子が非常に印象的だったので、GladiaとClaude3の助けを借りながら、動画を直接聞き取り解像度高めに要約しました
🎙️11月のCEO解任騒動、経営陣について
唐突な解任劇の一件とそれを起こした取締役会を含むガバナンス構造、イリヤ氏について振り返った
first and last time i ever wear one of these pic.twitter.com/u3iKwyWj0a
— Sam Altman (@sama) November 19, 2023
解任劇の振り返り
事件までは、まだそこそこの規模の会社を技術者たちと向き合って経営している感覚だった
取締役会からの宣告、新しいCEOの設置の流れは本当に不意打ちだった
「人生で最も辛いプロフェッショナルとしての経験」だったが、多くの人々からのメッセージに救われた
しかし、比較的早い段階でこのような出来事が起きたことで、組織のレジリエンスを高める機会になったと考えている
個人的にもこれまで自分は性善説であまり細かい事を気にしない楽天主義だったが、今回の出来事は明らかにその考えに変化を与えた
取締役会の権限と構造への認識
OpenAIの取締役会が通常の企業とは異なる大きな権限を持っていることは意識すべき
株主に答える必要のない非営利組織の特殊性が、今回の事態を招いた一因と考えている
新しい取締役会への期待
一連の出来事を受けて、非営利組織や企業経営、法律・ガバナンスの専門知識を持つメンバーを起用したことで、適切な体制が整った
刷新された取締役会には、より堅固なガバナンス形態の構築を期待している
イリヤ・サツケバー氏について
イリヤ氏は開発されてしまったAGIを見て警告を発したわけではないし、AGIは達成されていない
イリヤ氏がAGIと安全性の問題に長期的視点で思慮深く取り組む姿勢は「人類の誇り」だ
イリヤ氏の事は尊敬しているしこれからも一緒に働いていきたい
彼がどのように考えてるかを知りたい
最近イリヤ氏と一緒に出席したディナーパーティでは彼は子犬とご機嫌そうに遊んでいた
イリヤ氏の現在の立場や沈黙の理由については本人に聞いて欲しい
🎙️ イーロン・マスクによる提訴について
イーロンマスクとの経緯の説明
イーロンは研究段階にあったOpenAIを営利化してCEOになる事を望んだが「このプロジェクトは個人が絶対的に支配するべきではない」と我々は却下した
イーロンは「このままでは絶対にGoogleには勝てないからテスラの一部になりキャッシュカウとして営利化すべきだ」と伝えてきた
その後2018年2月末、イーロンはテスラでOpenAIの競合を立ち上げるとしてボードメンバーから立ち去った
この判断を選択したのはイーロンマスク自身で我々が追放したわけではない
「OpenAI」という社名とその捉え方について
今、当時に戻れるのであればこの名前はつけない
強力なAIツールの無料版を広告モデルにせず一般に提供しているのは我々が行なっている活動の重要な「オープン」な部分だ
ただし、AIをオープンソースにするべきか否かは宗教論争に近い信条の問題でもあるので「ニュアンス」が重要であり、断定的な見解は避けるべき論点だ
彼の訴訟の要点は「GPTをオープンソースにしていないのに社名をOpenAIとしている、ClosedAIに変更すれば提訴を取り下げる」だが、泥縄的に急いでGrok1をオープン化したように、実際にはそこを重要な争点と考えていないように思える
現代代表する価値創造者であり尊敬するイーロン氏が、本人も嫌いな「アンチ勢」のような動きを取ることがとても悲しい
🎙️ Soraについて
Soraは世界モデルなのか
Soraは人物が物体の前を通過し、一時的にそれを隠した後、再び同じ物体が現れるシーンを適切に処理できる（オクルージョン判定）、最初に見た時これが印象的だった
ただ、Soraが3Dとして世界を認識しているモデルだと言い切るのは誇張だと思う
デモの動画においてネコに余分な手足が生えてきたりするのは、モデルのアプローチに内在する根本的な問題なのかもしれない
Soraは我々とは違う方法で世界を認識しているが、LLMがテキストのトークンで成し遂げたような、規模による「魔法」が、Soraのビジュアルパッチでも実現できる可能性がかなり高い
ビジュアルパッチの学習方法は？
Soraの学習には、インターネットからの自己教師あり学習以外に人的なラベリング入力も行っている
Soraのリリースに関する危険性
Soraをリリースすることに伴う危険性について認識しており、現在はOpenAIのレッドチーム内で検証中だ
ディープフェイクや誤情報の拡散など、悪用のリスクを考慮する必要がある
Soraを含むAI学習元の著作権問題
価値あるデータを作成した人々やアーティストには、自分のスタイルでAIが作品を生成することを拒否する権利や、生成された作品から経済的利益を得る権利があるべきだ
具体的な解決策はまだ明らかではないが、データの利用に対する経済的なモデルが必要だと思うし、それについても試してみている
人間の役割の変化
単に職業全体がAIに置き換えられるという見方ではなく、むしろ職業を構成する「タスク（作業）」のうち、どの程度がAIによって担われるようになるかを、5秒、5分、5時間、さらには5日といった様々な時間スケールにおいて考えるべきだ
AIが取り扱える量は増えていき、より高度で複雑な「タスク」を担えるようになる
これは人間の頭脳が取り扱うべき問題の質にも影響を与える。人間はより高いレベルの抽象化された問題に取り組めるようになるだろう
YouTubeにおけるAIの役割
今後5年以内にYouTube上の動画のうち、AIを活用したコンテンツの割合が大幅に増加するだろう
おそらく大半の動画において、AIツールが制作過程のどこかで使用されるようになるが、根本的には人間が主導権を握り、監督や指揮を行うはずだ
人間の人間に対する興味の優位性
人々が優れたものに興味を示すのは確かだが、結局のところ人間に対する興味が最も強い
車は人間よりも速く走れるが、人々は今でも競走を行っている
🎙️「GPT4」「Q*」「GPT5」について
GPT4についてどう思う？
自身は、ほぼブレストパートナーとして使っている
人々の翻訳、文章生成、コーディングなどに役立っているが、ブレストパートナーとしては、それ以上の何かクリエイティブなものがあると感じている
この価値にネーミングをするべきだと思う
今の段階ではどうすればいいのかは見えていないが、この課題については別途追及すべきものがあると思う
また、いつもうまく行くわけではないが、複数の具体的なステップに分解された長く抽象的タスクがうまく行った時には魔法のように感じる
この種の問題は、階層的な抽象レイヤー化を人との往復的なやりとりを介在させて行うとうまく解ける
問題を分解し、異なる抽象レイヤーで統合する事において、今
我々は指数関数的な発展状況にいる比較的すぐにGPT3からGPT4への飛躍と同じぐらいの感覚でGPT4を振り返る事になるだろう
GPT4が人々にAIへの注目を集めたのは、RLHFなどからもたらされた主にUXの部分だった
しかし技術的な面ではそれは表層的な一部分であり、やはり重要なのは基礎となるモデルのスケールアップだ
コンテキストウインドウについて
GPT4 Turboの128kのコンテキストウインドウは、論文やコーディングに使う人以外にとっては、既に十分な多さだと思う
だが、遠い将来には数十億ものコンテキストウインドウが達成され、自分の全ての歴史についても入力可能になるだろう
GPT4の興味深いユースケースについて
特に若い人たちは知識労働の作業において、これがワークフローのデフォルトのスタート部分のように当たり前に使ってい始めている
ファクトチェックについて
次期バージョンではハルシネーションはかなり改善するが、今年中に全てなくなる、というものではない
原理を理解している人たちは、技術的にハルシネーションを伴うものだとわかったうえで、ファクトチェックをしながらうまく使っているようだ
メモリ機能とプライバシー問題について
最近実装されたメモリ機能は、将来的にはAIエージェントとして人生の経過と共にどんどんパーソナライズされて役に立つ物になる事を目指している
これは長期にわたる経験を統合し、将来に向けたゆっくりとした全体的な思考をリマインドしてくれるようなものだ
私個人はエージェントが全てを記憶している事になんの問題もない
しかしユーザー何も思い出したくない場合は、記憶のオンオフの選択権があるようにしたい
人間の短期的思考とゆっくりとした長期的思考についてパラダイムシフトが起こると思う
AIが、短期的な問題に対してはより迅速に、長期的な問題に対してはより深く思考できるようにしたい
Q*について
我々はまだそれについては話す準備ができていない
私たちはあらゆる種類の研究に取り組んでいて、今話してきたような課題にまだ完全な解は見つけ出していないが、非常に興味を持って取り組んでいる
世界にはAIに対しての適応と考えるための時間が必要だと思う。そのためにGPTは段階を踏んで公開してきた
GPT5について
「GPT5」をいつリリースするかは正直なところわからない
今年、素晴らしいモデルをリリースするが、それをなんと呼ぶかは決まっていない
今後数か月以内に様々な素晴らしいものをリリースする予定だ
イリヤの言葉を借りるなら「200の中規模のことを一緒にかけ合わせて、一つの巨大なものにします」という事だ
🎙️7兆ドルのコンピューティング資源、更にエネルギー問題、政治問題について
7兆ドルの調達の件
私自身は「７兆ドルの調達が必要だ」というツイートは一切してない（WSJによる「関係者談」を伝える記事）
「ちくしょう、8かもしれない」というツイートをしてしまったのは誤解を与えたかもしれない、あれは単なるミームだ
コンピューティング資源について
いずれにせよ計算資源は通貨のような、世界で最も貴重なものになるだろう
今では考えられないほどの量の計算資源が必要になる
その確保にはエネルギーセンターやデータセンター、サプライチェーン、そして十分なチップの確保も必要になる
エネルギー問題について
エネルギーについては核融合技術が解決すると考えている
スタートアップのHelion Energyに期待している（サムアルトマンも出資）
従来の原子力発電も優れていると思う
世界の原子力に対する姿勢が元に戻る事を望むし、新しい原子炉は作られるべきだと思う
AIについては、誤った道を進むと取り返しのつかない破滅へ繋がる可能性があると思うが、原子力については…
（話題がナーバスになってきたため、ここでレックス・フリードマンが質問を止める）
AIが政治化される事について
右派（規制派）、左派（推進派）の政治劇には巻き込まれる事になると思う
AIの危険性より利便性のほうがはるかに大きいとは思うが、危険性がないわけではない
ここには「劇場性」の問題があると思う
我々の心理は映画のクライマックスシーンに出てきそうな派手なものに、より大きな重みを感じてしまう傾向がある
例えば原子炉による死者より大気汚染による死者の方がはるかに多いが
だがほとんどの人は石炭火力発電所よりも原子力発電所の隣に住む事を忌避する
Googleと広告モデル、Geminiについて
我々が開発している事はインターネットの入り口になりえるが、Googleより優れた検索エンジンを再発明するつもりはない
それは面白くない事だし、世界も新しいGoogleは必要としていないだろう
LLMと検索を統合する事には興味があるし取り組んでみたい
マネタイズの方法としては、美意識として広告がとにかく好きでなく、GPTの課金によるシンプルなビジネスモデルが気に入っている
Google、meta、X社の広告モデルで成り立っているプロダクトは使うが、私はあまり好きではない
もちろん彼らのビジネスとシステムは素晴らしい、これはあくまで私の個人的趣向の話だ
検索するとAIが出稿主の商品をレコメンドしてくるような世界はディストピアだと思う
そして世の中の進歩は、AIによってそのような方向に向かっていると思う
広告モデルなしで我々の事業を成長させる方法、これを考える必要があるが、可能だと思う
Geminiの画像生成機能と過度な政治的配慮による炎上は簡単な問題ではないし、我々も同じようなミスは犯してきた
（ポリコレに配慮しすぎたためか、アジア人のナチスや黒人のアメリカ建国者等、極度に左派的で歴史的に不正解な画像を出力してしまった件）
文化的闘争、安全性の確保について
幸いOpenAI内では、AGIへの信念が他の事を排除しているため、他の西海岸のテック企業で聞くような政治的、文化な闘争はない
AIが強力になるほど、安全性の問題は社会全体で考える事になる
GPTには「国家主体」がモデルのハッキングしようと試みている
🎙️ロボット、そしてAGI
OpenAIとロボット
AGIが達成されたときに、現実世界で物事を成し遂げる手段が人間しかないのは悲しい事だと思う
ヒューマノイド型等何らかのロボットの登場を願っている
かつてのロボット工学へのアプローチは間違っていたが、いずれか何らかの形で戻る事になるだろう
我々は小さい会社なので今はAGIの開発にフォーカスしている
AGIの定義について
「AGIがいつ達成されるのか」を考えるのが好きだったが、最近は何をもってAGIと定義するのか、人によってかなり異なる事に気が付いた
真の意味でのAGIはるか未来の事であり、今は「X」「Y」「Z」と具体的な達成事項について議論する方がよい
ただ、質問をはぐらかさず答えるとしたら「これは本当に素晴らしい」と言える非常に有能なシステムは10年、場合によっては更に早く達成できるだろう
システムが世界の科学的発見のスピードを大幅に向上させることができたら、本当に大きな「転換点」になると思う
真の経済成長のほとんどは科学技術の進歩から来ていると信じている
AGIに何を質問するか
もしAGIが達成されたら最初に聞いてみたい質問は「万物の理論は存在しうるのか、YESかNOか」だ
だがおそらく最初のAGIにはデータが足りないために返答はできないだろう
かわりに「その質問の答えを知りたいなら、この機械を作ってこの5つの測定をしてその結果を教えてほしい」などと言うかもしれない
AGIを持つ者の権力、それに対するガバナンス
私や他の誰か一人の人間がOpenAIやAGIを完全に支配することは重要ではない
昨年の解雇の件を振り返っても、強固なガバナンスシステムが必要だ
理事会には法的に私を解雇する権限があったけど、実際にはそれがうまく機能しなかったと多くの人が指摘しているが、この事自体がガバナンスの失敗だと思う
政府が道筋を示すルールを定める必要があると考えている
マーク・アンドリーセンのような人たちが、私が「規制の虜」になっていると主張するだろうことは理解しているが、それは覚悟の上だ
（マーク氏はテクノロジー楽観主義で知られる）AGIがコントロールを失う危険性については、いろんな局面が考えられるが、特に自らインターネットに接続して外部に干渉するようになる危険性については、先ほどの「劇場性」の問題によってみんなが気に掛けている
実際に、賢くて善意のあるAI安全研究者たちの大きなグループがその問題にすっかり囚われてしまっているが、その事は嬉しく思っている
🎙️ツイートを全て小文字で行う唯一のCEOである点について
i'm very happy to welcome our new board members: fidji simo, sue desmond-hellmann, and nicole seligman, and to continue to work with bret, larry, and adam.
— Sam Altman (@sama) March 9, 2024
i'm thankful to everyone on our team for being resilient (a great openai skill!) and staying focused during a challenging…
（文章の冒頭、人物名等一切大文字を使わない）
みんながその事について質問したがるが、子供のころからチャットを大量に行っていて、その時から大文字への切り替えはしていなかった
かつて「きちんとしている」と見られたい場面ではキャピタライズをして文章作成をしていたし、今でもWordで企画書を作る時などは大文字を使う
あまり深く考えたことがない、次第に今のスタイルになったと思う
世間が思うように、特に「慣習やシステムへの反抗心」を表明しているわけではない
🎙️シミュレーション仮説、エイリアンについて
シミュレーション仮説について
（Soraなどを見てのレックス・フリードマンからの質問として、「この我々の世界も大きなシステムのシミュレーションかもしれない」とするシミュレーション仮説についてどう思うかを質問）
多少はあり得るかもしれない
しかし我々が世界を生成できたことがその強力な証拠だとは思わない
Soraのような事ができる予感はあったし、それは思ったよりも早く起こったが、これが大きなブレークスルーだとは思わない
以前よりシミュレーション仮説の可能性を高める要素は登場していきていると思うが、Soraがその要素のトップ5に入るとは考えていない
知性を持った存在、エイリアンはいると思うか？
その答えは「イエス」だと心から信じたい
フェルミのパラドックスはとても複雑だと思う
（地球のような惑星が恒星系の中で典型的に形成されるならば、宇宙人は広く存在しており、そのうちの数種は地球に到達しているべきだが、確認できないのはなぜか、という問い）
AGIがもたらす未来
AGIは単一の脳のようなものになるのか、それとも人類社会の足場のようなものになるのかということに興味がある
現代医学、食糧事情の改善、iPhoneの誕生、などどれも飛躍的な発展をもたらし、信じられないような能力を与えてくれる
これは一人の人間が作ったわけではなく、我々の社会が生み出したものであるといえる
我々は共により良い未来に向かって前進している
とても興味深く面白い時代に生きている事、自分の人生にとても感謝している
レックス・フリードマンによる締めくくりの言葉
"It may be that our role on this planet is not to worship God, but to create Him."
「私たちのこの惑星での役割は、神を崇拝することではなく、神を創造することかもしれません」（アーサー・C・クラーク）
この記事が気に入ったらサポートをしてみませんか？