速報&全文書き起こし：サムアルトマンCEO来日＆慶大生とトーク(ChatGPT部, 大城)
おはようございます。ChatGPT部(チャットGPT部)の大城です。ChatGPTを作っているOpenAI社のサムアルトマンCEOが2ヶ月ぶりの日本訪問と慶大生に向けたトーク＆質疑応答をしている動画が6/12に公開されましたのでそちらのご案内です。40分くらいある＆めっちゃ早口なので、日本語字幕推奨です。いやしかし、時代の一幕ですね。そして慶大生の質問が私も聞きたかったトピックだらけで素晴らしいです。(慶應大学、といえばDS協会の安宅さんはどこかで関わってらっしゃらないかしら・・？)
このnoteでは前半に私が気になったポイントを、後半はめっちゃ長いですがChatGPTにyoutubeの書き起こしを整理してもらった全文を記載したいと思います。
動画はこちら
Youtubeは速度変更や字幕追加ができるので、そちら使うことをお勧めします。
次の質問ないですか？に対して上がるたくさんの学生の手
以下、前述のyoutubeより。引きの1枚、学生の興味が伺えますね。(いいなぁ・・)
気になったワードメモ
・ChatGPTが思考しているか、という問いはそのように我々が感じるのであれば(実用上) そうなのではないか
・(インターネットと共に誕生した) 自分の世代はテクノロジーの黄金時代
・2015年に汎用AIの構想を出した時は完成は100年後だよと笑われてモチベーションも下がることがあった、けど得られる利益が莫大なので、失敗してもいいやと始めた
・Q：これからの学生は何を学ぶべきか？A：(世の中の)枠組みを学ぶ意味で興味にのある分野はなんでも良いのでは
・Q : 5年後はどうなると思うのか？ A : 豊かになる、速度が上がる。今はタスクをこなしているが仕事が変わる。
・将来生産性が五倍､十倍となっても欲しいものは無くならない。クリエイティビティは残り続けるのでは。
・(加速する世界においては) 将来を予測することは困難。テクノロジーの変化をウォッチし続けることが大事
・Q：生成系AI、特に画像生成の現状をどう思うか？ A：著作権侵害などはよくない状況。ただ、解決に向けて色々なトライをすべき
・OpenAI社はChatGPT-5開発に色々な人が参画している。そこには数学者や物理学者だけではなく、プログラミングができない人もいる。（日本拠点開設も計画しているので) ぜひ応募して
youtube書き起こしをさらにChatGPTで校正(分量注意)
どんどん貼っていきますね。分量注意。ちなみにこんな感じのプロンプトで依頼しています。
では修正後の全文書き起こしです。
その１：ChatGPTは科学的にはどの程度人間の言語を理解しているのか？ -> (厳密な定義より) 我々にとって有用である、というのが大事
■修正後のパラグラフ１
司会：
慶応大学にようこそ、再びお越しいただきありがとうございます。2ヶ月前にも日本にいらっしゃいましたよね。それは今回が今年2度目の来日ということですね。こんなに早くまた日本に戻ってくるとはどうしてでしょうか？
サムアルトマンCEO(以下、サムアルトマンと記載)：
日本はとても重要な国なんです。長い歴史、そして人間とマシンが共存するという歴史があります。技術を受け入れて、さまざまなことを実現してきた国です。それは私もとても楽しみに思っています。だからこそ、パートナーシップの可能性がある国だと感じています。ですので、再度訪れ、さまざまな対話を進めていきたいと思います。日本で素晴らしいことが実現できると信じています。
司会：
ChatGPTとのやり取りを通じて、人間の言葉をしっかりと理解しているという感触があります。具体的には、どの程度ChatGPTは、科学的に言って、人間の言語を理解しているんでしょうか？
サムアルトマン：
私はこれこそが言語理解の重要性を示していると思います。もしChatGPTが皆さんに役立つ回答を提供し、人間と話していると同じぐらい有効な答えが出せるなら、それこそが言語を理解していると私は定義します。いくつかの批判があるかもしれません、それは一人ひとりの見解です。しかし、大切なのはそのシステムが提供する価値と有効性です。それがどのように言語を理解し、それがどのように役立つのかが重要です。
言語を理解し、そのニュアンスや複雑なトピックまで把握できているように思えるなら、それは将来的に新しいアイディアを生み出したり、人間の知識の進歩に貢献できるでしょう。しかし、"理解"の定義については議論が必要です。ともあれ、その感覚が重要であると思います。
その２：教育者の観点からの質問 -> 過去にも計算機の登場で仕事が無くなったわけではなく、むしろチャンス
■修正後のパラグラフ２
司会：
ありがとうございます。最後の質問となりますが、教育者の観点から、AIの教育場面での適切な使い方はどのようなものだと思いますか？私自身、ある程度の偏見を持っていることを前提に、お聞きします。
サムアルトマン：
まず最初に、歴史的な例を挙げましょう。計算機が初めて出現したとき、様々な懸念がありました。例えば、「もう数学を教える必要がなくなる」とか、「これからは全ての計算を機械に任せなければ、子供たちは計算ができなくなる」といったものです。それは、数学の理解が失われてしまうのではないか、という心配からでした。一部は当然実際に起こった事柄もありますが、全てが実現したわけではありません。たしかに、計算機が身近になったことで、人々は数学の計算能力を求められる機会は減少したかもしれません。しかし、それはより優れたツールが手に入った結果であり、人間の可能性が広がったとも言えます。したがって、当然ながら期待値も上がります。
私たちはかつて、例えば複雑な計算に時間をかけていました。それが、今ではどのように数学を高校で教えるのか、という問題につながっています。同様に、AIや計算機がさらに進化し、私たちの手元には今以上に高度なツールが手に入るようになるでしょう。その結果、教育の方法も変わらなければならないと思います。
文章を書くことは、多くの意味で重要ですし、プログラミングの方法を教えることも重要です。これは、「どのようにアイデアを処理するか」ということを学ぶためです。複雑なアイデアを文章にまとめることで、最終的に自分でエッセイを書く力を身につけることができます。それは論理的な思考力を身につけることにつながります。そして、それを評価し、教える方法もより良いものに進化するでしょう。そういったプロセスを通じて、新しいこと、そして、そういった評価や教育方法がより良いものへと進化していくのではないかと思っています。そして、このようなプロセスを通じて新しいことを学んでいくのです。
例えば、5歳であろうとも、日本で小学校を始める具体的な年齢は私にはわかりませんが、そういった新しいことを学ぶ機会を持つ人々を私は非常に羨ましく思います。教育の中でそういった学びの機会を提供することがとても重要だからです。我々全てにとって、これは教育にとって大きな一歩を踏み出すことになると思います。
その３：司会のサマリ、その後の一般質問として最大のチャレンジについて -> ４年半ほどの間の初期の計画がうまくいかないのが最大のチャレンジ
■修正後のパラグラフ３
司会：
ありがとうございます。これからの世代の人たちは、幼い時からAIに触れることになるでしょう。子供たちはこのような形で接することになり、非常に賢く、教育を受けて、よりパワフルなツールを使えるようになると思います。過去の歴史を見ても、より良いツールが段階的に登場してきました。もちろん、それを使わない人もいるかもしれませんが、社会全体としては進歩していくでしょう。これは日本でもこれから現れてくると思います。以上、私からの質問はこれで終わりです。
それでは、聴衆からの質問に移りたいと思います。登録用紙に書かれた5つの質問があります。最初の質問は、起業家精神とスタートアップについてです。今までのところ、あなたが直面した最大のチャレンジは何でしょうか。そして、どのようにそのチャレンジに対応しましたか？
サムアルトマン：
最も大きなチャレンジとしては、多くのことがうまくいかないという事実です。スタートアップを始めると、多くの困難が発生します。これに耐えることは可能かもしれませんが、それがなかなか困難です。スタートアップの難しさは、問題を解決することが可能でも、1週間後にはペースが落ちてしまうところです。そして、最初にとにかくスタートして進めていきたいと思うのですが、その過程で多くの問題に取り組む必要があり、それが苦痛になることがあります。特に最初の段階で、私が経験したときには非常に困難なことがたくさんありました。例えば、計画通りに進まなかったこと、最初の4年半で製品が出るかどうかも分からなかったこと、良いアイデアが浮かばなかったことなど、様々な大きな課題がありました。しかし、それらに対応して乗り越えることが重要だったのです。そして、その結果、前に進むことができたと思います。
その４：大規模言語モデルの進化 -> 従来の置き換えではなく、GPT-4のように新たなアイディアが出ることが大事
■修正後のパラグラフ４
司会：
それは非常に励ましになるお言葉です。では次の質問に移ります。登録用紙に書かれていたもので、AIテクノロジーの進歩についての質問です。どのような形でこのAIの進歩が大規模言語モデルの複雑性に貢献していくでしょうか？
サムアルトマン：
大規模言語モデルはこれからさらに進歩していくと思います。オーディオ、動画、そしてテキストの領域でさらなる進化を追求していくでしょうし、それによってより賢くなっていくはずです。しかし次のパラダイムとしては、これを人間がやっていることを真似するだけでなく、GPT4のように新しいアイデアを生み出すことができるようになることに私は非常に興奮しています。
たとえば、GPTのパラダイムにおいて、どうやって新しい知識を発見したり、難病の治療方法を探し出したり、新しいアイデアをAI自身から引き出すことができるかということについて考えてみてください。もちろん、これがただのおもちゃであると思われているかもしれませんが、それでは本当には役に立たないわけです。私はこれらのモデルによって新しい科学の進歩がもたらされることを非常に楽しみにしています。これによって世界がより良くなり、またこれまで1年や5年とかかっていたプロセスがより速く進行すると思います。
その５：倫理面について、教育面について -> 世界はこれからこの問題について議論が必要、教育に関しては技術黄金期では
■修正後のパラグラフ５
司会：
ありがとうございます。次の質問に移りましょう。それはAIの社会的な側面、具体的には法律や倫理、著作権、個人情報保護の問題についてです。
サムアルトマン：
どんなツールも、特に強力なものはリスクを伴います。その一方で、AIのメリットは明らかです。科学の進歩を推進し、生産性を向上させ、教育を容易にするなどの利点があります。また、効率的に仕事を進められるというメリットもあります。しかし、そうした利点と共に、課題や挑戦も存在します。
私たちはAIに対する確信を持っていますが、それと同時に倫理的な課題にも対処しなければなりません。これは新しい革命の一部であり、社会全体に影響を及ぼします。このモデルによって、私たちは賢く、効率的にコンテンツを作成することができます。アーティストであれば画像を生成することも可能です。しかし、全ての人がその恩恵を受けられるようにするためには、それがうまく機能しているのか、法律や倫理的な問題にどう対処するかなど、様々な問題を考える必要があります。
これからの世界は長い道のりを歩むことになるでしょう。その中で、シリコンバレーでは、例えば著作権に関するモデルをどう対応するかなどの問題が浮上しています。
司会：
次に、教育についての質問に移りましょう。もし再び学生に戻って、何でも学べるとしたら何を選びますか？
サムアルトマン：
私たちは経済成長と技術の躍進という黄金時代に入ろうとしていると思います。インターネットが始まった時代、私たちは子供で、何でも楽しむことができました。その意味で、何を学んでも大丈夫だと思います。全ての業界に影響を及ぼす可能性があるからです。私が選ぶとしたら、物事を考える枠組みを学ぶでしょう。しかし、他の人が選ぶものは異なるかもしれません。それは、クリエイティビティあるいは調整能力を身につけること、または急速に変化する世界に対応できる能力を身につけることかもしれません。今の時代は、コンピューターを使ってさまざまなことができ、何を優先すべきか、他の人にとって何が重要なのかといった視点を持つことが重要です。それらはどんな分野を選んでも学べるスキルです。
私自身はおそらく、これらのツールをより深く理解し、活用することを選びます。それは私のライフプランと合致しているからです。
その６：モチベーションについて -> 疲れたら休もう、それでもモチベーションが上がらない場合はテーマを再検討しよう
■修正後のパラグラフ６
質問者：
(あなたの)モチベーションというものは一体何でしょうか。一生懸命働くための原動力とは何でしょうか。
サムアルトマン：
自分自身も含め、人々が常に高いモチベーションを持ち続けることは難しいと思います。もちろん、やる気が出ない時期や、モチベーションが下がる時もあります。
他の人と同じように、私もモチベーションが低下する時期があります。しかし、無理に一生懸命働くというモチベーションを維持しようとするのではなく、そういった時は意識的に休息を取ります。例えば、長期休暇を取る、昼まで寝る、趣味に没頭するなどしてリフレッシュします。
やる気が出るときや、自分が好きなこと、興味があることに専念します。そして、それが「やらなければならないこと」リストの一部であるとき、それは一層やる気を高めます。しかし、反対に全くやる気が出ないときもあります。それもまた、自分自身を理解し、適切なプロジェクトを選ぶための重要な指標となります。
また、やる気が出ない時、それは自分が取り組んでいることが自分にとって本当に適していないのかもしれません。そんな時には、新たな取り組みを模索し、その結果として新たなモチベーションが湧き上がることもあります。それが私の考えるモチベーションの秘密です。
その７：何が現実か -> 100年かかると言われたLLMができたので、まずはやってみたら良いのでは
■修正後のパラグラフ７
質問者：
私が知りたいのは「何が現実か？」ということです。つまり、汎用AI（AGI）が実現可能となってきた現在、私の夢はそれを活用することなのですが、それがまだ遠い未来のことのように思えます。そのような概念をどのように現実のものとして具現化することができるのでしょうか？
サムアルトマン：
確かに、これは大きな課題だと思います。しかし、挑戦しなければ何も始まらないし、挑戦しないままでは誤解を抱き続けることになります。私たちは、オープンAIとして2016年1月から取り組んできました。そして、その前の2015年12月に発表しましたが、当時は汎用AIは100年先のものだと言われ、少しモチベーションが下がりました。しかし、その重要性を信じて、物理学の法則に縛られることなく、この範囲をAIで探求しようと決意しました。もし成功すれば大きな成果となるだろうと考えました。
そして、なんとかして汎用AIの取り組みを始めました。もちろん、初めて作り始めた時には、具体的に汎用AIがどのように機能するのかは十分に理解していませんでした。しかし、例えばロボットがルービックキューブを解けるとしたら、それはどのようなモデルで可能なのかと考え始めました。そして、その理想の姿を描きながら、自己学習可能なアルゴリズムを開発しました。そして、そのアルゴリズムが予測可能で拡張可能であるということは、当時誰も考えていませんでした。
この新しい視点により、どの方向に進めば良いかというベクトルが見えてきました。それが我々を先に進めてきました。だからこそ、何かやりたいと思うことがあれば、ぜひ挑戦してみてください。
その８：AIが間違った方向に進んだ場合の責任 -> 直接的な責任を持つというのとは違うが、未来のリーダーとの対話が重要、かつ研究は進めるべき
■修正後のパラグラフ８
質問者：
先日、アメリカの議会での講演を聞いたのですが、「もしAIが間違った方向に進んだ場合、それはとんでもない結果を招く可能性がある」という発言がありました。そこで私の質問ですが、プラットフォームの創設者、あるいはAIを革新的な存在にしたとするあなたの立場から、もしAIが誤った方向に進んだ場合、その責任についてどう考えますか？
サムアルトマン：
それは、どのようにそうなるかという事態に対して、直接的な責任を持つというのは少し異なると思います。しかし、もちろんAIを使う際には、その安全性を考慮しなければならないのは事実です。私たち自身がミスを犯した場合は、それは許されない事です。しかし、その上で言えることは、AIに対する責任を我々は感じています。そして、その役割を果たす過程で、我々が良い方向に進むためのルートを常に模索し、改善し続けるという努力を行っているということです。
この分野ではさまざまな可能性がありますが、我々は更なる研究と開発が必要で、それを支えるためには大きな研究開発資金も必要です。その中で、我々は確実にプラスの影響を業界、そして社会にもたらすよう努力しています。また、世界各地を旅行している理由の一つは、世界のリーダーたちとAIの未来について話をするためです。その中で、人類の存在自体のリスクについても議論することはあるかもしれません。しかし、開発を続けるという取り組みは重要であると思います。
質問者：
学生たちが大学でコンピューターサイエンスを学ぶ際に、どのようなトピックやサポートを提供すれば、研究が続けられるようになるでしょうか？
サムアルトマン：
これからの時代は、学術界が重要な役割を果たすと思います。コンピューターサイエンスの分野だけでなく、オープンAIや大規模言語モデルの研究もその一部です。それらをスケールアップするためにはそれらをスケールアップするためには、大学の部門が先頭に立つことも重要です。しかしその一方で、法律や倫理の面において、我々の行動が人々に利益をもたらすような方向に進めていくには大きな努力が必要です。
我々が開発したGPT-4についても、学術界からの言及や評価があり、その研究が進んでいることは認識しています。学術的なデータセットの作成や評価など、これらのモデルが何を達成できるのかを理解するためには、学術界の役割は非常に大きいと思っています。
(追記：その後、サムアルトマンCEOに対して研究への支援は考えられているか、という質問に対してはYESとの回答があった)
司会：
ありがとうございます。それでは、他に何か質問がありますか？
その９：国や文化での評価 -> ReLFなど人間のフィードバックによる強化学習、また現在も評価方法についての研究が進められている
■修正後のパラグラフ９
質問者：
ChatGPTがどのように様々な国や文化によって評価されるのかについてお尋ねします。
サムアルトマン：
評価の方法はさまざまですが、私たちの考え方を説明します。我々は当初、このモデルがどの程度性能を向上させることができるのか不確かでした。しかし、人間のフィードバックによる強化学習（Reinforcement Learning by Human Feedback: RLHF）という方法が登場しました。これにより、前のモデルと比較して、大幅な進歩を達成できました。その結果、より困難な問いに対応する強力なモデルを作成することが可能となりました。
例えば、従来の労働者への指示に基づく世界観ではなく、新しいプログラムで実際に新しいアイデアを集め、それを評価できるようなシステムを作ることを目指しています。
全ての人々がChatGPTと対話し、多様な倫理的な観点から自分たちの意見を形成することを目指しています。そして、そのフィードバックをモデルに反映させ、社会の価値観から学ぶことができます。
様々な設定において、システムが遵守すべき事項や避けるべき事項が存在します。そして、国やユーザーがそれらを調整することも可能だと思います。2人の人がモデルに完全に同意することはありませんし、2人の人が世界の価値観や役割について完全に同じ見解を持つこともないでしょう。したがって、カスタマイズが可能なモデルが必要となります。
評価の方法については、多くの異なる評価基準が存在し、それに基づく大規模な研究が行われています。GPT-4の価値を正確に把握し、それを向上させるために、多大な努力と研究が行われています。
その１０：５年、１０年後について -> 30倍、40倍の生産性という時代になれば、今の時点ではおそらく想像できない働き方が可能になる、想像力が重要
■修正後のパラグラフ１０
質問者：
ありがとうございます。AIの素晴らしい潜在性は皆さんが既に認識しており、その今後の展開に期待が寄せられていることでしょう。急速に進展するAIの中で、アルトマンさんはこれから5年や10年後の未来がどうなると考えていますか？皆が良い生活を送ることができるようになるでしょうか？雇用はどうなるでしょうか？
サムアルトマン：
どちらも改善すると思います。もちろん、一部の職種は消滅する可能性もありますが、同時に良い生活を送ることができるようになると思います。しかしながら、現在のシステムがタスク遂行に重きを置く中、真の「仕事」ができるようになってくると、その「仕事」の定義自体が変わってくるのではないでしょうか。例えば、人間のクリエイティブな仕事とコンピュータープログラムが組み合わさることで、以前よりも生産性が向上し、それが3倍、4倍になったとしたら、その結果生じる30倍、40倍の生産性向上がもたらす結果とは、我々がより良いことを達成できる時間が増えるということだと思います。
新しい製品がなくなって、仕事がなくなることは考えにくいです。新たな需要を満たすために新しい仕事が生まれてくると思います。これはすでにエンジニアの世界でも見ることができます。新しい特定の分野の仕事が生まれてくる可能性があります。したがって、多くの予測が出されていますが、そのほとんどが間違っていると思います。テクノロジーの進化を理解し、その進歩を評価するためには、これまでの技術的革命を見てきた経験が必要です。
新しい欲望や要求は常に生まれてくるので、クリエイティビティは非常に重要となります。そして、そのクリエイティビティが社会でメリットとなる需要はなくなることはありません。未来の仕事は今は想像できないかもしれませんが、何年か前には想像もつかなかった仕事が今では珍しくない、というのことを考えると、未来の仕事について考えるときにはオープンな視点が必要です。それが「今の基準から見れば仕事とは呼べない」と思えるものであっても、新しい視点から見ればそれが新しい価値を生み出す可能性を持つ仕事であるかもしれません。数年前の人々にとっては全く想像できないような仕事も、我々にとっては現実のものとなっています。このような視点から見れば、未来の仕事について考えるときには広い視野と創造力が求められるでしょう。
その１１：仕事がなくなる懸念について -> 人類全体に福音だが、一部の仕事は無くなるのでベーシックインカムなどの環境は必要
■修正後のパラグラフ１１
質問者：
私の考えでは、AIが社会に役立つ一方で、仕事が無くなる可能性もあると思います。ここにいる方々は権限を持っているので、何とか生き残っていくことができると思います。しかし、それとは別に、低所得者の間で仕事が失われていくという現象についてはどう思いますか？
サムアルトマン：
その点については、2つの観点から考えています。まず1つ目として、このテクノロジーは全ての人に革命をもたらすという確信を持っています。具体的には、認知労働力のコストを下げることで、医療ケアの質を向上させることができると考えています。現在、世界中で十分な医療が提供されていない中、ほぼ無料に近い形でそれを提供できるようになります。同様に、教育についても、現状では豊かな人々だけが良い教育を受けられていますが、この技術により貧しい人々でも良質な教育を受けられるようになると考えています。結果的には、貧しい人々の方がこの技術の恩恵をより多く受けられるでしょう。このように、このテクノロジーは社会の平等を実現する力を持っていると考えています。
しかし、2点目として、仕事の変化については認識しています。5年前や10年前に専門家たちが警告していたように、オートメーションは低賃金の仕事を無くす可能性があります。一方で、コンピュータープログラマーのような職業も消えていく可能性があります。しかしこれらの進化は、例えばデリバリーのような労働集約的な仕事を自動化することによって、より効率的に業務を遂行することを可能にします。
そのような時代になったとしても、基本的な生計を立てるための最低限の収入は必要とされるでしょう。社会経済的な契約形態も変わってくると思います。もし資本主義が全く同じ形で続くとしたら、労働力を活用する部分が過多いという課題があるかもしれません。そういった状況の中で、AIはむしろ貧しい人々にとって役立つツールになると確信しています。
だからこそ、私たちは基本的な収入保証などの社会的な制度も考慮に入れなければなりません。そういった対策を講じることで、このテクノロジーによる労働市場への影響を最小限に抑え、より多くの人々がその恩恵を享受できるようにするべきです。私たちは常にそのような観点からAIの発展とその影響を考えていく必要があると思います。
その１２：AIへの恐怖心 -> 新技術の悪用に対する対策は必要、だがまだ現在の状況はおそらくまだマシな状況
■修正後のパラグラフ１２
質問者：
私としてはAIによるテキスト生成、画像生成、動画生成などに対して恐怖心を感じている人も多いと思うのですが、さらに、これらの技術が広まることで誤った情報が拡散するという危険性はないでしょうか。
サムアルトマン：
我々は今、困難な状況に立ち向かっていると言えるでしょう。その問題をどう解決するかについて考え、アイデアを試すことが重要だと考えています。例えば、問題を検出する機能を付けることや、社会科学の知見を利用することも可能かもしれません。
しかし、社会全体として見ると、デジタル技術が進化し、数ヶ月で写真をリアルに加工できる程度にまでなってしまいました。これにより、全く信用できない情報も広がるようになりました。
カスタマイズされた１対１の形式で説得することや、生成された動画の信頼性を保証するための仕組みを作ることも考慮しなければならないかもしれません。例えば、友人とのチャットで心理的なハッキングを行う可能性も考えられます。これらの問題に対応するのは難しいかもしれませんが、ある程度の規制が必要になると思います。
コンテンツ生成については、企業の立場からすれば状況を悪化させるのではなく、改善することが望ましいと思います。しかし、これから直面するであろう更なる挑戦を考えると、現状はまだましと言えるかもしれません。
(大城注：ここは同時通訳者も苦戦していたので、英語パートをちゃんと聞いたほうが良いかもしれません)
その１３：OpenAIで働くためには -> 専門力、ツール利用の習熟が大事。ただ、ノンプログラマーでもChatGPT-5の開発には関わっている
■修正後のパラグラフ１３
質問者：
こんにちは、シリコンバレーの会社で働くためにはどのようなスキルが必要となるでしょうか。例えば、AIを活用したり、ソフトウェアを用いて新たなAIシステム、例えばチャットGPTのようなシステムを作り出す能力は求められるでしょうか。
サムアルトマン：
プログラミングスキルは確かに重要で、複雑なシステムを理解する能力も非常に役立ちます。しかし、幅広い知識を活用して全体的に物を創造する能力も必要です。さらに、自分の専門分野を深く理解し、ツールを熟練して使うことも重要です。それぞれの製品世代に対してどのようにそれらを使うか、どのようにスキルを習得するかが、これから10年のスキルレベルで求められるでしょう。これらはすべて今から始められるスキルです。
例えば、GPT5や他のシステムについての研究は、物理学者や数学者、そしてプログラミングを全くやったことがない人々まで、さまざまな背景の人々の参加によって成功を収めています。厳密な分析能力や分析的なバックグラウンドが必要とされることもありますが、それ以外のスキルも非常に価値があります。どんな背景を持つ方でも、ぜひ応募してみてください。
その１４：意思決定の指針、ボトムアップ型のAI -> 正しい意思決定を最高の仲間達の力を借りて進める、オープンソースなのである種ボトムアップ型、コミュニティの協力・理解が大事
■修正後のパラグラフ１４
質問者：
貴重な意見を共有していただきありがとうございます。アルトマンさんがこれまでに大きな決定を下してきたと思いますが、意思決定する時に何を重視しますか？
サムアルトマン：
私にとっては、正しい決定を下すことが最も重要です。常に全ての情報が揃っているわけではありませんが、それぞれが独自の方法で正しい答えを見つけ出すように努力しています。私にとって最も大きな助けとなるのは、多くの困難に直面した経験を持つ同僚たちの存在です。彼らの助けにより、多くの意思決定の負担が軽減されました。いろんな視点から意見を聞き、最善の答えを見つけることが大切です。
私が特に重要だと思うことは、指数関数的な成長のための直感を持つことです。これはかなり難しいですが、大きな決断をする際には、どのようにすれば大きな成功を達成できるかを常に考えています。
司会者：
次の質問をどうぞ。
質問者：
ありがとうございます。先ほど言及したように、現在はトップダウン型のAIを作っていますが、ボトムアップ型のAIを作る予定はありますか？人間と同じようにボトムアップ型のAIを作る計画はありますか？
サムアルトマン：
OpenAIは、様々な面で決定を下す必要がありますが、私たちは確かにボトムアップのアプローチを重視したいと考えています。最近始めたプロジェクトでは、世界中の価値観を集め、そのデータを使ってモデルを改善しています。オープンソースのモデルなので、コミュニティ全体の参加が非常に重要です。この取り組みは、我々がこれが人類にとって大きな革命になると考えているためです。良い点、悪い点を皆さんから知り、それを取り入れて改善することが非常に重要だと思っています。そのため、我々は引き続きボトムアップのアプローチを採用し、その道を進んでいくことを約束します。ありがとうございます。
その１５：バランスについて -> 重要な論点で模索し続けるべき
■修正後のパラグラフ１５
質問者：
お会いできて光栄です。素晴らしい機会をありがとうございます。GPTについての質問があります。GPTには良いところと悪いところがあるとおっしゃっていました。特に魅力的な点が多いとはいえ、多くの人が潜在的な問題、例えばリスクなどに目を向けるようになっています。将来的にはそのバランスが重要になると思います。最近読んだ記事では、リスクをどうやって下げるのかという議論があったのですが、GPTそのものについて、どの程度リスクを下げることを考えていらっしゃるのか教えていただけますか？
サムアルトマン：
確かに、良い質問ですね。バランスを正しいところに持っていくことが大切で、もちろんその一部として早くメリットを提供することも重要です。しかし、同時に潜在的なリスクに対処することも大切になってきます。一番良い方法は、安全なシステムを構築することです。これは他の業界の方々と一緒に作り上げるものです。私たちはモデルを出すために、例えばライセンシングフレームワークを提案したり、将来的にはよりパワフルなモデルを提供するかもしれません。しかし、それらが実際に学習させられる前に安全テストを行い、それをパスさせるというステップが必要です。その結果として開発が遅くなるかもしれませんが、安全性を確保するためならそれは許容範囲です。
これは本当に重要なことで、バランスを正しく保つことは誰もが100%満足するということはないでしょう。安全性を高めるためには、準備を全くしないという選択肢はないということです。GPT3とGPT4を比較すると、大きなステップがあったと思います。しかしながら、それによって安心してしまってはいけません。以降も、新しい手法を開発し、より良いものを提供することが重要になってくると思います。ありがとうございます。
その１６：全能AIと汎用AIの違い -> ある時代だけの定義はおそらく意味がないし、すでにChatGPTはその域に入りつつある
■修正後のパラグラフ１６
質問者：
具体的に、全能AIの定義をしていただき、そしてAGI（汎用人工知能）と先ほど紹介されたものとの違いについて教えていただけますか？
サムアルトマン：
AGIの定義については、一般的には全ての人間が持っている認知的なタスクを実行できるAIを指します。しかし、その定義は必ずしも絶対的ではなく、また必要性も徐々に薄れつつあります。GPTもAGIと同様の進化を遂げつつあり、どんなタスクでもこなせるようになるかもしれません。一般化でき、汎用性があるAIが真のAIであると主張する人もいます。また、その中間の意見を持つ人々も大勢います。
以前OpenAIが用いていたAGIの定義は「経済的に価値のある仕事の半分くらいができるAI」でした。しかし、今日の技術を見ると、それはもう充分ではないと感じるかもしれません。人間の能力を強化するAIの存在が明確になる一方で、その評価基準が困難になってきています。
個人的には、AGIは「科学的な進歩に本当に貢献できるAI」であるべきだと思います。そして、今日ではなく未来に、より明確なAIが存在するかもしれないと感じています。その時、現在のAIが真のAIではなかったという議論が再燃するかもしれません。
そのため、現在存在するものの定義を見つけることに固執するよりも、例えば経済がどれほど早く成長するのか、社会の指導力がどれだけ増えるのか、といった観点から物事を見るべきかもしれません。ある一定の時代のその時の定義の重要性は低いと感じています。
その１７：何がChatGPTの開発に重要だったか -> 何世紀にもわたる研究者の努力、コンピュータサイエンス、そしてチームワーク
■修正後のパラグラフ１７
質問者：
現在、私はチャットGPTを使って翻訳をしています。様々な要素が関わっていると思いますが、たくさんの本を読む、多くの人を観察する、多くのチャンスを活かす、努力するなど、いろいろあると思うのですが、このブレイクスルーに最も大きく貢献した要素は何だったのでしょうか？
サムアルトマン：
その要素はいくつかあります。一つは、この製品の継続的な開発により、何百もの科学の進歩を活用することができました。また、現在のスーパーコンピュータは、トランジスタの時代に比べて非常に高速で巨大な規模に達しています。これは、単なるプロセッサだけでなく、ネットワークとその中で利用できるさまざまな力を考慮に入れた結果です。これはまさに人類の勝利でもあります。
さらに、ネットワークを中心に考えるアプローチや、インフラを構築した人々もいます。そして、一人の経験者として、オープンAIの研究論文において、言語モデルに取り組んでいただきます。AI学習という考え方も出てきたわけです。そして、その中で視覚化を進めた結果、非常に興味深い事例が出てきました。
Amazonで文字を分析し、プラスとマイナスの感情も考慮に入れて、様々な要素が浮かび上がりました。さらにGPT-1が登場し、それに対して「これでは良くない」と評価した人々もいました。しかしその後、GPT-2, GPT-3と進化を続けました。
この信じられないような進歩は、創造的な研究文化と、個別のプロジェクトを一時停止して全員で協力しようというチームワークがあったからこそできたのだと思います。ありがとうございます。
その１８：日本での生成AI利用について -> 有益なのであればサポートするし、おそらく皆がAI革命によるメリットを享受できる
■修正後のパラグラフ１８
質問者：
本日のスピーチ、ありがとうございました。特に日本では、インターネット上での傾向として、チャットGPTは自然な会話や人とのインタラクション、ビジネスの効率性向上よりもエンターテイメントとして使用されることが多いようです。東洋の社会でこの生成AIをどのように活用すべきだと考えますか？
サムアルトマン：
その使用が有益と考えているなら、私たちはぜひサポートしたいと思っています。このテクノロジーはまだ我々が完全にコントロールするものではありませんし、初期段階にあるとも言えます。しかし、それがユーザーにとって快適であり、楽しめるものであるならば、それを学び、後々ビジネスの生産性向上に活用できるようになることを期待しています。そのため、そのような使い方には満足しています。
話を少し変えて、皆さんはこのAI革命によるメリットを享受できると思います。我々が今生きている時代は、こういったものを学び、使いこなすことが価値あるスキルとなる時代です。皆さんはとても幸運です。そしてだからこそ、全てを理解していなくても心配する必要はないと思います。
これからも技術は進歩し、新しい方向へと進んでいくでしょう。しかし、それによって皆さんがこれからより素晴らしい時間を過ごすことができることでしょう。本日はありがとうございました。
[拍手]
所感：TBD (もう少し内容を噛み締めてから書きます)
いやー、すごいですね。わずか40分ほどの間にこれだけ濃いトークが展開されるとは。もう少し、噛み締めてからこちらの所感はまとめたいと思います。
それでは皆さんもどうぞ良いChatGPTライフを・・！ (大城)
この記事が気に入ったらサポートをしてみませんか？