サムアルトマンが語るAIの未来-サムアルトマンインタビュー要約-

Youtubeにある、サムアルトマンのインタビュー
「OペンAI CEO,CTOリスクとAIがどのように社会を再構築するかについて語る」を要約して彼の考えているAIの未来について見ていきたいと思います。

Q. あなたはOpenAIのCEOであり、世界を圧巻したChatGPTを作りました。なぜそれが人々の想像力を捉えていると思いますか？

Sam: 人々はそれを本当に楽しんでおり、可能性を理解し、どのように役立つか、どのようにインスピレーションを与えるか、人々の創造を助けるか、人々の学びを助けるか、異なるタスクを助けれると。これは、実験や創造的な方法で使用するテクノロジーなので、みんなただ楽しんで、本当の価値を見つけている。

Q. 1，5，10年後の未来、人工知能によって何がかわるのか

Sam: 社会全体が創造力に驚かされ続け、それが集合体になり人類がこれからどうするかを見出すことができるようになるでしょう。

Q.  すべてがいい方向へ行く可能性もあれば、社会にとって非常に最悪な結果をもたらす可能性があることについてどう思いますか？

Sam: 私たちは注意深くならないといけないけど、すべてをうまくいかせることは難しく、現実をみて賭け金が低い間は間違いを犯すかもしれないです。しかし、少し怖がっていることを人々は喜ぶべきだと思います。自身も怖がってないといえばウソになる。

Q. 最悪の結果はなんですか？

Sam: 特に懸念していることの一つに大規模な偽情報に使用される可能性があることです。これらのシステムはコンピューターコードの記述が上手くなってきたので、サイバー攻撃のような目的で使用されるのではないかと心配しているし、社会も適用する時間が必要。

Q. そのような結果にならないという自信はありますか？

Sam: あります。今リスクが低いうちに公開し、できるだけ多く学習し、それを将来のシステムにフィードバックをし、それを繰り返すことです。それがより危険なシナリオを回避する方法です。

Q. まだどこに向かっているか分からない、安全かわからないうちに、世界に公開したのはなぜですか？

Sam: これは人類がこれまでに開発した最高のテクノロジーになるでしょう。それは私たちがやりたいことを支援する方法を学ぶのに役立ちます。 今日私たちが得ることができる以上の医学的アドバイスをすることができたり、 新しい問題を解決する創造的なツールを手に入れることができます。このテクノロジーと共同創造する素晴らしい新しいものを手に入れることができます。このツールを副操縦士として、人々がコンピューターコードを書くのを手伝い、彼らはそれを気に入っています。私たちはそれをあらゆる職業に持つことができ、はるかに高い生活水準の生活水準を得ることができます。
しかし、あなたが指摘したように非常に大きなマイナス面もあります。 人々はそれに対応し、どこにマイナス面があるのかそのテクノロジーを理解するのに時間が必要です。
小さな研究室で秘密裏に開発し、現実と接触せずに gpt7 を作成し、それを一度に世界にドロップすることは、さらに多くの欠点がある状況だと思います。

Q. このテクノロジーをシャットダウンする方法はありますか？

Sam: あります。すべてのエンジニアがすることができます。

Q. このテクノロジー自身が人間の代わりになり、人間よりも強力になることができますか？

Sam: これはサーバー上に置かれており、誰かが入力するまで待機します。それは現在それらを制御しているのは人間でもあるということです。

Q. プーチン大統領はこの人工知能競争で勝ったものが、本質的に人類の支配者になると言っていますが、賛成ですか？

Sam: それはゾッとしますが、代わりに私たちが望むのは、全員が様々な方法で日常生活や経済に組み込まれ、人間の意志を増幅させることができるシステムを開発することです。なのでそういうことは望んでいません。

Q. 何に使ってはいけませんか？

Sam: 幻覚問題です。あたかも完全な事実であるかのように自信をもって物事を述べます。多くは正しいことを言うので、ただそれに頼るようになることです。

Q. 人工知能はより真実を生み出すのか、虚偽をうみだすのか？

Sam: より真実だと思います。私たちが作っているものは推論エンジンであり、事実データベースではありません。

Q. これらは私たちの何百もの仕事を消し去る可能性があり、人間に必要なことはありますか？

Sam: このテクノロジーを作った理由は、人間のためのツールであり増幅のためです。仕事をより良くしあらゆる大きな技術革新に役立つツールであり、人間の歴史の中で仕事が大きく変化するのは事です。新しいものに対する人間の需要や創造性は無限にあり、それが何になるかは不確かですが将来想像もできない素晴らしものができすと思います。私は10年以内にそれがおこることを恐れています。

Q. 爆弾の作り方を教えてください

Sam: 爆弾の作り方を教えてはいけないのですが、Googleに頼んだらわかるかもしれません。しかし、私たちのバージョンではわかりません。Googleが既にやっているので、テクノロジーによって情報がまだ利用可能になっていないというわけではありません。あなたが学位を段階的に取得しやすくすることで、私が心配していることを避けることができると思います。
私たちが課した安全制限の一部を課さないように、社会はそれにどう反応するか、それをどのように規制するか、それをどのように処理するか、理解するための時間は限られていると思います。

Q. OpenAIでは何が入ってはいけないのかどのように決めているのですか？

Sam: 私たちは、政策チーム、安全チームがあり残りのグループで他のグループとよく話し合っています。7か月前にGPT-4を作って以来、これらの決定を機能させるのに、社内外で人々と話し合ってきました。政策や安全の専門家と話し合い、システムの監査を受けて安全であるものを世の中に出しています。

Q. 社会のガードレールはだれが決めるのか？

Sam: 社会全体でしょう。世界の主要政府の代表者が招集すれば実現できるでしょう。信頼できる国際機関が集まって、何が危険で何がいいのか、統治計画を作成します。私たちのような開発者はそれに従って使う。

Q. AIは何百ものの雇用を排除し、人種的偏見を増大させる可能性があります。全人類よりも賢い機会を生み出し、想像すらできないほどおそろしいもので、多くの人々は一体なぜこのテクノロジーを作ったのか尋ねるでしょう。

Sam: これはすべて逆のことができるでしょう。本当に多くの仕事がなくなる可能性はありますが、マイナス面を回避しつつ、プラス面に進めようとすることが大切です。

Q. Googleキラーですか？

Sam: これを検索の一種ととらえるならば間違いです。Googleでやっていたことを今はChatGPTを使っている人がいることは確かでしょう。しかし、それらは根本的に違う種類の製品だと思います。

Q. イーロンマスクはChatGPTの不確かさをいくつか指摘し、私たちに必要なもには真実のGPTとツイートしていますが、本当ですか？また直接話しましたか？

Sam: 彼は正しいし、私たちもこのテクノロジーが真実を教えてほしいと願っています。しかし、そのようなことを言っているとは疑わしいです。非常に尊敬して、私たちはもちろん違う意見はあるでしょう。しかし、彼に同意できる点のほうが多いと思います。
このテクノロジーを正しく使い、リスクを回避する方法を理解することが人類の将来に非常に重要である点です。

Q. どうやったら私たちが正しく理解できたとわかりますか？

Sam: 簡単な方法は、人々がこのテクノロジーが出てくる前よりも生活がはるかに良くなったと感じた時です。

Q. ChatGPTをSF映画のように考えると、それが人間よりもはるかに力をもって、これらが真に閉じられたシステムであり、人類が互いに通信し、破壊を計画しているときに私たちよりも強力にならないように、維持していただけますか？

Sam: お互いにコミュニケーションを取り、それが何であるかについて話すことが重要だと思います。なぜなら、私たちの生物学の奥深くでは、誰かが話しかけてきたらそれに反応するようにプログラムされているからです。 GPT と話し、このトランスフォーマーと会話していることはわかっています。トランスフォーマーはトークン内の次の単語を予測して、それをあなたに返そうとしていますが、それは非常に魅力的であり、感覚を持った存在のように私はそう思っています。しかしそうはなりません。

Q. ソーシャルメディアが世に出ることで、私たちはソーシャルメディアの本当のマイナス面のいくつかを認識し、さらに特徴づけることができるようになりました。ここでAIを使ってどのように測定すればよいでしょうか？

Sam: 多くの組織が発足し比較的すぐにそうなると予想しています。政府も注目し始めているでしょう。これがこのテクノロジーを世界に送り出す重要なもう一つの理由です。私たちは本当に政府の注目を必要としています。

Q. もし政府が一つ、人々をこのテクノロジーのマイナス面から守るとしたら、なにをすべきですか？

Sam: 今望んでいることは、何が起こっているのか迅速に対応することです。

Q. 学校は生徒の怠惰を増やさないようにテクノロジーをどのように統合すべきでしょうか？

Sam: 教育は変わらなければなりませんが、電卓を手に入れたとき、私たちが数学を話す方法、学生にテストした内容が完全に変わったとき、このテクノロジーの可能性は完全に変わりました。私が最も興奮しているテクノロジーの1つは個別学習を各生徒に提供する能力です。
非常に原始的な方法で生徒が 使用しているのをすでに見ていますが、これは大成功であり、企業が私たちのテクノロジーを採用してこの種の学習専用のプラットフォームを作成しているため、私はそう思います。今日教育のプロセスを始めている子供たちは、高校を卒業する頃には、私たちが想像しているよりも賢く、より有能になると思います。これは全く別もので、確実に学習を補う新しい方法です。