見出し画像
Photo by electric_rex08

ChatGPTは会話するがオープンAI社員に言論の自由はない: OpenAIの重要人物がサムアルトマンを見放し退社

イーロンマスク日本語

OpenAIのサム・アルトマン氏は、Jan Leike氏が同社を去ることに対して感謝と残念の意を表明しています。Leike氏はOpenAIのアライメント研究と安全文化に貢献してきましたが、アルトマン氏によれば、まだ多くの課題が残されており、それに取り組むことにコミットしていると述べています。

一方、Leike氏がOpenAIを辞めた理由は以下の通りです：

  • OpenAIのリーダーシップに同意できない

  • 将来のモデル準備と安全性に焦点を当てるべき

  • 正しい軌道にない

  • チームはリソースに苦労している

  • 安全文化とプロセスが優先順位を下げられている

  • OpenAIは安全を最優先するAGI企業になるべき

これらの投稿から、OpenAI内部での方針や安全性に対するアプローチに関する意見の不一致があることが明らかになります。特に、将来のAIモデルの安全性を確保するための準備と、それに必要なリソースの確保が重要な課題であるとLeike氏は指摘しています。また、安全文化とプロセスが軽視されているとの懸念も示されており、これはOpenAIが直面している問題点として注目されています。

Jan Leikeとは

Jan LeikeはOpenAIのSuperalignment Teamの共同リーダーであり、InstructGPT、ChatGPT、そしてGPT-4の開発とアライメントに関わっています。彼はOpenAIのアライメント研究のアプローチを開発し、Superalignment Teamの研究ロードマップの共著者でもあります。

彼の研究は、AIシステムが直接的に評価が難しいタスクにおいても人間の意図に従うように訓練するという、アライメントの難問を解決することを目指しています。彼のチームは、スケーラブルな監視、易しいタスクから難しいタスクへの一般化、自動解釈可能性、モデル生物など、様々なプロジェクトに取り組んでいます。
また、2023年にはTIME誌によってAI分野で最も影響力のある100人の一人に選ばれました。彼は以前DeepMindでアライメント研究者として活動し、人間のフィードバックからの強化学習をプロトタイピングしました。オーストラリア国立大学で強化学習理論の博士号を取得しています。

イーロンマスクもOpenAIを批判

OpenAIの最新製品であるChatGPT 4oのリリースは、同社の共同創設者であり主任科学者のイリヤ・スツケヴァーと、彼が率いるスーパーアライメントチームの共同リーダーであるヤン・ライケの辞任という、さらに大きなニュースによってすぐに影を潜めました。スツケヴァーは昨年、サム・アルトマンCEOの一時的な解任につながる取締役会の反乱に関与していましたが、アルトマンはすぐにCEOとして復帰しました。スツケヴァーは自らの行動を公に後悔し、アルトマンの復帰を支持しましたが、その後は会社をほとんど離れており、OpenAIのポリシー、アライメント、安全チームの他のメンバーも退社しています。(参照)

この背景には、イーロン・マスクがOpenAIに対して批判的な立場を取っていることがあります。マスクは、OpenAIが創設時の理念から逸脱し、利益志向の運営に移行し、オープンソースの作業を中止したことを批判しています。彼は、OpenAIが人類に利益をもたらすためのものであるべきだという創設時の目標を裏切っているとして、法的措置を取ることを示唆しています。

マスクは、OpenAIがMicrosoftとのパートナーシップを通じて利益を追求することに焦点を当てていると主張し、これに対してOpenAIは反論しています。OpenAIは、マスクがかつて利益を追求するための構造を支持していたと主張し、彼がTeslaとの合併を提案したこともあると述べています。

このような状況の中で、スツケヴァーとライケの辞任は完全な驚きではありませんでした。特にスツケヴァーは、アルトマンの一時的な解任に至る取締役会の反乱に関与していたことから、彼の退社は予測されていた出来事の一つでした。OpenAIの将来に対する彼らのビジョンの違いが、今回の辞任につながった可能性があります。

OpenAIの今後の動向と、AIの安全性とアライメントに関する研究がどのように進展するかは、引き続き注目されるテーマです。また、マスクが提起する批判と、それに対するOpenAIの対応も、AI業界の今後の方向性を左右する重要な要素となるでしょう。

ChatGPTは話すがOpenAI従業員に言論の自由はない

元OpenAIの従業員たちが公に発言しない理由は、非常に厳格な退職後の合意書にあるようです。これには、非開示と非難罵条項が含まれており、元従業員が一生涯にわたって前の雇用主を批判することを禁じています。さらに、NDAの存在を認めること自体が違反になります。
退職する従業員がこの文書に署名を拒否するか、または違反した場合、彼らは会社での在籍中に獲得したすべての権利を持つ株式を失う可能性があり、これは数百万ドルの価値がある可能性があります。Daniel Kokotajloという元従業員は、OpenAIがAGI（人工一般知能）の時代に責任を持って行動することに自信を失ったために退職したと公表し、文書に署名せずに退職するために、おそらく巨額の金額を放棄しなければならなかったことを確認しています。
シリコンバレーのような競争の激しい環境では、秘密保持契約は珍しくありませんが、既に獲得した株式を、契約を拒否したり違反したりした場合に危険にさらすことは珍しいことです。OpenAIのようなスタートアップで働く従業員にとって、株式は給与をはるかに上回ることができる重要な報酬形態です。その潜在的に人生を変えるお金を脅かすことは、元従業員を黙らせる非常に効果的な方法です。OpenAIはコメントの要求に応じていません。
これは、当初「OpenAI」として自らを宣伝した会社にとって非常に皮肉なことです。つまり、強力なシステムを透明かつ説明責任を持って構築することに専念するという使命声明にコミットしているということです。
OpenAIは以前から、安全性への懸念を理由に、モデルのオープンソース化のアイデアを放棄していました。しかし今、同社は安全チームの最も上級で尊敬されているメンバーを解雇しました。これは、OpenAIが非常に閉鎖的になった理由が本当に安全性にあるのかどうかについて、いくらかの懐疑心を抱かせるべきです。
OpenAIは長い間、技術と政策のサークルで異例の位置を占めてきました。DALL-EからChatGPTまで、彼らのリリースはしばしば非常にクールですが、それだけでは会社がしばしば議論されるほどの熱狂を引き起こすことはありません。

OpenAIを際立たせるのは、その使命の野心です。「人類全体に利益をもたらす人間よりも一般的に賢いAIシステムを確実にすること」です。多くの従業員は、この目標が手の届く範囲にあると信じています。つまり、あと10年（あるいはそれ以下）と数兆ドルがあれば、同社はほとんどの人間の労働を不要にするAIシステムの開発に成功するでしょう。

これは、同社自身が長い間言ってきたように、興奮するだけでなくリスクも伴います。
「スーパーインテリジェンスは、人類がこれまでに発明した中で最も影響力のある技術であり、世界の最も重要な問題の多くを解決するのに役立つ可能性があります」と、LeikeとSutskeverのチームのためのOpenAIの採用ページには記載されています。「しかし、スーパーインテリジェンスの膨大な力は非常に危険でもあり、人類の力を奪ったり、人類の絶滅につながる可能性があります。スーパーインテリジェンスは今は遠いように思えますが、私たちはこの10年で到来すると信じています。」
もちろん、私たちの生涯において人工スーパーインテリジェンスが可能であるならば（専門家の意見は分かれていますが）、それは人類にとって莫大な影響を与えるでしょう。OpenAIは歴史的に、単なる商業的インセンティブを超越し、すべての人の利益のためにAGIをもたらそうとする責任ある行動者として自らを位置づけてきました。そして、彼らはそれが開発の遅延、利益機会の損失、または外部監視の許可を必要とする場合であっても、それを行う意志があると言っています。

「AGIはシリコンバレーのものであるべきではありません」と、OpenAIの共同創設者であるGreg Brockmanは2019年に私に語りました。これは、はるかに穏やかなChatGPT前の日々でした。

「私たちは、世界を変える技術について話しています。では、どのようにして正しい代表とガバナンスをそこに取り入れるのでしょうか？これは実際に私たちにとって非常に重要な焦点であり、私たちは本当に幅広い意見を求めています。」

OpenAIのユニークな企業構造—最終的には非営利団体によって管理される利益上限付きの会社—は、説明責任を高めることを意図していました。「ここでは誰も信用されるべきではありません。私は超投票権を持っていません。それを望んでいません」と、Altmanは2023年にBloombergのEmily Changに保証しました。「理事会は私を解雇することができます。それは重要だと思います。」（理事会は昨年11月に、Altmanを解雇することができることを発見しましたが、その動きを維持することはできませんでした。彼の解雇後、AltmanはMicrosoftに会社を効果的に持ち込む取引を行い、最終的にはほとんどの理事会が辞任する中で再任されました。）

この記事が気に入ったらサポートをしてみませんか？