見出し画像

サム追放の論点は「サムが人間に害するAIを作ったか」

ﾊﾟﾄﾙ | AI x Biz

こんにちは、パトルです。

サム・アルトマンが解任されたり、マイクロソフトに転職するのか話題になったりと、X（Twitter）で騒がれています。

Xは当事者が投稿するので何が真相かわかりづらいため、なるべく事実っぽいものをベースに整理しました（全部英語原文で確認してます！）。そして、最後に哲学的なことも少し考えます。


OpenAIの組織構造

上記のXにOpenAIの組織と説明が投稿されています。要するに、営利目的のOpenAI Global LLCの上位に非営利目的のOpenAI.Incがあり、非営利目的のOpenAI.Incには株主がいないので取締役会が独断で経営判断ができます。要は、取締役会には強い権限があるということです。

OpenAIの社員から取締役会への書簡

Xではこのようなものが投稿されて話題を呼びました。OpenAIの従業員が、退職をチラつかせながら現在の取締役会メンバーの辞任、サムとブレットの復職を求めたものです。

この書簡で話題になったのはマーカーが引かれているところです。取締役会は「OpenAIが解体（destroy）されることもミッションに反しない」と言ったとのことです。それに対して従業員は「その根拠が明確に示されていない」と書簡内で反論しています。

OpenAIの自己破壊はミッションに含まれるか

OpenAIのWEBサイトにはCharter（憲章）が掲載されています。結論からいうと自己破壊を許容するともとれる表現が含まれています。

OpenAIの目的は人間のためのAGIを作ることであり、その目的を他の者が実現できるならOpenAIでなくても良いといった内容があります。また、安全を強化するプロジェクトのためには開発を止めるとも宣言しています。非営利らしくAIを使って世の中を変えていくというよりは安全性に寄った憲章の印象です。

サムはOpenAIのCharterに違反したか

サムはAI推進論者で知られます。違反していればOpenAI Inc（非営利）の取締役会はCharterに従ってサムをクビにすることができますしそれだけの権限を持っています。

ここで再度注目したいのが従業員の書簡です。従業員は、OpenAIが自己破壊を起こすリスクを冒してまでサムをクビにする根拠がないと主張しています。要は、サムがOpenAIのCharterに違反したのか明確ではないと言っているのと同じです。なんでサムがクビになったかわからないからみんな戸惑っているのです。

「人間のためのAI」に明確な基準はあるか

サムはCharterに反していたのかもしれませんし、そうではなかったのかもしれません。ただ、「人間のためのAI」から逸脱していたかというのは、主観的で曖昧な基準に思えます（OpenAIの内部では明確な基準があるのかもしれませんが）。定量的な基準がない以上、個人の価値観、価値基準、感情（恐ろしいと思っていたらどんどん恐ろしく見えてくる）も総合して判断がされるしかないと思います。そのための権限が取締役会にはあります。

最先端のAI企業の騒動で見えたのは人間味

人類の中でも相当頭が良い人が集まった組織が破壊のリスクに陥ったのは、非常にプリミティブで人間味あふれる価値、感情、権力などだったと思うと興味深いです。昨今では、こういう非合理をなくすためにAIに全ての判断を任せれば良いという論調も聞かれます。ただ逆に考えるとAIが決めたんだから素直に従ってね、と言われたら我々は素直に従うことができるのか、民主主義的と言えるのかという問題提起もされることがあります（東浩紀さんの「訂正可能性の哲学」）。AIがサムをクビした後で、サムが「実は一見charterに反するように見えて関係者を調整していただけで本当はCharterに沿っていただけ」と言ってきたら我々はそれを訂正できるのでしょうか。

今回の騒動では様々なことを考えさせられました。色々あってマイクロソフトの株価が上がっているようですが、マイクソフトの株価を目的関数とした自律型AIが、SNSジャックをしてフェイクニュースをばらまいて、私一人が騙されているわけではないことを祈ってこの記事を発信します（笑）

参考になったらいいね！フォロー！をお願いします。



この記事が気に入ったらサポートをしてみませんか？