OpenAIの元チーフサイエンティスト「安全なAI」企業を設立

OpenAIの共同創業者で元チーフサイエンティストのイリヤ・サツケバー氏は6/19、新たなAI企業「セーフ・スーパーインテリジェンス」を設立すると発表しました。

今回は、サスケバー氏はどんな人物なのか、OpenAIとの関わり、そして新会社の思いについてお伝えします。

サツケバー氏はトロント大学でディープラーニング（深層学習）のパイオニアとして知られるジェフリー・ヒントンに師事した後、グーグルで人工知能（AI）を研究していました。

2015年にイーロン・マスク氏とグレッグ・ブロックマン氏との夕食会に、サム・アルトマン氏が招待しました。

この夕食会をきっかけに、2015年12月にOpenAIが創設され、サツケバー氏もOpenAIの主要な創設メンバーに加わります。以降、OpenAIでチーフサイエンティストとして研究をけん引しました。

OpenAIは人類の利益を追求する非営利のAI研究組織として創業しました。実際に、CEOアルトマン氏は当時「非営利組織として、われわれの目標は、株主ではなくすべての人々にとっての価値を築き上げることにある」と述べています。

しかし、その後非営利団体の下に営利部門を設立。特殊な構造の組織に転換します。これにより、Microsoftや他の支援者から巨額の投資を受けることができるようになり、破竹の勢いでAIトップランナーとして駆け上っていくことになります。

みなさん、記憶に新しいかも知れませんが、2023年11月、OpenAIの取締役会がCEOのサム・アルトマン氏の解雇を決議するという事件が起きました。

しかし、それに対して従業員の大半が、「それなら辞める」と一斉に脅したことで、最終的にアルトマン氏が復帰するというかたちでこの騒動は決着します。

この4人の取締役会メンバーのひとりがサツケバー氏でした。

この騒動の後、サツキバー氏は「取締役会の行為に加担したことを深く後悔しています。わたしはOpenAIを傷つけるつもりなどありませんでした」と、Xで投稿しています。

OpenAIの理事も外れ、数カ月、サツケバー氏は公の場に姿を現すことはありませんでしたが、5月半ばにOpenAIの退社が報じられます。

サツキバー氏はXへの自身の投稿で「OpenAIを去る決断をしました。OpenAIの軌跡は奇跡的としか言いようがなく、わたしはOpenAIが安全かつ有益なAGIを構築することを確信しています」と投稿しました。

さて、ここで「AGI」というワードが出てきますが、Artificial General Intelligenceの略で、日本語では「人工汎用知能」と訳されます。

人間のような汎用的な知能を持つ人工知能のことで、さまざまなタスクに対して人間と同様の知識や能力を持ち、独自の学習や問題解決ができる能力を持っているとされています。そして、AGIは今のAIの発展形ともいえます。

サツケバー氏は、OpenAIでAIの高度化と安全性を両立する組織を率いていました。この組織はサツケバー氏退社した直後、事実上解散したことも明らかになっています。

そして、この6月。サツケバー氏は新会社「セーフ・スーパーインテリジェンス」を立ち上げました。おそらく氏がOpenAI退職時に伝えていた、以下の「ワクワクしたプロジェクト」のことと考えられます。

「次のプロジェクトについてもわくわくしています。わたしにとって個人的に非常に意義のあるもので、詳細は追ってお伝えするつもりです」

新会社の「最初の製品は安全なスーパーインテリジェンスになる」と伝えられています。

ここで「Super Intelligence」と言われているものは、AGIがさらに進化したもの、つまり人間の知能を超えたレベルの知能を持つ人工知能を指しており、あらゆるタスクや問題において人間よりも優れた能力を持ちます。

AIはいずれ、AGIそしてSuper Intelligenceに到達するだろうといわれています。

そして、これらの技術は社会課題の解決や、世の中を豊かにすることが期待される一方で、悪用をされたり、とくに人間による制御ができなくなるというリスクもあり、慎重に進めるべきという声も上がっています。

サツケバー氏は、AI市場競争が激しい中、あえて安全性が確保できるまではサービスとしてAIを市場に投入しない考えを示しています。

社名にもその思いがストレートにつまっていますね。

ビジネスを考えると簡単ではない戦いになりそうな気はしますが、我々一般人としては、ビジネスだけではなく安全性も優先して重視している人々がAI業界を牽引するひとりとしていてくださるのはありがたいことだと感じます。

今後のセーフ・スーパーインテリジェンスの動きに期待したいと思います。

耳から聴きたい方はこちら！

↓↓