人工一般知能の計画とその先へ by OpenAI

OpenAIは、人類全体に利益をもたらす人工一般知能（AGI）を確実に実現することを目指している。AGIの成功により、豊かさを増やし、世界経済を加速させ、可能性の限界を変える新たな科学的知識を発見する手助けができる。AGIは、人類全体に信じられないほどの新しい能力をもたらすことが期待される。一方で、AGIは悪用、重大な事故、社会の混乱のリスクも伴う。しかし、AGIの利点があまりにも大きいため、その開発を永遠に止めることは現実的ではない。代わりに、社会とAGI開発者が適切な方法を見つけ出さなければならない。

AGIは近い将来に実現するかもしれないし、遠い未来に実現するかもしれない。最初のAGIからさらに強力な後続システムへの移行速度は、遅くも早くもある。多くの専門家は、短期的なタイムラインと遅い移行速度が最も安全であると考えている。短期的なタイムラインは、コーディネーションが容易で、遅い移行速度が確保される可能性が高く、遅い移行速度は、安全性の問題を解決する方法を経験的に見つけ出す時間を与えてくれるからだ。

OpenAIは、以下の原則に重点を置いている。

1. AGIが人類の繁栄を最大限に実現させること

2. AGIの恩恵やアクセス、ガバナンスを広く公平に共有すること

3. 巨大なリスクに対処し、成功を実現すること

短期的には、AGIに備えていくつかの重要な取り組みがある。

1. より強力なシステムを順次開発し、現実世界で運用する経験を積むこと

2. より適合性が高く操作しやすいモデルの開発

3. グローバルな対話の促進：システムのガバナンス、恩恵の公平な配分、アクセスの公平な共有を確保するための取り組み

これらの取り組みが進むにつれ、AGI開発のパイオニアたちは、安全性、透明性、利益の分配を重視する必要がある。それにより、AGIが持つ潜在的なリスクを最小限に抑え、人類全体の利益のために活用することができる。OpenAIは、国際的な共同研究を進め、業界標準やベストプラクティスを策定することで、AGIの開発を指導していく。これにより、安全なAGIの実現に向けた基準を設定し、世界各国がこの新しい技術の恩恵を受けることができるようになる。
将来的には、人工知能がより発展し、競争が激化することが予想されるため、安全性や倫理的観点からの課題が増える可能性がある。しかし、OpenAIはその目標を達成するために、他の研究機関や企業と連携し、協力体制を築いていくことを重視している。これにより、AGIの持つ大きな可能性を十分に活用し、人類全体がより良い未来を築くことができる。

Planning for AGI and beyond

上記の主張を批判的に検討すると、いくつかの懸念事項が浮かび上がります。