OpenAI の「our-approach-to-ai-safety」を要約

日々 ChatGPT に関する話題が絶えませんが、OpenAI（ChatGPTの開発会社）の発表に関しては適宜キャッチアップする必要がありますね。

大元が英語の記事なので少し尻込みしてしまいますが、皆さん大好きな ChatGPT に要約させてみました。安心してご覧ください。

本記事はこちらです。

Our approach to AI safety

要約内容

OpenAIは、強力なAIを安全かつ幅広く有益にすることに取り組んでいます。ChatGPTなどのAIツールは、現在多くの人々に利益をもたらしていますが、同時にリスクも伴います。そこで、システム全体にわたって安全性が確保されるよう努めています。

安全性を向上させたAIシステムの構築

新しいシステムをリリースする前には、厳格なテストや外部専門家のフィードバックの取得、人間のフィードバックに基づく強化学習技術を用いたモデルの振る舞いの改善、広範囲の安全対策と監視システムの構築を行います。例えば、GPT-4のリリース前には、6ヶ月以上の期間をかけて安全性とアライメントの向上に努めました。

現実世界での使用から安全対策を学ぶ

リリース前に予測可能なリスクに対処する努力を行っていますが、実験室での学習には限界があります。現実世界での使用から学ぶことが、より安全なAIシステムを時代とともに創出するために不可欠な要素であると考えています。

子供の保護

OpenAIは子供たちの保護に重点を置いています。18歳以上、または親の承認がある13歳以上の人々にAIツールの使用を制限し、年齢確認オプションの検討も行っています。また、憎悪、嫌がらせ、暴力、成人向けコンテンツの生成を禁止しています。

プライバシーの尊重

AIモデルの訓練には、広範囲なコーパスを利用していますが、プライベートな個人情報の利用を避けるよう努めています。個人情報の削除要請にも対応しています。

事実の正確さの向上

GPT-4は、GPT-3.5に比べて40%事実に基づいたコンテンツを生成する確率が高くなりましたが、さらなる改善が必要であることを認識しています。

継続的な研究と関与

AIの安全性の向上と能力向上は同時に進めるべきだと考えており、効果的な緩和策やアライメント手法を研究し、現実世界の悪用に対抗するために時間と資源を投入しています。最も強力なモデルと連携することで、これまでの最高の安全性が実現されています。

さらに性能の高いモデルの作成と展開に対しては慎重に取り組み、AIシステムが進化するにつれて安全対策を強化していきます。GPT-4の展開に6ヶ月以上の時間をかけたのは、その性能や利点、リスクを十分に理解するためですが、時にはそれ以上の時間をかけてAIシステムの安全性を向上させることが必要です。したがって、政策立案者やAIプロバイダは、AI開発と展開がグローバルスケールで効果的に管理されるようにし、競争の先を争うために安全対策をおろそかにすることがないようにする必要があります。これは技術的・制度的革新が求められる大きな課題ですが、積極的に貢献していきたいと考えています。

安全性の問題に対処するためには、広範な議論、実験、関与が必要であり、AIシステムの振る舞いに関する境界についても含まれます。OpenAIは、安全なAIエコシステムを創出するために、関係者との協力とオープンな対話を促進し続けることを目指しています。

おわりに

ChatGPT は現時点でも様々な可能性を秘めているツールですが、使い方を誤らないように気をつける必要があります。
OpenAI の記事はぜひとも、適宜目を通すことをおすすめします。

個人的関連記事

その他（宣伝）

最近、個人開発したサービスを公開したので是非チラ見してほしいです。