責任あるAIを推進する新たなパートナーシップの発足(Anthropic、Google、Microsoft、OpenAI)

責任あるAIを推進する新たなパートナーシップの発足(Anthropic、Google、Microsoft、OpenAI)

A new partnership to promote responsible AI

Anthropic、Google、Microsoft、OpenAIは、フロンティアAIモデルの安全で責任ある開発を確保することに焦点を当てた業界団体「Frontier Model Forum」を立ち上げる。

編集部注：本日、グーグル、マイクロソフト、OpenAI、Anthropicは、フロンティアモデルフォーラムを設立する以下の共同発表を発表しました。

本日、Anthropic、Google、Microsoft、OpenAIは、フロンティアAIモデルの安全で責任ある開発を確保することに焦点を当てた新しい業界団体、フロンティアモデルフォーラムの設立を発表します。フロンティア・モデル・フォーラムは、技術的評価とベンチマークの推進、業界のベストプラクティスと標準をサポートするソリューションの公開ライブラリーの開発など、AIエコシステム全体に利益をもたらすために、メンバー企業の技術的および運営上の専門知識を活用します。

同フォーラムの中核目標

フロンティアモデルの責任ある開発を促進し、リスクを最小化し、能力と安全性の独立した標準化された評価を可能にするために、AIの安全性研究を推進すること。
フロンティアモデルの責任ある開発と展開のためのベストプラクティスを特定し、一般市民が技術の性質、能力、限界、影響を理解できるようにする。
政策立案者、学識経験者、市民社会、企業と協力し、信頼と安全性に関するリスクを共有する。
気候変動の緩和と適応、がんの早期発見と予防、サイバー脅威との闘いなど、社会が直面する最大の課題の解決に役立つアプリケーションの開発努力を支援する。
会員資格
当フォーラムでは、フロンティアモデルを、既存の最先端モデルの能力を超え、多様なタスクを実行できる大規模な機械学習モデルと定義しています。

会員資格は、以下のような組織を対象とする：

フロンティアモデル（当フォーラムの定義による）を開発・導入している。
技術的、制度的アプローチを含め、フロンティアモデルの安全性に強いコミットメントを示していること。
共同イニシアティブへの参加や、イニシアティブの発展と機能の支援など、フォーラムの取り組みの推進に貢献する意思があること。
当フォーラムは、これらの基準を満たす組織がこの取り組みに参加し、フロンティアAIモデルの安全で責任ある開発を確保するために協力することを歓迎します。

フロンティア・モデル・フォーラムの活動

政府と産業界は、AIが世界に多大な利益をもたらすと期待する一方で、リスクを軽減するために適切なガードレールが必要であることに同意している。こうした取り組みへの重要な貢献は、すでに米国政府、英国政府、欧州連合、OECD、G7（広島AIプロセスを通じて）などが行っている。

このような努力の上に、最先端のAIモデルが責任を持って開発・導入されるよう、安全基準や評価に関するさらなる取り組みが必要である。フォーラムは、AIの安全性と責任に関する組織横断的な議論と行動のための1つの手段となる。

フォーラムは今後1年間、フロンティアAIモデルの安全で責任ある開発を支援するため、3つの主要分野に焦点を当てる：

ベストプラクティスの特定

　 幅広い潜在的リスクを軽減するための安全基準や安全対策に焦点を当て、産業界、政府、市民社会、学界の間で知識の共有とベストプラクティスを推進する。

AI安全性研究の推進

　AIの安全性に関する最も重要な未解決の研究課題を特定することで、AIの安全エコシステムを支援する。このフォーラムは、敵対的頑健性、機械論的解釈可能性、スケーラブルな監視、独立した研究アクセス、創発的行動、異常検知などの分野で、これらの取り組みを進展させるための研究を調整する。当初は、フロンティアAIモデルの技術評価とベンチマークの公開ライブラリーの開発と共有に重点を置く。

企業や政府間の情報共有を促進する　

　AIの安全性とリスクに関して、企業、政府、関連ステークホルダー間で情報を共有するための信頼できる安全なメカニズムを確立する。本フォーラムは、サイバーセキュリティなどの分野における責任ある情報開示のベストプラクティスを踏襲する。

グーグル＆アルファベット、グローバル・アフェアーズ担当プレジデントのケント・ウォーカーは、次のように述べている： 「責任あるAIイノベーションを推進するために、他の一流企業と協力し、技術的な専門知識を共有できることをうれしく思います。AIがすべての人に利益をもたらすようにするためには、私たち全員が協力する必要があります。

マイクロソフトのブラッド・スミス副会長兼社長は、次のように述べている： 「AI技術を開発する企業は、それが安全でセキュアであり、人間の管理下にあることを保証する責任があります。このイニシアチブは、AIを責任を持って発展させ、AIが全人類に利益をもたらすように課題に取り組む上で、テックセクターが一丸となるための重要な一歩です。"

マイクロソフトのブラッド・スミス副会長兼社長は、次のように述べている： 「AI技術を開発する企業は、それが安全でセキュアであり、人間の管理下にあることを保証する責任があります。このイニシアチブは、AIを責任を持って発展させ、全人類に利益をもたらすよう課題に取り組む上で、テックセクターが一丸となるための重要な一歩です。

OpenAIのグローバル・アフェアーズ担当バイス・プレジデントのアンナ・マカンジュは、次のように述べている： 「先進的なAI技術は社会に多大な利益をもたらす可能性を秘めていますが、この可能性を実現するためには監視とガバナンスが必要です。AI企業、特に最も強力なモデルに取り組んでいる企業が共通の基盤で連携し、強力なAIツールが可能な限り広範な利益をもたらすよう、思慮深く適応可能な安全対策を進めることが極めて重要です。これは緊急の課題であり、このフォーラムは、AIの安全性を向上させるために迅速に行動するのに適した立場にある。

AnthropicのCEO、Dario Amodeiは次のように述べた： 「Anthropicは、AIが世界の仕組みを根本的に変える可能性があると信じています。私たちは、産業界、市民社会、政府、学界と協力し、安全で責任ある技術開発を推進できることをうれしく思います。フロンティア・モデル・フォーラムは、フロンティアAIの安全性に関するベストプラクティスを調整し、研究を共有する上で重要な役割を果たすでしょう。"

フロンティア・モデル・フォーラムの活動
フロンティア・モデル・フォーラムは、今後数ヶ月の間に、その戦略と優先事項を導くためのアドバイザリー・ボードを設立する。

また、設立企業は、これらの取り組みを主導するワーキンググループと執行委員会とともに、憲章、ガバナンス、資金調達などの主要な制度的取り決めを確立する。今後数週間のうちに、フォーラムの設計や有意義な協力方法について、市民社会および政府と協議する予定である。

フロンティア・モデル・フォーラムは、G7広島プロセス、AIのリスク、基準、社会的影響に関するOECDの作業、米EU貿易技術協議会など、既存の政府や多国間のイニシアチブを支援し、それに資する機会を歓迎する。

また、フォーラムは、それぞれのワークストリームにおいて、既存の産業界、市民社会、研究機関の貴重な取り組みを基盤にすることを目指す。AIに関するパートナーシップやMLCommonsのようなイニシアチブは、AIコミュニティ全体で重要な貢献を続けており、フォーラムは、これらの取り組みやその他のマルチステークホルダーによる貴重な取り組みと協力し、支援する方法を模索していく。