逐条解説　EUのAI規正法（データおよび文書へのアクセス52条、規則50条~57条）

こんぷらいん

第4章 特定のAIシステムに対する透明性義務

第52条 特定のAIシステムに対する透明性義務

  1. AIシステムとの対話の通知:

    • プロバイダは、AIシステムが自然人と対話する際、自然人がAIシステムであることを認識できるように設計・開発しなければならない。ただし、状況や使用文脈から明らかな場合や、犯罪検知や防止、捜査、起訴に法律で認められた場合はこの義務は適用されない。

  2. 感情認識システムおよびバイオメトリクス分類システムの通知:

    • 使用者は、感情認識システムやバイオメトリクス分類システムを運用する際、これにさらされる自然人に対して通知する義務がある。この義務も、犯罪検知、防止、捜査のために法律で認められている場合には適用されない。

  3. ディープフェイクの開示:

    • 既存の人物や物体などに似せた「ディープフェイク」コンテンツを生成・操作するAIシステムの利用者は、そのコンテンツが人為的に生成・操作されたものであることを開示する必要がある。ただし、刑事犯罪の摘発や表現の自由、芸術・科学の自由を守るために必要で、適切な保護措置が取られている場合にはこの義務は適用されない。

  4. 第III章の要件および義務の影響:

    • 上記義務は、本規則のタイトルIIIに定める要件および義務に影響を与えない。

規則の解説


第50条 特定のAIシステムのプロバイダーおよび配備者に対する透明性義務

  1. 自然人と対話するAIシステムの通知:

    • プロバイダは、自然人がAIシステムと対話していることを認識できるように設計・開発しなければならない。ただし、犯罪検知、防止、捜査のために法律で認められている場合には適用されない。

  2. 合成コンテンツの検知と表示:

    • 合成音声、画像、動画、テキストコンテンツを生成するAIシステムの提供者は、出力が機械可読形式で表示され、人為的に生成・操作されたことを検知できるようにする義務がある。これも、犯罪検知、防止、捜査のために法律で認められている場合には適用されない。

  3. 感情認識システムおよびバイオメトリクス分類システムの運用通知:

    • 配備者は、これらのシステムの運用について、対象となる自然人に通知し、適用されるデータ保護規則に従って個人データを処理する義務がある。犯罪検知、防止、捜査のために使用される場合には、この義務は適用されない。

  4. ディープフェイクの開示:

    • ディープフェイクを生成・操作するAIシステムの配備者は、コンテンツが人為的に生成・操作されたものであることを開示しなければならない。芸術的、創作的、風刺的、フィクション的な作品には例外が認められる。

  5. 情報提供のタイミング:

    • 上記情報は、最初の相互作用または暴露の時点で、明確かつ区別可能な方法で提供されなければならない。

  6. 他の法的義務への影響:

    • 上記規定は、第III章に定める要件および義務に影響を与えず、他の透明性義務も損なわない。

  7. 実施基準の作成:

    • AI事務局は、人為的に生成・操作されたコンテンツの検出および表示に関する義務の実施基準の作成を奨励し、促進する。欧州委員会は、必要に応じて共通規則を定めることができる。

第5章 汎用AIモデル

第1節 分類規則

第51条 汎用AIモデルのシステミック・リスク

  1. システミック・リスクの分類:

    • 汎用AIモデルは、高い影響力を有する場合や、科学的パネルからの適格な警告に基づく場合に、システミック・リスクを有するものと分類される。

  2. 影響力の評価:

    • 訓練に使用される計算の累積量が1025を超える場合、高い影響力を有すると推定される。

  3. 閾値の修正:

    • 欧州委員会は、技術の現状を反映するために閾値を修正し、必要に応じて進化する技術開発に対応するための委任法を採択する。

まとめ

この規則は、AIシステムの透明性確保のための義務を詳細に定めています。プロバイダや配備者は、自然人がAIシステムと対話していることを認識できるようにする義務や、ディープフェイクの開示義務、感情認識システムの通知義務を負います。特に犯罪検知や防止に使用される場合には例外が認められます。また、汎用AIモデルのシステミック・リスクに関する規定も設けられており、欧州委員会は技術の発展に応じて閾値を修正する権限を持ちます。これにより、AIシステムの適正な使用と透明性が確保され、ユーザーの権利と安全が守られます。


翻訳

第4章
特定のAiシステムに対する透明性義務
第52条
特定のAIシステムに対する透明性義務

  1. プロバイダは、自然人と対話することを意図したAIシステムが、状況および使用の文脈から明らかな場合を除き、自然人がAIシステムと対話することを知らされるように設計および開発されることを保証しなければならない。この義務は、犯罪を検知し、防止し、捜査し、起訴することを法律で認められたAIシステムには適用されない。

  2. 2.感情認識システムまたはバイオメトリクス分類システムの使用者は、そのシステムの運用について、それにさらされる自然人に通知しなければならない。この義務は、犯罪を検知、防止、捜査するために法律で許可された、バイオメトリクス分類に使用されるAIシステムには適用されない。

  3. 既存の人物、物体、場所、その他の実体または事象に著しく類似し、真正または真実であるかのように人に見せかける画像、音声または映像コンテンツ（「ディープフェイク」）を生成または操作するAIシステムの利用者は、当該コンテンツが人為的に生成または操作されたものであることを開示しなければならない。
    ただし、刑事犯罪の摘発、予防、捜査、訴追のために法律によって使用が許可されている場合、またはEU基本権憲章で保障されている表現の自由および芸術・科学の自由の権利の行使のために必要であり、かつ第三者の権利と自由のための適切な保護措置が講じられている場合には、第1号は適用されない。

  4. 第1項、第2項および第3項は、本規則のタイトルIIIに定める要件および義務に影響を与えないものとする。

規則

第50条
特定のAIシステムのプロバイダーおよび配備者に対する透明性義務

  1. プロバイダは、自然人と直接対話することを意図したAIシステムが、状況及び使用の文脈を考慮し、合理的に十分な知識を有し、観察力があり、かつ慎重な自然人から見て明らかな場合を除き、当該自然人がAIシステムと対話することを知らされるように設計及び開発されることを確保しなければならない。この義務は、第三者の権利及び自由のための適切な保護措置が講じられることを条件として、犯罪を検知、防止、捜査又は起訴するために法律により権限を付与されたAIシステムには適用されない。

  2. 汎用AIシステムを含む、合成音声、画像、動画、テキストコンテンツを生成するAIシステムの提供者は、AIシステムの出力が機械可読形式で表示され、人為的に生成または操作されたものであることを検知できることを保証しなければならない。プロバイダは、様々な種類のコンテンツの特殊性及び制限、実装のコスト、並びに関連する技術標準に反映され得る一般的に認められた技術状況を考慮し、技術的に実行可能である限りにおいて、その技術的解決策が効果的であり、相互運用可能であり、堅牢であり、信頼できるものであることを確保しなければならない。この義務は、AIシステムが標準的な編集のための補助機能を実行する場合、または、配置者によって提供された入力データもしくはそのセマンティクスを実質的に変更しない場合、または、犯罪の検知、防止、捜査もしくは訴追のために法律により権限を付与されている場合には、適用されないものとする。

  3. 感情認識システムまたはバイオメトリクス分類システムの配備者は、それにさらされる自然人にシステムの運用を通知し、適用される場合、規則（EU）2016/679および（EU）2018/1725ならびに指令（EU）2016/680に従って個人データを処理しなければならない。この義務は、第三者の権利および自由のための適切な保護措置の適用を受け、かつ、EU法に従い、犯罪の検知、防止または捜査のために法律により許可される、生体認証分類および感情認識のために使用されるAIシステムには適用されないものとする。

  4. ディープフェイクを構成する画像、音声または映像コンテンツを生成または操作するAIシステムの配備者は、当該コンテンツが人為的に生成または操作されたものであることを開示しなければならない。この義務は、刑事犯罪の検出、防止、捜査または訴追のために使用することが法律で認められている場合には適用されない。コンテンツが、明らかに芸術的、創作的、風刺的、フィクション的または類似の作品または番組の一部を構成する場合、本項に定める透明性の義務は、作品の表示または享受を妨げない適切な方法で、当該生成または操作されたコンテンツの存在を開示することに限定される。
    公共の利害に関する事項を公衆に知らせる目的で公表されるテキストを生成または操作するAIシステムの配備者は、当該テキストが人為的に生成または操作されたものであることを開示しなければならない。この義務は、刑事犯罪の検知、防止、捜査もしくは訴追のために法律で使用が許可されている場合、またはAIが生成したコンテンツが人によるレビューもしくは編集管理のプロセスを経ており、自然人もしくは法人がコンテンツの公表について編集責任を有する場合には、適用されないものとする。

  5. 第1項から第4項までにいう情報は、遅くとも最初の相互作用又は暴露の時点で、明確かつ区別可能な方法で、関係する自然人に提供されなければならない。情報は、適用されるアクセシビリティ要件に適合しなければならない。

  6. 第1項から第4項までの規定は、第III章に定める要件及び義務に影響を及ぼすものではなく、また、AIシステムの配備者について連邦法又は国内法に定めるその他の透明性の義務を損なうものではない。

  7. AI事務局は、人為的に生成または操作されたコンテンツの検出および表示に関する義務の効果的な実施を促進するため、連邦レベルでの実施基準の作成を奨励し、促進するものとする。欧州委員会は、第56条(6)に規定された手続きに従い、これらの実施規範を承認するための実施法を採択することができる。規約が適切でないと判断した場合、欧州委員会は、第98条(2)に定める審査手続きに従って、これらの義務の実施に関する共通規則を規定する実施法を採択することができる。
    第V章
    汎用AIモデル
    第1節
    分類規則
    第五十一条
    汎用AIモデルのシステミック・リスク汎用AIモデルへの分類

  8. 汎用AIモデルは、以下のいずれかの条件を満たす場合、システミック・リスクを有する汎用AIモデルに分類される：
    (a) 指標及びベンチマークを含む適切な技術的ツール及び方法論に基づいて評価された高い影響力を有すること；

(b) 職権による、または科学的パネルからの適格なアラートに従った欧州委員会の決定に基づき、附属書XIIIに定める基準を考慮して、(a)に定める能力と同等の能力または影響力を有する。
2. 汎用のAIモデルは、浮動小数点演算で測定されるその訓練に使用される計算の累積量が1025を超える場合、第1項の(a)に従い、高い影響力を有すると推定されるものとする。
.
3. 欧州委員会は、第97条に従い、本条第1項および第2項に掲げる閾値を修正するとともに、これらの閾値が技術の現状を反映するよう、必要に応じて、アルゴリズムの改良やハードウェアの効率性の向上など、進化する技術開発に照らしてベンチマークおよび指標を補足するための委任法を採択するものとする。
第52条
手続き

  1. 汎用AIモデルが第51条第1項(a)にいう条件を満たす場合、当該AIモデルの提供者は、当該条件が満たされた後、または満たされることが判明した後、遅滞なく、いかなる場合でも2週間以内に欧州委員会に通知しなければならない。その通知には、当該要件が満たされたことを証明するために必要な情報を含めるものとする。欧州委員会が通知を受けていない汎用AIモデルがシステミック・リスクを有していることを知った場合、欧州委員会はそのモデルをシステミック・リスクを有するモデルとして指定することを決定することができる。

  2. 第51条(1)の(a)で言及されている条件を満たす汎用AIモデルの提供者は、その届出とともに、例外的に、当該要件を満たしているものの、当該汎用AIモデルは、その特殊な特性により、システミック・リスクを提示しておらず、したがって、システミック・リスクを伴う汎用AIモデルとして分類されるべきではないことを示す、十分に立証された論拠を提示することができる。

  3. 欧州委員会は、第2項に従って提出された論拠が十分に立証されておらず、関連するプロバイダーが、汎用AIモデルがその特定の特性によりシステミック・リスクをもたらさないことを実証できなかったと結論付けた場合、その論拠を却下し、汎用AIモデルはシステミック・リスクを伴う汎用AIモデルとみなされるものとする。

  4. 欧州委員会は、附属書XIIIに定める基準に基づいて、職権で、または第90条第1項(a)に従った科学的委員会からの適格な警告に従って、汎用AIモデルをシステミック・リスクを有すると指定することができる。
    欧州委員会は、第97条に従い、附属書XIIIに定める基準を特定し更新することにより、附属書XIIIを改正するための委任法を採択する権限を有する。

  5. 第4項に従い、システミック・リスクを有する汎用AIモデルとして指定されたモデルの提供者から理由ある要請があった場合、欧州委員会は当該要請を考慮し、当該汎用AIモデルが、附属書XIIIに定める基準に基づき、依然としてシステミック・リスクを有すると考えられるか否かを再評価することを決定することができる。このような要請には、指定決定以降に生じた客観的かつ詳細で新たな理由を含まなければならない。プロバイダーは、指定決定から最短で6ヵ月後に再審査を要請することができる。欧州委員会が再審査の結果、システミック・リスクを有する汎用AIモデルとしての指定を維持することを決定した場合、プロバイダーは、その決定から最短で6ヵ月後に再審査を要請することができる。

  6. 欧州委員会は、システミック・リスクを有する汎用AIモデルのリストが公表されることを確保し、また、欧州連合法および国内法に従って知的財産権および業務上の機密情報または企業秘密を遵守し保護する必要性を損なうことなく、そのリストを常に最新の状態に保つものとする。

第2項
汎用AIモデル提供者の義務
第53条
汎用AIモデルの提供者の義務

  1. 汎用AIモデルの提供者は、以下の義務を負う：
    (a) AI事務局及び各国所轄官庁に要請に応じて提供するために，少なくとも附属書XIに定 める情報を含む，訓練及び試験過程並びにその評価結果を含むモデルの技術文書を作成し， 最新の状態に維持する；
    (b) AIシステムに汎用AIモデルを統合することを意図するAIシステムの提供者に対し，情報及び文書を作成し，最新に保ち，利用可能にする。連邦法および国内法に従い、知的財産権、企業秘密または企業秘密を遵守し保護する必要性を損なうことなく、情報および文書は以下のものでなければならない：
    (i) AIシステムの提供者が、汎用AIモデルの能力と限界を十分に理解し、本規則に従った義務を遵守できるようにすること。
    (ii) 少なくとも附属書XIIに定める要素を含むこと；

(c) 著作権及び関連する権利に関する連邦法を遵守し、特に、指令(EU)2019/790の第4条(3)に従って表明された権利の留保を、最先端技術を通じて特定し、遵守するための方針を定めること；
(d) AI事務局が提供するテンプレートに従って，汎用AIモデルの訓練に使用されるコンテンツに関する十分に詳細な要約を作成し，公に利用可能にすること。
2. 第1項の(a)及び(b)に規定する義務は，モデルへのアクセス，使用，修正及び頒布を認める無償のオープンソースライセンスの下でリリースされ，重み，モデルアーキテクチャに関する情報及びモデルの使用に関する情報を含むパラメータが一般に公開されているAIモデルの提供者には適用されない。この例外は、システミック・リスクを有する汎用AIモデルには適用されない。
3. 汎用AIモデルの提供者は、必要に応じて欧州委員会および各国主管庁と協力しなければならない。
および各国主管庁と、本規則に基づく権限および権限の行使において、必要に応じて協力しなければならない。

  1. 汎用AIモデルの提供者は、整合基準が公表されるまでは、本条第1項に定める義務の遵守を証明するために、第56条の意味における実務規範に依拠することができる。欧州の整合規格への準拠は、それらの規格がそれらの義務をカバーしている限りにおいて、プロバイダに適合の推定を付与する。承認された実施基準を遵守していない、または欧州整合規格を遵守していない汎用AIモデルの提供者は、欧州委員会による評価のために、別の適切な遵守手段を示さなければならない。

  2. 附属書XI、特に附属書XIのポイント2 (d)および(e)の遵守を促進するため、欧州委員会は、第97条に従い、比較可能で検証可能な文書化を可能にすることを目的とした測定および計算方法を詳述する委任法を採択する権限を有する。

  3. 欧州委員会は、第97条(2)に従い、発展する技術開発に照らして附属書XIおよびXIIを改正するための委任法を採択する権限を有する。

  4. 企業秘密を含め、本条に従って入手した情報または文書は、第78条に定める秘密保持義務に従って取り扱われるものとする。
    第54条
    汎用AIモデルの提供者の公認代理人

  5. 第三国に設立された提供者は、汎用AIモデルを同盟国の市場に投入する前に、書面による委任により、同盟国に設立された公認代理人を任命しなければならない。

  6. 提供者は、その認定代理人が、提供者から受領した委任状に規定された業務を遂行できるようにしなければならない。

  7. 認定代理人は、提供者から受領した委任状に規定された業務を遂行しなければならない。当該代理人は、要請に応じて、当該委任状の写しを、同盟国の機関の公用語の一つで、AI事務局に提出しなければならない。この規則の目的上，委任状は，権限のある代理人に次の業務を実施する権限を与えるものとする：
    (a) 附属書XIに規定された技術文書が作成され，第53条及び該当する場合には第55条に言及され たすべての義務が事業者によって履行されていることを検証すること；
    (b) AI汎用モデルが上市されてから10年間，附属書XIに規定する技術文書の写し及び公認 代理店を指名した事業者の連絡先を，AI事務局及び各国所轄官庁の手元に保管する；
    (c) 正当な理由がある要求があれば，(b)に規定するものを含め，本章の義務の遵守を 証明するために必要なすべての情報及び文書をAI事務局に提供すること；
    (d) AI事務局及び所轄当局が汎用AIモデルに関してとる措置（当該モデルが上市され又は域内で使用されるAIシステムに統合される場合を含む。

  8. 委任状は，本規則の遵守の確保に関連するすべての問題について，AI事務局又は主管庁から，提供者に加えて又は代わって，権限を付与された代理人に宛てて回答する権限を付与するものとする。

  9. 認定代理人は、プロバイダが本規則に従った義務に反して行動していると見なし、又はそう見なす理由がある場合には、委任を解除するものとする。この場合、当該代表者は、AI事務局に対し、委任の終了及びその理由を直ちに通知しなければならない。

  10. 本条に規定する義務は，汎用AIモデルがシステミック・リスクを呈する場合を除き，モデルへのアクセス，使用，修正及び頒布を認める無償のオープンソースライセンスの下でリリースされ，重み，モデル・アーキテクチャに関する情報及びモデルの使用に関する情報を含むパラメータが一般に公開されている汎用AIモデルのプロバイダには適用されない。

第3項
汎用AIモデルの提供者の義務
システミック・リスクを伴う
第55条
システミック・リスクを有する汎用AIモデルの提供者の義務

  1. 第53条及び第54条に掲げる義務に加えて、システミック・リスクを有する汎用AIモデルの提供者は、以下の義務を負う：
    (a) システミック・リスクの特定及び軽減を目的としたモデルの敵対的テストの実施及び文書化を含む、最新技術を反映した標準化されたプロトコル及びツールに従って、モデル評価を実施すること；
    (b) システミック・リスクを有する汎用AIモデルの開発，上市又は使用に起因する可能性のあるシステミック・リスクを，その発生源を含め，EUレベルで評価し，軽減すること；
    (c) 重大なインシデント及びそれに対処するための可能な是正措置に関する関連情報を把握し，文書化し，過度の遅延なく，AI事務局及び必要に応じて各国の所轄当局に報告すること；
    (d) システミック・リスクを有する汎用AIモデル及び当該モデルの物理的インフラストラクチャーの適切なレベルのサイバーセキュリティ保護を確保すること。

  2. システミック・リスクを有する汎用AIモデルのプロバイダーは、整合基準が公表されるまでは、本条第1項に定める義務の遵守を証明するために、第56条の意味における実施規範に依拠することができる。欧州の整合化基準への準拠は、当該基準がこれらの義務をカバーしている限りにおいて、プロバイダーに適合の推定を与える。システミック・リスクを有する汎用AIモデルの提供者が、承認された実施規範を遵守していない場合、または欧州統一基準を遵守していない場合は、欧州委員会による評価のために、別の適切な遵守手段を示さなければならない。

  3. 企業秘密を含め、本条に従って入手した情報または文書は、第78条に定める守秘義務に従って取り扱われるものとする。
    第4項
    実施規範
    第56条
    実施規範

  4. AI事務局は、国際的なアプローチを考慮しつつ、この規則の適切な適用に資するため、同盟国レベルでの実施基準の作成を奨励し、促進する。

  5. AI事務局及び理事会は，実施規範が，少なくとも，次の事項を含む第53条及び第55条に規定する義務を網羅することを確保することを目指すものとする：
    (a) 第53条(1)の(a)及び(b)に規定される情報が，市場及び技術の発展に照らして常に最新であることを確保する手段；
    (b) 研修に使用される内容に関する概要の適切な詳細レベル；
    (c)適切な場合には、その発生源を含む、ユニオン・レベルでのシステミック・リスクの種類及び性質の特定；
    (d) 組合レベルでのシステミック・リスクの評価及び管理のための措置，手続及び方法（その文書化を含む。

  6. AI事務局は、汎用AIモデルのすべての提供者、および関連する各国所轄官庁に対し、実施規範の作成に参加するよう要請することができる。市民社会組織、産業界、学界、および川下プロバイダーや独立専門家などのその他の関連利害関係者は、このプロセスを支援することができる。

  7. AI事務局及び理事会は，実施規範が，その具体的な目的を明確に定め，適切な場合には主要業績評価指標を含む，これらの目的の達成を確保するための約束又は措置を含むこと，及び，影響を受ける者を含むすべての利害関係者のニーズ及び利害を連邦レベルで十分に考慮することを確保することを目指すものとする。

  8. AI事務局は，実施規範への参加者が，公約の実施，講じられた措置及びその結果について，適宜，主要業績評価指標に対する測定を含め，AI事務局に定期的に報告することを確保することを目指すものとする。主要業績評価指標及び報告の約束は、様々な参加者間の規模及び能力の違いを反映するものとする。

  9. AI事務局及び理事会は、参加者による実施規範の目的の達成及び本規則の適切な適用への貢献を定期的に監視し、評価するものとする。AI事務局及び理事会は，実施規範が第53条及び第55条に規定する義務を網羅しているかどうかを評価し，その目的の達成を定期的に監視及び評価しなければならない。両者は、実施規範の妥当性に関する評価を公表しなければならない。
    欧州委員会は、実施法によって、実施規範を承認し、それを域内で一般的に有効とすることができる。当該実施法は、第98条第2項にいう審査手続に従って採択されなければならない。

  10. AI事務局は，汎用AIモデルのすべての提供者に対し，実施基準の遵守を求めることができる。システミック・リスクをもたらさない汎用AIモデルの提供者については、完全な規範に参加することに明示的に関心を表明しない限り、この遵守は第53条に規定される義務に限定することができる。

  11. AI事務局は，適宜，特に新たな基準に照らして，実施規範の見直し及び適応を奨励し，促進する。AI事務局は，利用可能な規格の評価を支援する。

  12. 実施基準は，遅くとも...［この規則の発効日から9箇月］までに作成されなければならない。AI事務局は，第7項に基づく事業者の招請を含め，必要な措置を講じるものとする。
    施行日から12箇月］までに実施細則を確定できない場合、または、本条第6項に基づく評価の結果、AI室が適切でないと判断した場合、欧州委員会は、実施法によって、本条第2項に定める事項を含め、第53条および第55条に規定する義務の実施に関する共通の規則を定めることができる。これらの実施法は、第98条第2項にいう審査手続に従って採択されるものとする。

第六章
技術革新を支援する措置
第57条
AI規制のサンドボックス

  1. 加盟国は、所管当局が少なくとも1つのAI規制のサンドボックスを国家レベルで設置することを確保するものとし、そのサンドボックスは、...[本規則の発効日から24ヶ月]までに運用を開始するものとする。このサンドボックスは、他の加盟国の管轄当局と共同で設置することもできる。欧州委員会は、AI規制のサンドボックスの設置および運用のための技術的支援、助言、ツールを提供することができる。
    第1号に基づく義務は、既存のサンドボックスに参加することによっても果たすことができる。

  2. 地域レベル又は地方レベルの追加のAI規制サンドボックス、又は他の加盟国の管轄当局と共同で設立されたAI規制サンドボックスも設立することができる。

  3. 欧州データ保護監督機関は、欧州連合の機関、団体、事務所および機関に対してもAI規制のサンドボックスを設置することができ、本章に従い、各国の管轄当局の役割および任務を行使することができる。

  4. 加盟国は、第1項および第2項で言及された管轄当局が、本条を効果的かつ適時に遵守するために十分な資源を配分することを確保しなければならない。
    適切な場合、各国所轄当局は、他の関連当局と協力するものとし、AIエコシステム内の他の関係者の関与を認めることができる。
    本条は、連邦法または国内法に基づき設立された他の規制のサンドボックスに影響を及ぼすものではない。加盟国は、それら他のサンドボックスを監督する当局と国内所轄当局との間で、適切なレベルの協力を確保するものとする。

  5. 第1項に基づいて設置されるAI規制のサンドボックスは、提供者または提供予定者と所轄当局との間で合意された特定のサンドボックス計画に従って、革新的なAIシステムの市場投入またはサービス開始前の限られた期間、技術革新を促進し、開発、訓練、試験および検証を容易にする管理された環境を提供するものとする。このようなサンドボックスには、そこで監督された実世界条件でのテストが含まれる場合がある。

  6. 所轄当局は、特に基本的権利、安全衛生、試験、緩和措置、および、本規則の義務および要件、ならびに、関連する場合には、サンドボックス内で監督される他の連邦法および国内法との関連におけるそれらの有効性に対するリスクを特定することを目的として、必要に応じて、AI規制のサンドボックス内で指導、監督および支援を提供するものとする。

  7. 所轄当局は、AI規制のサンドボックスに参加するプロバイダ及びプロバイダ候補に対し、規制上の期待、並びに本規則に定める要件及び義務の履行方法に関するガイダンスを提供するものとする。

AIシステムの提供者または提供予定者の要請があれば、所轄官庁は、サンドボックスで成功裏に実施された活動の書面による証明を提供しなければならない。所管官庁はまた，サンドボックスで実施された活動，関連する結果及び学習成果を詳述した終了報告書を提供しなければならない。プロバイダーは、適合性評価プロセスまたは関連する市場サーベイランス活動を通じて本規則に準拠していることを証明するために、当該文書を使用することができる。この点に関し、市場監視当局及び認証機関は、適合性評価手続を合理的な範囲で迅速化する観点から、 国内主管庁から提供された終了報告書及び書面による証明を積極的に考慮しなければならない。
8. 第78条の秘密保持規定に従い、かつ、提供者又は提供予定者の同意がある場合、欧州委員会及び理事会は、終了報告書にアクセスする権限を有し、かつ、本規則に基づく職務を遂行する際に、適宜、それらを考慮するものとする。事業者または事業予定者と各国所轄庁の双方が明確に合意した場合、本条にいう単一の情報プラットフォームを通じて、終了報告書を一般に公開することができる。
9. AI規制のサンドボックスの設置は，以下の目的に資することを目的とする：
(a) 本規則又は関連する場合、他の適用されるEU法及び国内法への規制遵守を達成するための法的確実性を向上させること；
(b) AI規制のサンドボックスに関与する当局との協力を通じて、ベストプラクティスの共有を支援すること；

(c) イノベーションと競争力を育成し、AIエコシステムの発展を促進すること；
(d) 根拠に基づく規制の学習に貢献すること；
(e) 特に新興企業を含む中小企業が提供するAIシステムの連邦市場へのアクセスを促進し、加速する。
10. 各国所轄官庁は、革新的なAIシステムが個人データの取扱いを伴うか、又はデータへのアクセスを提供若しくは支援する他の各国所轄官庁若しくは所轄官庁の監督権限の下にある限りにおいて、各国データ保護当局及び当該他の各国所轄官庁若しくは所轄官庁がAI規制のサンドボックスの運用に関連付けられ、それぞれの任務及び権限の範囲内でこれらの側面の監督に関与することを確保しなければならない。
11. AI規制のサンドボックスは、地域又は地方レベルを含むサンドボックスを監督する管轄当局の監督又は是正の権限に影響を及ぼさないものとする。当該AIシステムの開発および試験中に特定された、健康・安全および基本的権利に対する重大なリスクは、適切な緩和をもたらすものとする。各国所轄官庁は、効果的な緩和が不可能な場合、一時的または恒久的にテストプロセス、またはサンドボックスへの参加を停止する権限を有し、その決定をAI事務局に通知しなければならない。各国所轄官庁は、連邦におけるAIのイノベーションを支援する目的で、特定のAI規制サンドボックスプロジェクトに関する法的規定を実施する場合、裁量権を行使し、関連法の範囲内で監督権限を行使するものとする。

  1. AI規制のサンドボックスに参加するプロバイダーおよびプロバイダー候補は、サンドボックス内で行われた実験の結果として第三者に与えた損害について、適用される連邦法および国内法に基づき責任を負うものとする。ただし、参加予定事業者が具体的な計画および参加条件を遵守し、国内所轄当局の指導に誠実に従うことを条件として、本規則の違反に対して当局が行政処分を科すことはない。他の連邦法及び国内法を所管する所管官庁が、サンドボックス内のAIシステムの監督に積極的に関与し、遵守のためのガイダンスを提供した場合、当該法に関して行政罰が課されることはない。

  2. AI規制のサンドボックスは、関連する場合、各国の管轄当局間の国境を越えた協力を促進するように設計され、実施されなければならない。

  3. 各国所轄当局は、理事会の枠組みの中で、その活動を調整し、協力するものとする。

  4. 各国所轄庁は，サンドボックスの設置についてAI事務局及び理事会に報告し，支援及び指導を求めることができる。AI事務局は，AI規制のサンドボックスにおけるより多くの交流と国境を越えた協力を促進するため，計画されているサンドボックス及び既存のサンドボックスのリストを一般に公開し，常に最新の状態に保つものとする。

  5. 各国の主管庁は，AI規制のサンドボックスの設立から1年後以降，終了まで毎年，AI事務局及び理事会に年次報告書を提出し，最終報告書を提出しなければならない。これらの報告書は、ベストプラクティス、インシデント、教訓、設定に関する勧告を含む、サンドボックスの実施の進捗状況および結果に関する情報、ならびに、関連する場合には、委任法および実施法を含む本規則の適用および改正の可能性に関する情報、ならびに、サンドボックス内で管轄当局が監督する他の連邦法の適用に関する情報を提供するものとする。各国主管庁は、これらの年次報告書またはその抄録をオンラインで一般に公開しなければならない。欧州委員会は、本規則に基づく任務を遂行する際、必要に応じて年次報告書を考慮するものとする。

  6. 欧州委員会は、第62条1項(c)に従い、利害関係者がAI規制のサンドボックスと対話し、管轄当局に問い合わせを行い、AI技術を組み込んだ革新的な製品、サービス、ビジネスモデルの適合性について拘束力のないガイダンスを求めることができるよう、AI規制のサンドボックスに関するすべての関連情報を含む単一の専用インターフェースを開発する。欧州委員会は、関連する場合には、各国の管轄当局と積極的に連携する。

この記事が気に入ったらサポートをしてみませんか？