逐条解説　EUのAI規正法53条、54条条、規則58条~61条）

こんぷらいん

第5章 イノベーション支援措置

第53条 AI規制のサンドボックス

1. AI規制のサンドボックス設置: 欧州データ保護監督機関および各加盟国の管轄当局が設置するAI規制サンドボックスは、革新的なAIシステムの開発、試験、および検証を行うための管理された環境を提供します。これにより、サンドボックス内での直接的な監督および指導の下で、本規則および関連するEUおよび加盟国の法律の遵守が確保されます。

2. データ保護当局の関与: 加盟国は、AI規制サンドボックスが個人データの処理を伴う場合、国家データ保護当局および他の関連当局がその運用に関与することを確保します。

3. 監督・是正権限の維持: サンドボックスは、管轄当局の監督・是正権限に影響を与えず、健康、安全、基本的権利に対する重大なリスクが特定された場合には速やかに対応します。緩和が不可能な場合は、試験プロセスを一時停止する権限を有します。

4. 参加者の責任: サンドボックス参加者は、実験の結果として第三者に与えた損害について、適用されるEUおよび加盟国の責任法に基づき責任を負います。

5. 報告および協力: 加盟国の管轄当局は、欧州人工知能理事会と協力してサンドボックスの活動を調整し、年次報告書を提出します。報告書にはグッドプラクティス、教訓、設置に関する勧告が含まれます。

6. 実施法: AI規制サンドボックスの運営方法および条件は、実施法に定められます。これには参加資格基準、申請、選定、参加、脱退の手続き、参加者の権利および義務が含まれます。

第54条 AI規制サンドボックスにおける公共の利益のための特定のAIシステム開発のための個人データのさらなる処理

1. 公共の利益のための処理条件: AI規制のサンドボックスにおいて、合法的に収集された個人データは、以下の条件を満たす場合、特定の革新的なAIシステムの開発および試験のために処理されます：

  • 公共の安全、公衆衛生、環境保護、重要インフラの安全性などの実質的な公益を保護するためのシステムであること。

  • 匿名データや合成データで要件を満たせない場合、効果的な監視メカニズムが存在し、基本的権利に対する高いリスクを軽減する対応策が講じられること。

2. 刑事犯罪予防目的の処理: 法執行当局による刑事犯罪の予防、捜査、検出のためのデータ処理も、特定の条件の下で認められます。

3. 法令の適用: 他の目的のための個人データの処理を排除する法令が適用される場合、これを損なうものではありません。

第58条 AI規制サンドボックスの詳細な取り決めおよび機能

1. 詳細な取り決め: 欧州委員会は、AI規制サンドボックスの設置、開発、実施、運用および監督に関する詳細な取り決めを定めた実施法を採択します。

2. 共通の原則: 実施法には、参加資格、申請手続き、参加条件、監督の透明性、公平性、広範なアクセスを確保するための原則が含まれます。

3. 参加者支援: 中小企業やスタートアップを含むプロバイダ候補には、導入前サービス、標準化文書、試験・実験施設、イノベーションハブなどの支援が提供されます。

4. 実環境での試験: 各国所轄官庁は、基本的権利や安全を保護するために必要な緩和措置について具体的に合意し、試験を許可することを検討します。

第59条 AI規制サンドボックスにおける公益のための特定のAIシステム開発のための個人データのさらなる処理

1. 公共の利益のための個人データ処理: 公益の保護のために開発されるAIシステムに関して、合法的に収集された個人データは特定の条件を満たす場合、サンドボックスでの開発、訓練、試験のために処理されます。

2. 刑事犯罪予防のための処理: 刑事犯罪予防のためのデータ処理は、特定の連邦法または国内法に基づき、条件を満たす場合に限り認められます。

3. 法令の適用: 他の目的のためのデータ処理を排除する法令を妨げるものではありません。

第60条 AI規制のサンドボックス外の実環境における高リスクAIシステムのテスト

1. 実環境での試験条件: 高リスクAIシステムの提供者または提供予定者は、適切な計画を作成し、必要な条件を満たした上で、実環境での試験を実施できます。

2. 試験の報告および責任: 試験の終了時には、管轄当局に報告し、試験中に発生した損害については適用法に基づき責任を負います。

第61条 AI規制のサンドボックス外の実環境における試験への参加に対するインフォームド・コンセント

1. インフォームド・コンセントの取得: 実環境での試験に参加する前に、被験者に対して詳細な情報を提供し、自由意思に基づくインフォームド・コンセントを取得します。

2. 文書化: インフォームド・コンセントは文書化され、その写しが被験者に提供されます。

このように、第5章はAI規制のサンドボックスを通じて、革新的なAIシステムの開発、試験、検証を促進するための枠組みを詳細に定めています。特にデータ保護、倫理審査、インフォームド・コンセントの取得など、基本的権利の保護に重点を置いています。


翻訳

第5章
イノベーション支援措置
第53条
AI規制のサンドボックス

  1. 一つまたは複数の加盟国の管轄当局または欧州データ保護監督機関により設置されるAI規制サンドボックスは、革新的なAIシステムの開発、試験および検証を容易にする管理された環境を提供するものとする。これは、本規則の要件および関連する場合、サンドボックス内で監督される他の欧州連合および加盟国の法律の遵守を確保することを目的として、所轄当局による直接的な監督および指導の下で行われるものとする。

    1. 加盟国は、革新的なAIシステムが個人データの処理に関与している場合、または、データへのアクセスを提供もしくは支援する他の国家当局もしくは管轄当局の監督権限下にある場合、当該国家データ保護当局および他の国家データ保護当局が、個人データの処理またはデータへのアクセスを提供もしくは支援する他の国家当局もしくは管轄当局の監督権限下にあることを保証するものとする、

加盟国は、革新的なAIシステムが個人データの処理を伴うか、またはデータへのアクセスを提供もしくは支援する他の国家当局もしくは管轄当局の監督権限の下にある限りにおいて、各国のデータ保護当局および他の国家当局がAI規制のサンドボックスの運用に関連することを確保する。
3. AI規制のサンドボックスは、管轄当局の監督・是正権限に影響を与えないものとする。このようなシステムの開発および試験中に特定された健康および安全、基本的権利に対する重大なリスクは、直ちに緩和されるものとし、緩和されない場合は、そのような緩和が行われるまで、開発および試験プロセスを一時停止するものとする。
4. AI規制サンドボックスの参加者は、サンドボックス内で行われた実験の結果、第三者に加えられた損害について、適用されるEUおよび加盟国の責任法令に基づき、引き続き責任を負うものとする。
5. 5.AI規制サンドボックスを設置した加盟国の管轄当局は、欧州人工知能理事会の枠組みの中で、その活動を調整し、協力するものとする。各加盟国は、理事会および欧州委員会に対し、グッドプラクティス、教訓、設置に関する勧告、および、関連する場合には、サンドボックス内で監督される本規則および他の連邦法の適用に関する勧告を含む、これらの制度の実施結果に関する年次報告書を提出しなければならない。
6. 参加資格基準、サンドボックスへの申請、選定、参加、脱退の手続き、参加者の権利および義務を含む、AI規制のサンドボックスの運営方法および条件は、実施法に定めるものとする。これらの実施法は、第74条(2)で言及される審査手続きに従って採択されなければならない。
第54条
AI規制のサンドボックスにおける公共の利益のための特定のAIシステム開発のための個人データのさらなる処理

  1. AI規制のサンドボックスにおいて、他の目的のために合法的に収集された個人情報は、以下の条件の下で、サンドボックスにおいて特定の革新的なAIシステムを開発及び試験する目的で処理されるものとする：
    (a) 革新的なAIシステムは、以下の1つ以上の分野における実質的な公益を保護するために開発される：
    (i)所轄当局の管理および責任の下、公共の安全に対する脅威の保護および防止を含む、刑事犯罪の予防、捜査、検出もしくは訴追、または刑事罰の執行。処理は、加盟国またはEUの法律に基づくものとする；
    (ii) 疾病の予防、管理および治療を含む、公共の安全および公衆衛生；
    (iii) 高水準の保護および環境の質の向上；
    (b) 処理されるデータが、匿名化された、合成された、またはその他の非個人データを処理することによって効果的にこれらの要件を満たすことができない場合、第III章第2節で言及される1つまたは複数の要件を遵守するために必要であること；

(c) サンドボックス実験中にデータ主体の基本的権利に対する高いリスクが発生する可能性が あるかどうかを特定するための効果的な監視メカニズム、およびそれらのリスクを速やかに 軽減し、必要に応じて処理を停止するための対応メカニズムが存在すること；
(d) サンドボックスの文脈で処理される個人データはすべて、参加者の管理の下、 機能的に分離され、隔離され、保護されたデータ処理環境にあり、権限を与えられた者の みがそのデータにアクセスできる；
(e) 処理された個人データは、他の当事者によって送信、転送、またはその他の方法でアクセスされないこと；
(f) サンドボックスの文脈における個人データの処理が、データ対象者に影響を与える措置または決定につながらないこと；
(g) サンドボックスに関連して処理された個人データは、サンドボックスへの参加が終了した時点、または個人データの保持期間が終了した時点で削除されること；
(h) サンドボックス内で処理された個人データのログは、サンドボックスへの参加期間中およびその終了後1年間、本条項またはその他のEUもしくは加盟国の適用法令に基づく説明義務および文書化義務を履行する目的でのみ、かつ必要な期間のみ保存されること；
(i) AIシステムの訓練，試験及び検証のプロセス及び理論的根拠に関する完全かつ詳細な記述は，附属書IVの技術文書の一部として，試験結果とともに保管される；
(j) サンドボックスで開発されたAIプロジェクト，その目的及び期待される結果の簡単な概要が，管轄当局のウェブサイトで公表されること。
2. 第 1 項は、当該法令に明示的に記載された目的以外の目的で処理を行うことを排除する連邦又は加盟国の法令を妨げるものではない。

規則
第58条
AI規制サンドボックスの詳細な取り決めおよび機能

  1. 欧州連合全体における分断を避けるため、欧州委員会は、AI規制のサンドボックスの設置、開発、実施、運用および監督に関する詳細な取り決めを明記した実施法を採択しなければならない。
    実施法には、以下の問題に関する共通の原則を盛り込むものとする：
    (a) AI規制のサンドボックスへの参加資格と選考基準；
    (b) サンドボックス計画及び終了報告書を含む，AI規制サンドボックスの申請，参加，監視，終了及び終了の手順；
    (c) 参加者に適用される条件。
    これらの実施法は、第98条(2)で言及された審査手続きに従って採択されなければならない。

  2. 第1項の実施法は、以下を確保しなければならない：
    (a) AI規制のサンドボックスは，透明かつ公正でなければならない適格性及び選定基準を満たすAIシステムの提供者又は提供予定者に開放され，かつ，各国所轄官庁は，申請者から3か月以内にその決定を申請者に通知すること；

(b) AI規制のサンドボックスは，広範かつ平等なアクセスを可能とし，参加需要に対応すること。プロバイダ及びプロバイダ候補は，導入事業者その他の関連する第三者とのパートナーシップの下で，申請を提出することもできる；
(c) AI規制サンドボックスに関する詳細な取り決め及び条件は，可能な限り，各国の所管当局がAI規制サンドボックスを設置及び運営するための柔軟性を支援すること；
(d) AI規制のサンドボックスへのアクセスは，各国の所轄庁が公正かつ適切な方法で回収することができる例外的な費用を害することなく，新興企業を含む中小企業にとって無料であること；
(e) AI規制のサンドボックスの学習成果により，プロバイダ及びプロバイダ候補が，本規則に基づく適合性評価義務及び第95条にいう行動規範の自発的な適用を遵守することを促進すること；
(f) AI規制のサンドボックスは、官民の協力を可能にし、促進するために、認証機関や標準化機関、スタートアップを含む中小企業、企業、イノベーター、試験・実験施設、研究・実験ラボ、欧州デジタル・イノベーション・ハブ、卓越性センター、個人研究者など、AIエコシステム内の他の関連主体の関与を促進すること；

(g) AI規制のサンドボックスへの申請、選定、参加、脱退のための手続き、プロセス、管理上の要件は、法的・管理的能力の乏しい新興企業を含む中小企業の参加を促進するために、簡素で、分かりやすく、明確に伝達され、また、断片化を避けるために、欧州連合全体で合理化され、加盟国または欧州データ保護監督機関によって設立されたAI規制のサンドボックスへの参加は、欧州連合全体で相互に一律に認められ、同じ法的効果を持つこと；
(h) AI規制のサンドボックスへの参加は、プロジェクトの複雑さと規模に見合った期間に限定され、各国の所轄庁によって延長される可能性があること；
(i) AI規制のサンドボックスは、基本的権利や社会全体に対するリスクを軽減するための措置と同様に、正確性、堅牢性、サイバーセキュリティなど、規制の学習に関連するAIシステムの側面をテスト、ベンチマーク、評価、説明するためのツールやインフラの開発を促進すること。
3. AI規制のサンドボックスのプロバイダー候補、特に中小企業や新興企業には、関連する場合、本規則の実施に関するガイダンスなどの導入前サービス、標準化文書や認証の支援、試験・実験施設、欧州デジタル・イノベーション・ハブ、センター・オブ・エクセレンスなどのその他の付加価値サービスを提供する。

  1. 各国所轄官庁が、本条に基づき設置されるAI規制のサンドボックスの枠組み内で監督される実環境での試験を許可することを検討する場合、当該所轄官庁は、基本的権利、健康および安全を保護する観点から、当該試験の条件、特に適切な保護措置について、参加者と具体的に合意しなければならない。適切な場合には、連邦全体で一貫した慣行を確保する観点から、他の国の管轄当局と協力するものとする。
    第59条
    AI規制のサンドボックスにおける公益のための特定のAIシステム開発のための個人データのさらなる処理

  2. AI規制のサンドボックスにおいて、以下の条件がすべて満たされる場合、他の目的のために合法的に収集された個人データを、サンドボックスにおける特定のAIシステムの開発、訓練および試験の目的のためだけに処理することができる：
    (a) AIシステムは、公的機関または他の自然人もしくは法人によって、実質的な公共の利益を保護するために開発されるものであり、以下の分野の1つ以上であること：
    (i) 疾病の発見、診断、予防、管理、治療、医療制度の改善など、公共の安全および公衆衛生；
    (ii) 環境の質の高度な保護と改善、生物多様性の保護、汚染からの保護、グリーン移行措置、気候変動の緩和と適応措置；

(iii) エネルギーの持続可能性
(iv) 輸送システムとモビリティ、重要インフラとネットワークの安全性と回復力；
(v) 行政および公共サービスの効率性と質
(b) 処理されるデータが、第III章第2節で言及される1つ以上の要件を遵守するために必要であり、匿名化されたデータ、合成データまたはその他の非個人データを処理することによって、これらの要件を効果的に満たすことができない場合；
(c) 規則(EU)2016/679の第35条および規則(EU)2018/1725の第39条で言及されている、データ主体の権利と自由に対する高いリスクがサンドボックス実験中に生じる可能性があるかどうかを特定するための効果的な監視メカニズム、およびそれらのリスクを速やかに軽減し、必要に応じて処理を停止するための対応メカニズムが存在すること；
(d)サンドボックスの文脈で処理される個人データは、将来のプロバイダーの管理下で、機能的に分離され、隔離され、保護されたデータ処理環境にあり、権限を有する者のみがこれらのデータにアクセスできる；
(e) プロバイダーは、EUデータ保護法に従ってのみ、当初収集したデータをさらに共有することができる；

(f) サンドボックス内で行われる個人データの処理は、データ主体に影響を及ぼす措置や決定をもたらすものではなく、個人データの保護に関するEU法に定められた権利の適用に影響を及ぼすものでもないこと；
(g) サンドボックスの文脈で処理された個人データは、適切な技術的および組織的手段によって保護され、サンドボックスへの参加が終了するか、または個人データの保持期間が終了した時点で削除されること；
(h) サンドボックスに関連する個人データの処理に関するログは、連合法または国内法に別段の定めがない限り、サンドボックスへの参加期間中保管される；
(i) AIシステムの訓練、テスト及び検証のプロセス及び根拠に関する完全かつ詳細な説明が、テスト結果とともに、附属書IVで言及される技術文書の一部として保管されること；
(j) サンドボックスで開発されたAIプロジェクト，その目的及び期待される結果の簡単な概要が，管轄当局のウェブサイト上で公表されること。この義務は，法執行，国境管理，出入国管理又は亡命当局の活動に関連する機微な業務データを対象としない。

  1. 法執行当局の管理および責任の下で、公共の安全に対する脅威の保護および防止を含む、刑事犯罪の予防、捜査、探知もしくは訴追、または刑事罰の執行を目的とする場合、AI規制のサンドボックスにおける個人データの処理は、特定の連邦法または国内法に基づき、かつ第1項で言及されたのと同じ累積的条件に従うものとする。

  2. 第1項は、個人データの保護に関する同盟法に準拠し、当該法に明示的に記載された目的以外の個人データの処理を除外する同盟法又は国内法、並びに革新的なAIシステムの開発、試験若しくは訓練の目的又はその他の法的根拠に必要な個人データの処理の根拠を規定する同盟法又は国内法を害するものではない。
    第60条
    AI規制のサンドボックス外の現実世界における高リスクAIシステムのテスト

  3. AI規制のサンドボックス外の実環境における高リスクAIシステムの試験は、附属書IIIに記載された高リスクAIシステムの提供者または提供予定者が、本条および本条で言及された実環境試験計画に従って、第5条の禁止事項を損なうことなく実施することができる。
    欧州委員会は、実施法によって、実地試験計画の詳細な要素を規定する。これらの実施法は、第98条第2項にいう審査手続に従って採択されなければならない。

本項は、附属書Iに記載されたEU調和法の対象となる製品に関連するハイリスクAIシステムの実環境における試験に関するEU法または国内法を妨げるものではない。
2. 提供者又は提供予定者は，附属書IIIにいう高リスクのAIシステムの上市又は使用開始の前であればいつでも，自ら又は一以上の導入者若しくは導入予定者と共同で，実世界条件における試験を実施することができる。
3. 本条に基づくリスクの高いAIシステムの実環境での試験は、EU法又は国内法によって要求される倫理審査を損なうものであってはならない。
4. 提供者又は提供予定者は、以下の条件がすべて満たされる場合に限り、実世界の条件下で試験を実施することができる：
(a) 提供者または提供希望者が、実環境での試験計画を作成し、実環境での試験が実施される加盟国の市場監視当局に提出していること；
(b) 実世界条件下での試験が実施される加盟国の市場監視当局が、実世界条件下での試験及び実世界試験計画を承認したこと。市場監視当局が30日以内に回答を出さなかった場合、実世界条件下での試験及び実世界試験計画は承認されたとみなされるものとする；

(c) 提供者又は提供予定者が，法執行，移住，亡命及び国境管理の分野における附属書Ⅲの1，6及び7に掲げる高リスクAIシステムの提供者又は提供予定者，並びに附属書Ⅲの2； 法執行、移民、亡命、国境管理の分野において、附属書IIIの1、6、7で言及される高リスクAIシステムの提供者または提供予定者は、EUデータベース第49条4項の(d)に従い、実環境における試験を、EU全域に一意の単一識別番号を付し、そこに指定された情報を添えて、EUデータベースの安全な非公開セクションに登録している；附属書IIIの2項で言及される高リスクAIシステムの提供者または提供予定者は、第49条5項に従い、実環境における試験を登録している；
(d) 実世界条件で試験を実施する提供者又は提供予定者が、域内に設立されているか、又は域内に設立されている法定代理人を選任していること；
(e) 実世界での試験を目的として収集および処理されたデータは、EU法に基づく適切かつ適用可能な保護措置が実施される場合に限り、第三国に移転されること；

(f) 実世界条件下での試験は、その目的を達成するために必要な期間を超えて行われず、いかなる場合においても6ヶ月を超えないものとする；
(g) 年齢又は障害のために社会的弱者に属する実環境における試験の対象者が適切に保護され ていること；
(h) 提供者又は提供予定者が，一人又は複数の配備者又は配備予定者と協力して実世界条件下での 試験を実施する場合，配備者又は配備予定者は，参加の決定に関連する試験のすべての側面 について知らされ，第 13 条にいう AI システムの使用に関する関連する指示を与えられていること； 提供者又は提供予定者及び配備者又は配備予定者は，この規則に基づく実世界条件下での試験 に関する規定並びに他の適用される連合法及び国内法に基づく規定の遵守を確保することを目的として， 両者の役割及び責任を明記した協定を締結すること；
(i) 実世界条件における試験の対象者が第61条に従ってインフォームド・コンセントを行っていること、又は、法執行の場合、インフォームド・コンセントを求めることがAIシステムの試験を妨げることになる場合には、実世界条件における試験自体及び試験の結果が対象者に悪影響を及ぼさないこと、並びに、試験の実施後に対象者の個人データが削除されること；

(j) 実世界条件下でのテストは、提供者または提供予定者、ならびに配備者ま たは配備予定者により、関連分野において適切な資格を有し、業務を遂行するた めに必要な能力、訓練および権限を有する者を通じて、効果的に監督されること；
(k) AI システムの予測，勧告又は決定を効果的に覆し，無視することができること。
5. 5.実世界の条件下における試験の被験者、または必要に応じてその法的に指定された代理人は、結果的に不利益を被ることなく、また正当な理由を提示することなく、インフォームド・コンセントを撤回することにより、いつでも試験から離脱することができ、その個人データの即時かつ恒久的な削除を要求することができる。インフォームド・コンセントの撤回が、すでに実施された活動に影響を及ぼすことはないものとする。
6. 第75条に従い、加盟国は、自国の市場監視当局に対し、プロバイダーおよびプロバイダー候補に対し情報提供を要求する権限、抜き打ちの遠隔検査または立入検査を実施する権限、および実環境における試験の実施および関連するハイリスクAIシステムのチェックを実施する権限を付与するものとする。市場監視当局は、これらの権限を用いて、実環境における試験の安全な実施を確保しなければならない。

  1. 実環境における試験の過程で確認された重大な事故は、第73条に従って、国内の市場監視当局に報告されなければならない。提供者又は提供予定者は、直ちに緩和措置を講じるか、又は緩和措置が講じられるまで実環境における試験を一時停止するか、さもなければ試験を中止しなければならない。プロバイダ又はプロバイダ予定者は，実環境における試験の当該終了時にAIシステムを速やかに回収するための手続を確立しなければならない。

  2. 提供者又は提供予定者は、実世界条件下での試験の一時停止又は終了及び最終結果を、実世界条件下での試験が実施される加盟国の国内市場監視当局に通知しなければならない。

  3. 提供者または提供予定者は、実環境における試験の過程で生じた損害について、適用される連合法および国内法に基づき責任を負うものとする。
    第61条
    AI規制のサンドボックス外の実環境における試験への参加に対するインフォームド・コンセント

  4. 第60条に基づく実世界条件下での試験のために、自由意思に基づくインフォームド・コンセントは、当該試験への参加に先立ち、かつ、当該被験者が、簡潔、明確、適切かつ理解可能な以下の情報を用いて正式に説明を受けた後に、当該被験者から取得されるものとする：
    (a) 実世界の条件における試験の性質及び目的並びに被験者の参加に関連する可 能性のある不都合；
    (b) 対象者の参加予定期間を含め、実環境における試験が実施される条件；
    (c) 対象者の権利及び参加に関する保証、特に、結果として不利益を被ることなく、 また正当な理由を提示することなく、いつでも実環境における試験への参加を拒否 する権利及び参加を取りやめる権利；
    (d) AIシステムの予測、勧告又は決定の取り消し又は無視を要求するための取決め；
    (e) 第60条(4)項(c)に従った、実世界条件下での試験に関するユニオン・ワイドの一意の単一識別番号、及び更なる情報を得ることができる提供者又はその法定代理人の連絡先の詳細。

  5. インフォームド・コンセントは、日付を付して文書化し、その写しを検査対象者又はその 法定代理人に渡さなければならない。

この記事が気に入ったらサポートをしてみませんか？