逐条解説　EUのAI規正法（禁止されるAI5条、規則5条）

こんぷらいん

条文の翻訳はページ下部にあります。

AI規制法第5条：人工知能の禁止行為についての解説

1. 総論

第5条は、特定の人工知能（AI）技術やシステムの使用を厳しく制限または禁止することを目的としています。これらの制限は、AI技術が個人の権利や社会全体に対して深刻なリスクをもたらす可能性があるために設けられています。この条文では、AIシステムがどのような場合に使用禁止となるか、その具体的な条件を詳細に規定しています。

2. サブリミナル技術の禁止 (a)

第5条(a)項では、人の意識を超えたサブリミナル技術を導入するAIシステムの使用を禁止しています。サブリミナル技術とは、人が無意識のうちに影響を受けるような情報を提示する技術を指します。この技術が人や他の人に身体的または心理的危害を与える、またはその可能性がある場合、そのAIシステムの市場投入、使用開始、および使用が禁止されます。この規定は、人間の自由意思を守るために設けられており、特に脆弱な個人が無意識のうちに影響を受けることを防ぐためです。

3. 脆弱性の悪用 (b)

第5条(b)項は、特定の集団に属する者の脆弱性を悪用するAIシステムの禁止について規定しています。この場合、脆弱性とは、年齢や身体的・精神的障害などを指します。これらの脆弱性を悪用して、当該集団に属する者や他の者に身体的または心理的危害を与える、またはその可能性がある場合、そのAIシステムの市場投入、稼働、および使用が禁止されます。この規定は、特に弱者を保護するために設けられています。

4. 社会的スコアリングの禁止 (c)

第5条(c)項は、社会的スコアリングシステムの使用を禁止しています。社会的スコアリングとは、自然人の行動や個人的な特徴に基づいて信頼性を評価または分類するシステムです。このようなシステムが、データが生成または収集された文脈と無関係な社会的文脈での不利益な取り扱いや、不当または不釣り合いな不利益な取り扱いにつながる場合、その使用が禁止されます。この規定は、個人のプライバシーと公正な扱いを守るために設けられています。

5. リアルタイムの遠隔バイオメトリクス識別の禁止 (d)

第5条(d)項では、法執行の目的で、公にアクセス可能な空間における「リアルタイム」の遠隔バイオメトリクス識別システムの使用を原則として禁止しています。ただし、特定の条件下で使用が許可される場合もあります。その条件は以下の通りです：

  • 行方不明の子どもを含む特定の潜在的犯罪被害者の捜索

  • 自然人の生命または身体の安全に対する特定の脅威やテロ攻撃の防止

  • 特定の重大犯罪の加害者または容疑者の発見、特定、訴追

このような使用が許可される場合でも、使用の状況やその影響を考慮し、時間的、地理的、個人的な制限を設けることが求められます。

6. 使用の条件と監視

第5条はまた、リアルタイムの遠隔バイオメトリクス識別システムの使用について、厳格な条件と監視体制を要求しています。具体的には、使用が必要かつ相応のものであることを確認するための事前許可が求められます。この許可は、合理的な要求に基づき、司法当局または独立行政当局によって発行されるべきです。緊急事態においては、事後に許可を求めることも可能です。

7. 加盟国の権限と国内法

加盟国は、公にアクセス可能な空間でのリアルタイム遠隔バイオメトリクス識別システムの使用について、国内法で詳細な規定を設ける義務があります。これには、許可の要求、発行、および監督に関する規則が含まれます。また、加盟国は特定の犯罪に対してこれらのシステムを使用する権限を定めることもできます。

8. 結論

第5条は、個人の権利と自由を保護し、AI技術の悪用を防ぐために設けられた厳格な規定です。これにより、特定の危険性の高いAIシステムの使用が制限され、特に弱者や社会全体に対するリスクが軽減されることが期待されます。加盟国はこれらの規定を国内法に取り入れ、適切な監視と実施を行う責任を負います。


AI規制法第5条禁止されるAI行為についての解説

1. 総論

AI規制法第5条は、特定のAI行為を禁止する規定を設けることにより、人権や社会的秩序の保護を目的としています。この規定は、AI技術の悪用を防ぐためのものであり、具体的な禁止事項を詳細に記載しています。

2. サブリミナル・テクニックの禁止 (a)

第5条(a)項では、人の意識を超えたサブリミナル・テクニックや意図的に操作的、欺瞞的なテクニックを用いるAIシステムの使用を禁止しています。これらの技術は、個人の意思決定能力を著しく損ない、行動を歪めることを目的としています。この禁止は、個人の自由意思を保護し、重大な損害を防ぐためのものです。

3. 脆弱性の悪用の禁止 (b)

第5条(b)項は、年齢、障害、社会的・経済的状況などの脆弱性を悪用するAIシステムを禁止しています。これらのシステムは、脆弱な個人や集団の行動を歪め、重大な危害を生じさせる恐れがあります。特に弱者を保護するための重要な規定です。

4. 社会的スコアリングの禁止 (c)

第5条(c)項は、社会的行動や個人的特徴に基づいて個人や集団を評価・分類するAIシステムの使用を禁止しています。社会的スコアリングは、不利益な扱いや不釣り合いな不利益をもたらす可能性があり、公正な社会の維持を損なう恐れがあります。

5. 犯罪リスク評価の禁止 (d)

第5条(d)項では、自然人の犯罪リスクをプロファイリングや性格的特徴に基づいて評価するAIシステムの使用を禁止しています。ただし、犯罪活動に直接関連する客観的な事実に基づく評価を支援するAIシステムには適用されません。これは、誤ったプロファイリングによる不当な取り扱いを防ぐためです。

6. 顔認識データベースのスクレイピングの禁止 (e)

第5条(e)項は、インターネットやCCTV映像から顔画像をスクレイピングして顔認識データベースを作成・拡張するAIシステムの使用を禁止しています。これは、プライバシーの侵害を防ぐための措置です。

7. 職場や教育機関での感情推測の禁止 (f)

第5条(f)項では、職場や教育機関において感情を推測するAIシステムの使用を禁止しています。これは、個人のプライバシーと感情の自由を保護するためのものです。

8. バイオメトリクスデータに基づく分類の禁止 (g)

第5条(g)項は、バイオメトリクスデータに基づいて人種、政治的意見、宗教的信条などを推測・分類するAIシステムの使用を禁止しています。ただし、合法的に取得されたデータのラベリングや法執行目的の分類には適用されません。

9. リアルタイム遠隔バイオメトリクス識別システムの使用制限 (h)

第5条(h)項では、法執行目的で公共のアクセス可能な空間におけるリアルタイムの遠隔バイオメトリクス識別システムの使用を原則として禁止しています。ただし、特定の重大な犯罪や緊急事態に限り、厳格な条件の下で使用が許可される場合があります。

10. 使用の条件と監視

リアルタイムの遠隔バイオメトリクス識別システムの使用には、時間的、地理的、個人的な制限が設けられ、その使用は司法当局または独立行政当局による事前許可が必要です。緊急事態の場合には、事後に許可を求めることができます。

11. 公的監視と年次報告

加盟国は、リアルタイム遠隔バイオメトリクス識別システムの使用に関して、国内市場監視当局およびデータ保護当局に通知する義務があります。これらの使用に関する年次報告書が欧州委員会に提出され、透明性が確保されます。

12. 他の法規との関係

本条文は、AIの慣行が他の連邦法に違反する場合の禁止事項には影響を与えません。これは、AI規制法が他の法律と併存し、相互に補完し合うことを意味します。

まとめ

AI規制法第5条は、特定の危険性の高いAI技術の使用を禁止することで、人権と社会的秩序を保護するために設けられた規定です。これにより、AI技術の悪用を防ぎ、個人のプライバシーと自由を守ることが期待されます。加盟国および欧州委員会は、これらの規定を遵守し、適切な監視と実施を行う責任を負います。

翻訳

AI規正法5条
人工知能の禁止行為
第5条

  1. 以下の人工知能行為を禁止する：
    (a) 人の意識を超えたサブリミナル技術を導入し、その人または他の人に身体的または心理的危害を与え、または与えるおそれのある方法で、その人の行動を実質的に歪曲させるAIシステムを市場に投入し、使用開始し、または使用すること；
    (b) 特定の集団に属する者の行動を、当該集団に属する者もしくは他の者に身体的もしくは心理的危害を与え、または与えるおそれのある方法で実質的に歪曲させるために、当該集団に属する者の年齢、身体的もしくは精神的障害に起因する脆弱性を悪用するAIシステムを市場に投入し、稼働させ、または使用すること；
    (c) 自然人の社会的行動又は既知若しくは予測される個人的若しくは人格的特徴に基づき、一定期間に亘り自然人の信頼性を評価又は分類するためのAIシステムを、公的機関又は公的機関に代わって市場に投入し、使用させ、又は使用させること、
    社会的スコアが以下のいずれかまたは両方につながること：
    (i) データが当初生成または収集された文脈とは無関係な社会的文脈における、 特定の自然人またはそのグループ全体に対する不利益または不利な取扱い；
    (ii) 特定の自然人またはその集団全体に対する、その社会的行動またはその重大性に不当または不釣り合いな不利益または不利な取扱い；
    (d) 法執行の目的で、公にアクセス可能な空間における「リアルタイムの」遠隔バイオメトリッ ク識別システムの使用。ただし、当該使用が以下の目的のいずれかに厳密に必要である場合 を除く：
    (i) 行方不明の子どもを含む、特定の潜在的犯罪被害者の的を絞った捜索；
    (ii) 自然人の生命または身体の安全に対する特定の、実質的かつ差し迫った脅威、またはテロ攻撃の防止；
    (iii) 理事会枠組み決定2002/584/JHA62の第2条(2)に言及され、当該加盟国において少なくとも3年の拘禁刑または拘禁命令により処罰される犯罪の加害者または容疑者の発見、特定、特定または訴追。

  2. 第 1 項の d)で言及されるいずれかの目的のために、法執行の目的で、公共のアクセス可能 な空間において「リアルタイム」の遠隔バイオメトリクス識別システムを使用する場合、以下の要素を 考慮しなければならない：
    (a) 使用の可能性を生じさせる状況の性質、特に、システムを使用しなかった場合に生 じる被害の重大性、蓋然性および規模；
    (b) 関係者全員の権利と自由に対するシステムの使用の結果、特にその結果の重大性、蓋然性及び規模。
    さらに、第 1 項の d)で言及されるいずれかの目的のための法執行の目的で、公的にアクセス可能な空間における「リアルタイ ム」遠隔バイオメトリクス識別システムの使用は、特に時間的、地理的及び個人的な制限に関して、その使用に関 連して必要かつ相応の保護措置及び条件を遵守しなければならない。

  3. 第 1 項の(d)号および第 2 項に関して、公にアクセス可能な空間における「リアルタイム」遠隔バイオメトリクス識別システムの法執行を目的とした個々の使用は、司法当局または当該使用が行われる加盟国の独立行政当局が、合理的な要求に基づいて、第 4 項で言及される国内法の詳細規則に従って発行する事前許可に従うものとする。ただし、正当に正当化された緊急事態においては、承認なしにシステムの使用を開始することができ、承認は、使用中又は使用後にのみ請求することができる。
    管轄の司法当局または行政当局は、客観的証拠または提示された明確な兆候に基づ き、問題となっている「リアルタイム」遠隔バイオメトリクス識別システムの使用が、 要請で特定された第 1 項の(d)に規定された目的の 1 つを達成するために必要であり、かつ、そ れに見合ったものであると納得した場合にのみ、承認を与えなければならない。要請を決定する際、管轄の司法当局または行政当局は、第 2 項で言及される要素を考慮するものとする。

  4. 加盟国は、第1項第(d)号、第2項および第3項に列挙された制限および条件の範囲内において、法執行の目的で、公にアクセス可能な空間における「リアルタイム」遠隔バイオメトリクス識別システムの使用を全面的または部分的に許可する可能性を規定することを決定することができる。当該加盟国は、第3項で言及される認可の要求、発行および行使ならびに監督に関する必要な詳細規則を国内法に定めるものとする。これらの規則はまた、第1項第(d)号に列挙された目的のうち、第(iii)号に言及された犯罪のどれを含むかに関して、権限のある当局が法執行の目的でこれらのシステムを使用する権限を有することができるかを規定するものとする。



AI規正法規則

第5条
禁止されるAI行為

  1. 以下のAI行為は禁止される：
    (a) 人の意識を超えたサブリミナル・テクニック又は意図的に操作的若しくは欺瞞的なテクニックを展開するAIシステムを市場に投入し、使用開始し、又は使用すること。その目的は、又はその効果は、十分な情報に基づき意思決定を行う能力を著しく損なうことにより、人若しくは人の集団の行動を実質的に歪め、それにより、当該人、他の人若しくは人の集団に重大な損害を与えるか、又は与えるおそれが合理的にある方法で、他の方法では行わなかったであろう意思決定を行わせることである；
    (b) 自然人又は特定の集団の年齢、障害又は特定の社会的若しくは経済的状況に起因する脆弱性を悪用するAIシステムを、当該人又は当該集団に属する人の行動を、当該人又は他の人に重大な危害を生じさせるか又は生じさせるおそれが合理的にある方法で実質的に歪めるという目的又は効果をもって、市場に流通させること、稼働させること又は使用すること；

(c) 社会的行動又は既知、推論若しくは予測される個人的若しくは人格的特性に基づいて、自然人又は人の集団を一定期間にわたって評価又は分類するためのAIシステムを市場に投入し、使用開始し、又は使用することであって、社会的得点が次のいずれか又は両方をもたらすもの：
(i) データが当初生成または収集された文脈とは無関係な社会的文脈において、 特定の自然人または集団が不利益または不利な扱いを受けること；
(ii) 特定の自然人または集団に対する、その社会的行動またはその重大性に不当または不釣り合いな不利益または不利な取扱い；
(d) 自然人が犯罪を犯す危険性を評価又は予測するために，自然人のプロファイリング又は性格的特徴及び特性の評価のみに基づき，自然人の危険性評価を行うための AI システムを市場に出すこと，この特定の目的のために使用すること，又は使用すること。この禁止は，犯罪活動に直接関連する客観的かつ検証可能な事実に既に基づいている，犯罪活動への人の関与に関する人間の評価を支援するために使用される AI システムには適用されない；
(e) インターネットやCCTV映像から顔画像を非標的的にスクレイピングすることにより、顔認識データベースを作成または拡張するAIシステムを市場に投入すること、この特定の目的のために使用すること、または使用すること；
(f)職場や教育機関において、自然人の感情を推測するAIシステムを市場に投入すること、この特定の目的のためにサービスを開始すること、または使用すること；
(g) 人種、政治的意見、労働組合への加盟、宗教的または哲学的信条、性生活または性的指向を推測または推論するために、バイオメトリクスデータに基づいて個々の自然人を分類するバイオメトリクス分類システムを市場に出すこと、この特定の目的のためにサービスを開始すること、または使用すること。この禁止は、バイオメトリクスデータに基づいて、合法的に取得された画像などのバイオメトリクスデータセットのラベリングまたはフィルタリング、または法執行の分野におけるバイオメトリクスデータの分類には適用されない；
(h) 公共のアクセス可能な空間における「リアルタイム」遠隔バイオメトリクス識別システムの法執行目的での使用：
(i) 拉致、人身売買または性的搾取の特定の被害者の捜索、および行方不明者の捜索；
(ii) 自然人の生命もしくは身体の安全に対する具体的、実質的かつ差し迫った脅威、またはテロ攻撃の真正かつ現存する脅威もしくは真正かつ予見可能な脅威の防止；
(iii) 附属書IIで言及される犯罪であって、当該加盟国において少なくとも4年以上の拘禁刑または拘禁命令により処罰される犯罪について、犯罪捜査または訴追を行い、または刑事罰を執行する目的で、犯罪を犯したと疑われる者を特定または識別すること。
第1号の(h)点は、法執行以外の目的でのバイオメトリクス・データの処理に関する規則(EU)2016/679の第9条を損なうものではない。
2. 第1項第1号(h)で言及されるいずれかの目的のための法執行の目的で、公にアクセス可能な空間における「リアルタイムの」遠隔バイオメトリクス識別システムの使用は、具体的に対象とされる個人の身元を確認するためにのみ、同号に規定される目的のために展開されるものとし、以下の要素を考慮しなければならない：
(a) 使用の可能性を生じさせる状況の性質、特に、システムが使用されなかった場合に生じる危害の重大性、蓋然性及び規模；
(b) 関係者全員の権利と自由に対するシステムの使用の結果、特にその結果の重大性、蓋然性、規模。

さらに、本条第 1 項第 1 号の(h)のいずれかの目的のための法執行の目的で、公にアクセス可能な空間における「リアルタイ ム」遠隔バイオメトリクス識別システムの使用は、特に、時間的、地理的及び個人的な制限に関して、その使用を許 可する国内法に従って、その使用に関して必要かつ相応の保護措置及び条件を遵守しなければならない。公にアクセス可能な空間における「リアルタイム」遠隔バイオメトリクス識別システムの使用は、法執行機関が第27条に規定する基本的権利影響評価を完了し、第49条に従ってEUのデータベースに登録した場合にのみ許可されるものとする。ただし、正当に正当化された緊急の場合には、EUデータベースへの登録が不当に遅れることなく完了することを条件に、そのようなシステムの使用を開始することができる。
3. 第1項第1号、(h)および第2項の目的のために、公にアクセス可能な空間における「リアルタイム」遠隔バイオメトリクス識別システムの法執行を目的とした各使用は、司法当局または独立行政当局により、その決定が使用される加盟国を拘束するものであり、理由ある要請に基づいて、第5項で言及される国内法の詳細な規則に従って発行される事前許可に従うものとする。ただし、正当に正当化された緊急事態においては、不当な遅滞なく、遅くとも24時間以内に当該承認を請求することを条件に、当該システムの使用を承認なしに開始することができる。そのような認可が拒否された場合、その使用は直ちに中止され、すべてのデータ、およびその使用の結果および出力は、直ちに破棄され、削除されるものとする。

管轄の司法当局または決定を拘束する独立行政当局は、客観的証拠または提示された明確な兆候に基づき、当該「リアルタイム」遠隔バイオメトリクス識別システムの使用が、要請で特定された第 1 項第 1 号の(h)項に規定される目的の 1 つを達成するために必要であり、かつ、それに見合うものであり、特に、期間、地理的範囲および個人的範囲に関 して厳密に必要なものに限定されていると納得できる場合にのみ、当該承認を与えるものとする。請求について決定する際、当該当局は、第2項にいう要素を考慮しなければならない。個人に不利な法的効果をもたらす決定は、「リアルタイム」遠隔バイオメトリクス識別シス テムの出力のみに基づいて行うことはできない。
4. 第 3 項を損なうことなく、法執行目的のために公にアクセス可能な空間における「リアルタイム」 遠隔バイオメトリクス識別システムの各使用は、第 5 項で言及される国内規則に従って、関連する市 場監視当局および国内データ保護当局に通知されなければならない。届出は、最低限、第 6 項に規定される情報を含むものとし、機微な業務データを含んではならない。

  1. 加盟国は、第1項第1号、(h)ならびに第2項および第3項に列挙された制限および条件の範囲内において、法執行の目的で、公にアクセス可能な空間における「リアルタイム」遠隔バイオメトリクス識別システムの使用を全面的または部分的に許可する可能性を規定することを決定することができる。関係加盟国は、第3項で言及される認可の要求、発行および行使、ならびに監督および報告に関する必要な詳細規則を国内法に定めるものとする。これらの規則はまた、第1項第1号(h)に列挙された目的のうち、(h)(iii)に言及された犯罪のどれを含むかに関して、権限のある当局が法執行の目的でこれらのシステムを使用する権限を与えられるかを規定するものとする。加盟国は、遅くとも採択後30日以内に、これらの規則を欧州委員会に通知しなければならない。
    加盟国は、連邦法に従い、遠隔生体認証システムの使用に関して、より制限的な法律を導入することができる。

  2. 第4項に従い、法執行のために公衆がアクセス可能な空間における「リアルタイム」遠隔生体認証システムの使用について通知を受けた加盟国の国内市場監視当局および国内データ保護当局は、当該使用に関する年次報告書を欧州委員会に提出しなければならない。そのために、欧州委員会は、加盟国および各国の市場監視・データ保護当局に対し、管轄の司法当局または独立行政当局が第3項に従って認可の要請を拘束する決定を下した件数およびその結果に関する情報を含むひな型を提供する。

  3. 欧州委員会は、第6項で言及された年次報告書に基づき、加盟国における集計データに基づき、法執行の目的で、公共のアクセス可能な空間におけるリアルタイムの遠隔生体認証システムの使用に関する年次報告書を公表する。これらの年次報告書には、関連する法執行活動の機微な運用データは含まれないものとする。

  4. 本条は、AIの慣行が他の連邦法に違反する場合に適用される禁止事項に影響を及ぼすものではない。


この記事が気に入ったらサポートをしてみませんか？