EUのAI規正法および規則の概要（禁止されるAI）
EU AI規制法 (Regulation) に基づく禁止されるAIシステム
EU AI規制法では、以下のAIシステムが特に禁止されています：
人の意識を超えたサブリミナル技術を用いるシステム： 人の行動を物質的に歪める目的で、人の意識を超えたサブリミナル技術を使用し、その結果として物理的または心理的な危害を引き起こす、またはその可能性があるAIシステム。
特定のグループの脆弱性を利用するシステム： 年齢、身体的または精神的障害を持つ特定のグループの脆弱性を利用し、その行動を物質的に歪める目的で使用されるAIシステム。
ソーシャルスコアリングシステム： 公的機関が社会的行動や予測された個人的特性に基づいて自然人の信頼性を評価または分類し、その結果として不利な取り扱いをするシステム。
リアルタイムの遠隔生体認証システム： 公共の場での法執行のために使用されるリアルタイムの遠隔生体認証システム。ただし、特定の状況（例：失踪者の捜索、テロ攻撃の予防など）に限っては例外が認められる。
EU AI規制法規則 (Regulation) に基づく禁止されるAIシステム
EU AI規制法規則では、以下のAIシステムが禁止されています：
サブリミナル技術を用いるシステム： 人の意識を超えたサブリミナル技術を使用して、個人またはグループの行動を物質的に歪めるシステム。
脆弱性を利用するシステム： 年齢、障害、特定の社会的または経済的状況を理由に個人またはグループの行動を物質的に歪めるシステム。
ソーシャルスコアリングシステム： 自然人やグループの社会的行動に基づいて評価または分類し、不利な扱いをするシステム。
犯罪予測システム： プロファイリングや個人の性格特性に基づいて、犯罪行為を予測または評価するシステム。
顔認識データベースの作成や拡張： インターネットやCCTV映像からの無差別な顔画像のスクレイピングを通じて顔認識データベースを作成または拡張するシステム。
これらの規定は、個人の基本的な権利や安全を守るために設けられています。具体的には、物理的または心理的な危害を防止し、不当な差別や監視を避けることを目的としています。
附則の内容
禁止されているAIシステム (第5条)
EUのAI規正法では、特定のAIシステムの使用が禁止されています。以下に、その内容を詳細に説明します。
人の意識を超えたサブリミナル技術を用いるシステム
内容: サブリミナル技術を使用して、人の行動を物質的に歪め、物理的または心理的な害を引き起こす可能性のあるシステム。
具体例: 消費者の購買行動を操作するために感情操作を行う広告AIシステム。
規定: この禁止事項は、人の意識を超えた技術を使用して行動を操作し、結果として害をもたらす可能性があるために設けられています。
脆弱な集団に対する心理的または物理的な害を引き起こすAIシステム
内容: 年齢、障害、社会的または経済的状況などにより脆弱な集団を対象とし、その行動を物質的に歪めるシステム。
具体例: 子供向けに有害なコンテンツを生成するAI。
規定: 特に脆弱な集団に対する悪影響を防ぐための規制です。
社会的信用システム
内容: 公共機関が市民の行動や性質に基づいて信用スコアをつけ、そのスコアに基づいて不利な措置を取るシステム。
具体例: 市民の経済活動や社会行動を監視し、信用スコアを決定する政府のAIシステム。
規定: プライバシーの侵害や差別を引き起こすリスクがあるため、禁止されています。
リアルタイムの遠隔生体識別システム
内容: 公共の場でのリアルタイムの遠隔生体識別システムの使用。ただし、特定の条件下で例外が認められる。
具体例: 公共の場でリアルタイムで個人を識別する顔認識システム。
規定: プライバシーの重大な侵害を防ぐために設定されています。
EUのAI規正法規則 (AI Regulation)
附則における禁止されるAIシステム
附則にも、特定の禁止事項が明記されています。以下にその内容を詳細に説明します。
犯罪予測システム
内容: プロファイリングや個人の性格特性に基づいて犯罪行為を予測するシステム。
規定: 犯罪予測に基づく判断が不正確である可能性が高く、誤った結論を導くリスクがあるため、禁止されています。
顔認識データベースの作成や拡張
内容: インターネットやCCTV映像から無差別に顔画像を収集し、データベースを作成または拡張するシステム。
規定: マスサーベイランスの懸念を引き起こし、プライバシーの侵害につながるため、禁止されています。
感情認識システム
内容: 職場や教育機関における感情の状態を検出するために使用されるシステム。
規定: 感情認識の科学的基盤が不十分であり、誤った評価が行われる可能性が高いため、禁止されています。ただし、医療や安全上の理由で使用される場合は例外があります。
この記事が気に入ったらサポートをしてみませんか？