【AI関連】AI事業者ガイドライン（第1.0版）のポイント解説② AI利用者向け その2
2024年8月19日
個人情報・プライバシー分野チーム
弁護士 森田岳人
AIを利用するときの進め方
前回のコラムでは、これからAIを利用していきたいと考えている企業（AI利用者）の立場で、利用に向けてどのように進めていくべきかについての全体像を示しました。
今回は、もう少し詳しく見ていきたいと思います。
社内体制の整備
AIの利用を始めるにあたって、まずはどのような社内体制で検討し、運用していくのかについて明確にする必要があります。
AIシステム・サービスを利用したいと考えている部署が関わるのは当然ですが、その部署だけで足りるのか、法務や総務などの他部署が関わるのか、プロジェクトの最終責任者を誰にするのかなどを決めていくことになります。
AIはまだまだ発展途上の技術のため、期待が大きい反面リスクも複雑であり、また部署をまたがって横断的に検討や運用を行う必要があることから、AIの利用を始めるにあたっては、経営層も十分理解したうえでリーダシップを発揮する必要があります。
AI利用者として検討すべき事項
体制が決定したら、関係部署の責任者が中心となって、以下を読み、AI利用者として留意すべき事項を学んでいきます。
●AI事業者ガイドライン本編（特に「第2部 AIにより目指すべき社会及び各主体が取り組む事項」と「第5部 AI利用者に関する事項」）
●AI事業者ガイドライン別添（特に「別添５．AI利用者向け」）
ただ、これら全てを隅々まで熟読する必要はないでしょう。
本編は35頁ですが、別添は157頁もありますし、その他の資料も含めると膨大です。
AI利用者として関係のある部分に絞って確認することで十分です。
AI利用者として検討するにあたっては、以下の表の「第2部．C．共通の指針」と、「第5部．AI利用者（U）」という事項を主に確認していくことになります。
上記の事項を一通り学んだところで、次に以下のワークシートを検討して書き込んでいきます。
●AI事業者ガイドライン「別添７C．具体的なアプローチ検討のためのワークシート（共通の指針）」
●AI事業者ガイドライン「別添７C．具体的なアプローチ検討のためのワークシート（「AI利用者」関連※記載例あり）」
具体例 採用AIを利用する場合
では、具体的な事例で考えてみましょう。
例えば、自社の採用部門において、エントリーシートの書類選考においてAIを利用し合否判定の参考とすることで業務効率化を計画しています（以下「採用AI」）。
この時、AIを利用する採用部門としては、どのような事項を検討すべきでしょうか。
共通の指針３）公平性
公平性に関しては、以下の点を検討する必要があります。
各主体は、AIシステム・サービスの開発・提供・利用において、特定の個人ないし集団への人種、性別、国籍、年齢、政治的信念、宗教等の多様な背景を理由とした不当で有害な偏見及び差別をなくすよう努めることが重要である。また、各主体は、それでも回避できないバイアスがあることを認識しつつ、この回避できないバイアスが人権及び多様な文化を尊重する観点から許容可能か評価した上で、AIシステム・サービスの開発・提供・利用を行うことが重要である。
採用AIの場合、まず、その出力結果にバイアスが生じるリスクがないか、AI開発者や提供者に対して確認が必要でしょう。例えば、女性、外国籍、障がい者などを不当に不利に扱ってしまうおそれがないかなどです。
米国ではAmazonの人材採用AIに女性を不利に扱っているという欠陥が判明し、運用を取りやめることとなったこともあります。
共通の指針４） プライバシー保護
プライバシー保護に関しては、以下を検討する必要があります。
各主体は、AIシステム・サービスの開発・提供・利用において、その重要性に応じ、プライバシーを尊重し、保護することが重要である。その際、関係法令を遵守すべきである。
採用AIは、エントリーシートの内容をシステムに入力することになりますが、そこには応募者の氏名・住所・経歴など個人情報やプライバシー情報が記載されており、システムへの入力が個人情報保護法やプライバシー保護の観点から問題にならないか、という検討が必要になります。
入力情報が、AI開発者や提供者に閲覧されたり、利用されたりする可能性があるのかを確認したり、利用目的について応募者に事前に説明したり、場合によっては応募者から同意を取得したりするといった対応も必要になるでしょう。
共通の指針６） 透明性
透明性に関して、以下を検討する必要があります。
各主体は、AIシステム・サービスの開発・提供・利用において、AIシステム・サービスを活用する際の社会的文脈を踏まえ、AIシステム・サービスの検証可能性を確保しながら、必要かつ技術的に可能な範囲で、ステークホルダーに対し合理的な範囲で情報を提供することが重要である。
採用AIにおいては、もっとも利害関係を有する応募者に対する透明性の確保を検討することになります。
例えば、応募者に対し、採用AIを利用しているという事実や、採用AIがどのような判断根拠によって判定しているのかなどの情報を提供することが考えられます。
採用AIについては、AI事業者ガイドラインの添付資料の中で、さらに詳細な検討例が公表されていますので、興味のある方はご参照ください。
「AI事業者ガイドライン（第1.0版）」具体的なアプローチ検討のためのワークシート（別添7C）（Excel形式：111KB）
「AI事業者ガイドライン（第1.0版）」主体横断的な仮想事例（別添8）（PDF形式：869KB）
弁護士 森田岳人（松田綜合法律事務所 パートナー）
2004年10月東京弁護士会登録。松田総合法律事務所入所。2016年4月より同事務所パートナー。2021年1月より名古屋大学未来社会創造機構 客員准教授。東京弁護士会AI研究部所属。
最近は、個人情報・プライバシー関連法務、AI・データ関連法務、自動運転・モビリティサービス関連法務に、IT関連法務に注力。
「個人情報保護委員会の動向」（共同執筆／ジュリスト 2023年10月号(No.1589) | 有斐閣）、「与信AIに法規制はなされるか ―差別・公平性の観点から―」（共同執筆／「金融法務事情」 2022年6月10日号）、「AIプロファイリングの法律問題──AI時代の個人情報・プライバシー」（共著/商事法務）ほか。
この記事が気に入ったらサポートをしてみませんか？