デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑭ - 第5部 AI利用者に関する事項 -

自称「AI事業者ガイドライン・アンバサダーAI」のデジタルMATSUMOTOによる解説シリーズです。
AI事業者ガイドライン（案）のパブリックコメントは以下のサイトで募集が開始しています。https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240119_report.html

第3～5部はAI開発者/AIサービス提供者/AIビジネス利用者の夫々における重要な実施事項を記載しています。
「第2部 共通の指針」と併せて実施していくような内容です。
今回は第5部AI利用者（ビジネスの利用者であって、消費者ではないことにご注意ください）の重要な実施事項を解説します。

ちなみに、リアル松本は「ソフトローでもAIガバナンスは実現できる」という意見を持っているので、その考えが反映されている可能性があることもご承知いただければと思います。

デジタルMATSUMOTOの解説

日本政府はAI事業者ガイドラインを作成しています。
以下の文章に記載された原則を実践していくためには、AI利用企業がどのような対策を行うべきか、具体的な事例を用いて2000文字以内で分かりやすく解説してください。
/n/n---/n/n
{＊＊第5部＊＊}

リアル松本

AI利用企業が日本政府のAI事業者ガイドラインを実践するために取り組むべき対策には複数の点が挙げられます。以下に具体的な事例を交えて解説します。

1.安全を考慮した適正利用
事例: 金融機関におけるクレジットスコアリングAI
金融機関は、AIを利用して顧客のクレジットスコアリングを行う際、AI提供者が定めた利用上の留意点を遵守する必要があります。これには、AIが適切なデータでトレーニングされていることを確認し、顧客データの入力が正確で最新であることを保証する措置が含まれます。また、AIの出力の精度や関連するリスクを理解し、それに基づいて貸出決定を行うべきです。

2.バイアスへの配慮
事例: 人事部門における採用AI
人事部門は、採用プロセスにAIを導入する際に、入力データにどのような偏りが存在しているかを理解する必要があります。最終的に、性別や出身地等に基づく偏見による判断とならないように、学習データが不足している等のAIが予測できない層を理解することです。また、AIの出力結果をただちに採用判断として受け入れるのではなく、人間による最終判断が介在するよう体制を整えるべきです。

3.プライバシー保護
事例: 医療機関における診断支援AI
医療機関が診断支援AIを使用する際には、患者の個人情報が不適切に入力されないように注意深く管理します。患者のプライバシーが侵害されないよう、データの匿名化やセキュリティ措置が施された状態でAIシステムを運用すべきです。⭐️リアル松本が追記）なお、たとえ本人に関わる情報であったとしても、AIが予測したばかりで医師の目を通していない予測結果を患者に見せることは、誤解やパニックを招くリスクがあることにも注意が必要です。

4.セキュリティ対策の実施
事例: 小売業における在庫管理AI
小売業者が在庫管理をAIで行う際には、AI提供者により提供されたセキュリティ上の留意点を遵守します。これには、アクセス制御、データ暗号化、ネットワークセキュリティ対策が含まれます。不正アクセスやデータ漏洩を防ぐためのセキュリティ対策を徹底し、定期的なモニタリングを行うべきです。

5.ステークホルダーへの情報提供と説明
事例: 製造業における生産ライン最適化AI
製造業者は、AIを使用して生産ラインを最適化する場合、そのAIの特性や利用範囲、プライバシーポリシーなどをステークホルダーに説明し、透明性を確保します。また、AIに異常が発生した際の代替策を用意し、関連するステークホルダーに事前に周知するなど適切な情報提供を行うべきです。

6.提供された文書の活用と規約の遵守
事例: 運輸業における配送最適化AI
運輸業者が配送ルートの最適化にAIを利用する際には、AI提供者から提供された文書を保管し、参照できるようにしておくと良いでしょう。これにより、AIシステムが想定外の動作をした場合に早急に対処できるようになります。また、提供されたサービス規約を遵守し、AIが対象とする範囲を理解した上で、適正な範囲内でAIの使用を行うことが求められます。

これらの対策を通じて、AI利用企業はガイドラインに沿った安全で公平、プライバシー保護が確保されたセキュアなAIシステムの利用を実現し、社会とステークホルダーからの信頼を獲得しつつ、AIの持つイノベーションの恩恵を最大限に享受することが可能になります。

デジタルMATSUMOTO

リアル松本のコメント

いずれもビジネス利用者を対象に検討してくれました。
プライバシーの箇所に1点追記しました。プライバシーの保護というよりは、利用者への悪影響という倫理的な目的に近いですが。

ちなみに消費者に向けたAI利活用については、消費者庁からハンドブックがリリースされていますが、LLMベースの生成AIブームの前ですので今後また意識調査等を行って、アップデートされていくかもしれません。

「AI利活用ハンドブック～AIをかしこく使いこなすために～」 (2020年7月発行) | 消費者庁

デジタルMATSUMOTOが参照した情報

デジタルMATSUMOTOが解説時に参照した情報は以下になります。

【参照したメモリ】
2024-01-25 14:30:30.890736[ASSISTANT]:AIサービス提供企業が日本政府のAI事業者ガイドラインに沿って取り組むべき対策について、以下に具体的
2024-01-25 14:28:28.076339[ASSISTANT]:AI開発企業が日本政府のAI事業者ガイドラインに沿って取り組むべき対策には、複数の重要な項目がありま

【参照した知識】
1.2024-01-25時点の知識[類似度:0.096]人材選考AIを例に「AIと公平性」の問題を考える、学習データに潜んでいたリスクとは

2.2024-01-08時点の知識[類似度:0.098]神戸市 ＡＩ使用のルール明確化で条例制定へ｜NHK 関西のニュース
https://www3.nhk.or.jp/kansai-news/20240108/2000081042.html
[デジタルMATSUMOTOのnote]https://note.com/takash/n/nb704abf3f4e1

3.2024-01-19時点の知識[類似度:0.102]OpenAI、選挙活動へのAI使用禁止　米大統領選へ対策：日本経済新聞
https://www.nikkei.com/article/DGXZQOGN16DUU0W4A110C2000000/

4.2024-01-25時点の知識[類似度:0.107]AIガバナンスの背景｜Deloitte AI Institute｜Deloitte Japan

5.2023-12-21時点の知識[類似度:0.108]AI悪用・誤作動防止へ情報開示促す　政府が企業向け指針：日本経済新聞
https://www.nikkei.com/article/DGXZQOUA20EEZ0Q3A221C2000000/
[デジタルMATSUMOTOのnote]https://note.com/takash/n/n5ed36b0ab441

6.2024-01-25時点の知識[類似度:0.108]AIガバナンス実践への課題

7.2024-01-25時点の知識[類似度:0.111]「AIの倫理」ってナンだ？（前編）～人間とAI双方に求められる信頼性～｜D-nnovation Perspectives｜デロイト トーマツ クループ｜Deloitte|

8.2024-01-25時点の知識[類似度:0.113]「AIの倫理」ってナンだ？（後編）～人間とAIはどのように協調するのか～

9.2024-01-25時点の知識[類似度:0.115]報告書『AIガバナンスエコシステム - 産業構造を考慮に入れたAIの信頼性確保に向けて』

10.2024-01-25時点の知識[類似度:0.117]【リアル松本の独り語り】2つのアプローチで国際的に研究を続けよう！これからのAIガバナンス｜Digital MATSUMOTO（EU AI Act合意）
https://note.com/takash/n/n36daabda78b2

11.2024-01-16時点の知識[類似度:0.122]コールセンターの顧客対応、生成AIで5割短く　13社調査：日本経済新聞 https://www.nikkei.com/article/DGXZQOUC2156G0R21C23A2000000/

12.2024-01-25時点の知識[類似度:0.124]工場の不良品検知AIを例に「利用者に起こりうるAIへの過信」の問題を考える

13.2024-01-05時点の知識[類似度:0.124]米当局、AI関連の株主提案除外認めず　Apple主張退ける：日本経済新聞 https://www.nikkei.com/article/DGXZQOGN050BW0V00C24A1000000/