Case01. デジタルMATSUMOTOのAIサービスマネジメントレポート
AIガバナンスの実践例として「デジタルMATSUMOTO」のケースについて
シン・リスクチェーンモデルで検討を行いました。
簡単ではありますが、対外説明っぽくまとめて見ましたのでご参考まで
※あくまで参考例なので、特定のAIサービスに対して何かを保証するものではないことを御承知おき頂ければと思いますが、似たようなAIサービスでのリスクマネジメントを検討している方にご参考になればと思います。
※タイトルの画像は、デジタルMATSUMOTOに搭載したDALLE-3のAPIで作成しました。
採用したアプローチ
このレポート自体がStep9に該当します。
パーパスアセスメント
まずはこのAIサービスの重要なパーパスを検討しました。
P001. 価値ある考察の継続提供
様々なトピックに対して、読み手に新たな視点・気づきを与える考察が継続的に提供される
・ステークホルダー：専門家本人、データプロバイダー、エンドユーザー
・協調関係（Harmony）が考えられるパーパス：P003
・対立関係（Conflict）が考えられるパーパス：P004
P002. 信頼できる情報発信
事実に反することなく合理的な内容の考察が配信される
・ステークホルダー：専門家本人、データプロバイダー、エンドユーザー、研究コミュニティ、法律・倫理の専門家
・対立関係（Conflict）が考えられるパーパス：P003
P003. デジタルツインの活用促進
デジタルツインAIとして、記事配信に限らずに様々な用途に活用される
・ステークホルダー：サービス提供者、AIサービスの開発者、研究コミュニティ、法律・倫理の専門家、技術提供者
・協調関係（Harmony）が考えられるパーパス：P001
・対立関係（Conflict）が考えられるパーパス：P002、P004
P004.サービスとしての信頼性
法・倫理に準拠し、特定のステークホルダーに不利益を与えない
・ステークホルダー：サービス提供者、AIサービスの開発者、エンドユーザー、研究コミュニティ、法律・倫理の専門家、技術提供者
・対立関係（Conflict）が考えられるパーパス：P001、P003
AIサービスに関わる重要なステークホルダーごとに「獲得したいパーパス」と「保護したいパーパス」を踏まえて、検討されています。
詳細な手続は以下の記事をご覧ください。
リスクアセスメント
先程検討したステークホルダーとパーパスを踏まえて、重要なリスクシナリオを識別しています。
以下のような評価を踏まえて重要なリスクシナリオを検討しています。
特に重要なリスク(Very High)：「R005.不適切な表現」「R010.権利侵害」
重要なリスク(High)：「R003.知識の陳腐化」「R004.誤情報の生成」
詳細な手続は以下の記事をご覧ください。
コントロールコーディネーション
特に重要なリスクシナリオ(Very High)について、技術／非技術を組み合わせたリスクコントロールの方法を検討しています。
リスクシナリオ「R005.不適切な表現」の検討
AIサービスの利用前に、以下の予防策を検討しています。
①【サービス提供者】[Accountability] 倫理ガイドラインの遵守
②【AIシステム】[Data Quality] 不適切な表現を学習データや入力に含めない
③【AIモデル】[Accuracy] 開発時に出力される表現のレビュー
AIサービスの利用段階においては、以下の発見策を検討しています。
④【AIモデル】[Interpretability] 生成過程での関連情報の出力
⑤【AIシステム】[Process Integrity] コンテンツフィルタリング
⑥【AIシステム】[Traceability] AIの出力結果と関連情報を記録（ログ保存）
⑦【サービス提供者】[Auditability] AIの出力を専門家がレビュー
⑧【サービス提供者】[Transparency] AIが生成している考察であると表示（いわゆる透明性の表示）
⑨【サービス提供者】[Understandability] AIが生成に関わる判断根拠を出力⑩【ユーザー】[Expectation] AIが誤った表現を行う可能性を理解
リスクが顕在化した場合に向けて、以下の対応策を検討しています。
⑪【ユーザー】[Self-Defense] 不適切な表現があればフィードバック
⑫【サービス提供者】[Correspondence] 外部からの連絡方法を用意
⑬【サービス提供者】[Auditability] AIモデルの出力をレビュー
⑭【サービス提供者】[Safety] 不適切な表現を修正
⑮【サービス提供者】[Sustainability] AIシステムを改善・アップデート
詳細な手続は以下をご覧ください。
リスクシナリオ「R010.権利侵害」の検討
AIサービスの利用前に、以下の予防策を検討しています。
①【サービス提供者】[Privacy] 倫理ガイドラインの遵守(プライバシー保護)
②【サービス提供者】[Accountability] 定期的なリスクアセスメント
③【サービス提供者】[Accountability] プライバシー及び機微情報の留意点の理解
④【AIシステム】[Data Quality] 個人情報や機微情報を学習データや入力に含めない
⑤【AIモデル】[Accuracy] 開発時に出力される表現のレビュー
AIサービスの利用段階においては、以下の発見策を検討しています。
⑥【AIシステム】[Process Integrity] コンテンツフィルタリング
⑦【AIシステム】[Traceability] AIの出力結果と関連情報を記録（ログ保存）
⑧【サービス提供者】[Auditability] AIの出力を専門家がレビュー
⑨【サービス提供者】[Transparency] 「専門家がレビュー済」と表示（いわゆる透明性の表示）
リスクが顕在化した場合に向けて、以下の対応策を検討しています。
⑩【サービス提供者】[Safety] 不適切な表現を修正
⑪【ユーザー】[Self-Defense] 不適切な表現があればフィードバック
⑫【サービス提供者】[Correspondence] 外部からの連絡方法を用意
⑬【サービス提供者】[Auditability] AIモデルの出力をレビュー
詳細な手続は以下をご覧ください。
リスクコントロールの検討結果
詳細な手続は以下をご覧ください。
今後の展望と課題
本AIサービス「デジタルMATSUMOTO」を用いて、より価値と信頼のある情報を発信しながら、より多くの人がデジタルツインAIを"身近に","正しく","有効に"利活用していく社会を目指して、研究開発と利活用を続けて参ります。
リスク対策においては「Webブラウジング」及び「Web情報と記事内容の照合」の機能は今後実装ではありますが、実装済のリスク対策を継続して誰かに不利益を与えてしまうことがないように留意して参ります。
テクニカルペーパー
詳細な検討のパッケージは以下になります。
レポート作成日
2024/5/22
この記事が気に入ったらサポートをしてみませんか？