【デジタルMATSUMOTOの勝手に解説】デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック」③調達実施前時
デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」のデジタルMATSUMOTO解説シリーズです。
※リアル松本は策定等には関わっていないのですが「AI事業者ガイドライン」を参考にしてくれているとのことです。
デジタルMATSUMOTOの解説
日本のデジタル庁が日本の行政サービスや行政職員によるテキスト生成AIの利用に向けて「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」を作成しています。
以下「調達実施前時のテキスト生成AI固有の留意」の内容になりますが、このガイドブックに含まれる「特徴的な論点」「ガイドブックを実践する上で重要なポイント」について1000文字程度で解説してください。
===
※補足：各章では以下4つのユースケースを想定して、留意点を検討しています。
・ユースケース1.チャットインターフェースでサービス利用者とインタラクティブに対話する機能としてテキスト生成AIをオンライン処理で用いる
・ユースケース2.大量の文章に対してラベル付けやテキストデータ変換、その他翻訳や要約や文章作成等の自然言語処理を行う機能としてテキスト生成AIをバッチ処理で用いる
・ユースケース3.情報検索を目的としたサービスで検索エンジンの補助としてテキスト生成AIをオンライン処理で用いる
・ユースケース4.ダッシュボードやソースコード等をサービス利用者の自然言語により記述可能にする機能としてテキスト生成AIをオンライン処理で用いる
{＊＊第4章のテキスト＊＊}
特徴的な論点
1. 非機能要件の明確化:
テキスト生成AIを利用する際には、非機能要件の明確化が重要です。これには、サービスの期待品質を具体的に理解し、それを適切に盛り込んだ調達要件を作成することが含まれます。リスクを軽減するために、AIの生成物の品質を保証する必要があります。
2.AI事業者ガイドラインの指針:
AI事業者ガイドラインに従い、「人間中心」、「安全性」、「公平性」、「プライバシー保護」、「セキュリティ確保」、「透明性」、「教育・リテラシー」、「公正競争確保」、「イノベーション」の指針を考慮することが求められます。これにより、社会的な信頼性を確保しつつ、適正なAI利活用を進めることができます。
3.ユースケースごとの期待品質:
各ユースケースに応じた期待品質を具体的に設定することが重要です。これにより、具体的なシナリオに基づいた品質保証が可能となります。
ガイドブックを実践する上で重要なポイント
1. プロポーザル型の調達方法の採用:
調達要件を作成する際に複数の事業者に相談し、現実的な品質レベルを確認することが推奨されます。これにより、期待品質を下回るシステムが納品されるリスクを軽減できます。
2.テストケースの充実:
各ユースケースに対して、充実したテストケースを設定することが不可欠です。例えば、チャットインターフェースでは、ゴミ出し方法に関する質問の99%以上で妥当な回答を返すことを要件とするなど、具体的な基準を明確にする必要があります。
（✅リアル松本のコメント：ゴミ出し方法だったら、わざわざチャットAIにしなくてもと考えてしまう・・・あくまで分かりやすい例えということだと思いますが）
3.リスク管理の実施:
バッチ処理や情報検索、自然言語からのプログラム作成など、各ユースケースに対してリスク管理の方法を具体的に設定します。例えば、バッチ処理では偽陽性・偽陰性のバランスを考慮した受け入れ基準を設定し、情報検索ではレスポンスタイムのサービスレベルを検討します。
4.フィードバックの反映:
サービス利用者からのフィードバックを反映する仕組みを導入することで、システムの品質を継続的に改善することが可能です。これにより、運用を始めてからの改善がスムーズに行えます。
5.人間の介入:
テキスト生成AIの判定結果に対して人間の介入を設定することで、リスクを軽減する方法も考慮されます。例えば、審査業務においては、AIが審査OKとした場合に人間が再審査を行うことで、偽陽性のリスクを軽減します。
6.技術の限界の認識:
現時点での技術が追いついていない場合には、プロジェクトの中止を検討することも重要です。技術が進化し、現実的な品質レベルが達成可能になるまで待つことも一つの選択肢です。
回答時間：0:00:21.247145
入力トークン数：17846
出力トークン数：1021
リアル松本のコメント
。
デジタルMATSUMOTOが参照した情報
2024-03-10時点の知識[カテゴリ：AIの信頼性、類似度：20.723][実践AIガバナンス]汎用目的AIサービスにおけるリスクマネジメント
参考情報：https://note.com/takash/n/nb3f718164908
2024-02-04時点の知識[カテゴリ：item_type、類似度：2.566]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第3部 AI開発者に関する事項 -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nfd03d83e9224
2024-06-02時点の知識[カテゴリ：AIの社会実装、類似度：2.545]教育現場ではどんな感じでAIを使うと良い？
参考情報：https://note.com/takash/n/nc5853a95f372
2024-03-17時点の知識[カテゴリ：AIの信頼性、類似度：2.511]AI事業者ガイドラインのパブリックコメントを受けて
参考情報：https://note.com/takash/n/n30c85693cced
2024-02-06時点の知識[カテゴリ：item_type、類似度：2.311]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第5部 AI利用者に関する事項 -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nc3d4debf07ae
2024-01-27時点の知識[カテゴリ：item_type、類似度：2.226]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第2部 共通の指針「1. 人間中心」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n08d1d1610671
2024-01-26時点の知識[カテゴリ：item_type、類似度：2.223]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第2部 AI により目指すべき社会と各主体が取り組む事項（共通の指針以外） -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n4b8b628e9404
2024-01-31時点の知識[カテゴリ：item_type、類似度：2.121]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第2部 共通の指針「5. セキュリティ確保」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n10730aebb574
2024-01-25時点の知識[カテゴリ：item_type、類似度：2.109]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第1部 AIとは -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n576885acb090
2024-02-01時点の知識[カテゴリ：item_type、類似度：2.01]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第2部 共通の指針「6. 透明性」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n936546ccf057
2024-04-11時点の知識[カテゴリ：AIの信頼性、類似度：1.957]「AIこわい・」プラットフォーマーこわい？
参考情報：https://note.com/takash/n/nc73cd61c8ed2
2024-03-02時点の知識[カテゴリ：AIの社会実装、類似度：1.926]女子大生が100日間連続でChatGPTを使いながら1日1本のプログラムを開発したことについて
参考情報：https://note.com/takash/n/n31b531fb1377
2024-05-15時点の知識[カテゴリ：AIの信頼性、類似度：1.922]AI事業者ガイドラインの解説ウェビナー振り返り
参考情報：https://note.com/takash/n/n69f2fc1b0b6b
2022-10-19時点の知識[カテゴリ：item_type、類似度：1.868]工場の不良品検知AIを例に「利用者に起こりうるAIへの過信」の問題を考える
参考情報：https://xtech.nikkei.com/atcl/nxt/column/18/02176/101300002/
2024-03-08時点の知識[カテゴリ：AIの信頼性、類似度：1.865][実践AIガバナンス]様々なAIサービスのカタチ
参考情報：https://note.com/takash/n/n94e68fa809e2
2023-05-29時点の知識[カテゴリ：item_type、類似度：1.86]AI法研究会イベントChatGPTと
参考情報：
2024-01-30時点の知識[カテゴリ：item_type、類似度：1.809]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第2部 共通の指針「4. プライバシー保護」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nda4c245c19f8
この記事が気に入ったらサポートをしてみませんか？