デジタルMATSUMOTO書評「Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門」第4部
デジタルMATSUMOTOによる「Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門」（ドーナツ本）の書評シリーズ第4部です。
最終回はAIガバナンス編です。
第4部 ガバナンスと責任あるAI
第4部は以下の内容で構成されています。
各章のアウトラインを検討してもらった上で、以下のプロンプトで諸々検討してもらいました。
- 第9章 ガバナンス
- 第10章 責任あるAI
各章の主な内容
まずは、各章を【要約】してもらいました。
第9章の要約
組織内でAzure OpenAIを活用する際に直面する課題と、それらを解決するための共通基盤の要件について説明しています。個別の部門やチームが独自にAIリソースを管理することにより生じる「車輪の再発明」や「シャドーAI」などの問題を避けるため、認証・認可、課金、流量制限、ログ統合、閉域化、負荷分散などの要件を満たす共通基盤の構築が必要です。この章では、これらの要件をAzureで満たすためのアーキテクチャを示し、そのデプロイ方法についても詳細に解説しています。
第10章の要約
AIを責任を持って活用するための重要性とMicrosoftの対策について詳しく紹介しています。Microsoftは2017年から責任あるAIのプログラムに投資しており、Aether委員会やOffice of Responsible AIの設立などを通じて、AIの原則を構築し、実践しています。この章では、Microsoftの責任あるAIへの取り組みの歴史、実践のためのドキュメントやフレームワーク、コンテンツフィルタリング機能、データの取り扱い方針などが詳述されています。
続いて、この章で【学べたこと】を5つ挙げてもらいました。
1. 組織内でAIを活用する際に生じる課題と共通基盤の重要性（第9章）
2. 責任あるAIのガバナンス構造とトレーニングプログラム（第10章）
3. Azure OpenAIモデルのコンテンツフィルタリングの重要性（第10章）
4. Azure OpenAIにおけるデータの取り扱い方針（第10章）
5. Azure AI Content Safetyの活用とその利用について（第10章）
ズバリ、この章は「どんな読者向け」でしょうか？
第9章は、Azure OpenAIを組織内で効果的に管理し、活用したいAIシステム管理者やガバナンス専門家にとって有用です。具体的なアーキテクチャの構築方法や、組織内でAIを適切に管理するためのガイドラインを学べます。
第10章は、企業がAIを責任を持って利用するための方策を模索する経営者、管理者、開発者にとって重要です。Microsoftの取り組みを例に、AIの倫理的な活用に関する洞察と実践的なアプローチを学ぶことができます。
リアル松本のコメント
ガバナンスの一般論みたいなものではなく、実際にAIプラットフォームを社内で広く使った際に起こりがちな組織的な問題やコンテンツフィルタのような技術的な問題へのアプローチについて重点的に書かれており、企業のAIシステム管理者が実践を想定する上ではとても良い内容だと思いました。
※全体を通して、AI開発者以上にAIプラットフォームの管理者に向いている内容だと感じています。
ヒトのように振る舞うChatGPTを検討する場合
デジタルMATSUMOTOのような「ヒトのように振る舞うChatGPT」を開発する際に【参考になる点】を検討してもらいました。
1. 複数のAzureサービスと統合したAIの責任ある利用（第9章、第10章）
2. AIの不適切な利用を防ぐためのコンテンツフィルタリング機能（第10章）
3. データのプライバシーとセキュリティを確保するための取り組み（第10章）
4. AIを社内で共有するための共通基盤の構築（第9章）
5. AIの倫理的な使用を確保するためのガバナンス構造の理解（第10章）
リアル松本のコメント
ヒトのように振る舞うAIだからと言って、特別変わる論点があるわけではありませんでした。（そりゃそうか・・・）
おまけ：デジタルMATSUMOTOの知識との関連性
前回に続いて、デジタルMATSUMOTOに蓄積されている知識情報との関連性を検討してもらいました。
1. AIガバナンス: AIの責任ある使用を確保するために必要な枠組みであり、第9章と第10章ではその実践に向けた取り組みが紹介されています。AIガバナンスの重要性は、AI法研究会やEU AI Act合意など、国際的にも強調されており、これらの知見はAIガバナンスの実践に役立つでしょう。
⭐️リアル松本が追記）実際には法規制対応を書いているわけではないので、その点は別途検討が必要であることを御認識ください。
2. AIリテラシー: AIの機能や限界を理解し、適切に活用する能力が必要です。第9章と第10章で紹介されたMicrosoftの取り組みは、AIリテラシーの重要性を示しており、AIを活用するすべての関係者がこの能力を身に付けることが重要です。
3. プライバシーとセキュリティ: AIを活用する際には、ユーザーデータのプライバシー保護とセキュリティが大きな課題です。第10章で触れられているデータの取り扱い方針やコンテンツフィルタリング機能は、プライバシーとセキュリティを守るための具体的な措置を示しており、AIサービスのリスク低減に関する文献や議論とも関連しています。
デジタルMATSUMOTOが参照した情報
デジタルMATSUMOTOが解説時に参照した情報は以下になります。
2024-02-08時点の知識[類似度:0.158]AI法研究会ウェビナー
2024-02-08時点の知識[類似度:0.171]2023年度スマートエスイーIoT_AIコース修了記念シンポジウム「デジタルMATSUMOTO」https://www.youtube.com/watch?v=tUxpJaQfvYY&t=16s
2024-02-08時点の知識[類似度:0.177]【リアル松本の独り語り】2つのアプローチで国際的に研究を続けよう！これからのAIガバナンス｜Digital MATSUMOTO（EU AI Act合意）
https://note.com/takash/n/n36daabda78b2
2024-01-19時点の知識[類似度:0.187]「言葉による解決、あきらめたくない」芥川賞の九段理江さん会見（産経新聞） https://www.sankei.com/article/20240117-AAZSAIEHVJOJLEQOZTZPNHDDIQ/
[デジタルMATSUMOTOのnote]https://note.com/takash/n/naf22cfb7f331
2024-02-08時点の知識[類似度:0.19]AIガバナンス実践への課題
2024-02-08時点の知識[類似度:0.191]第Ⅲ期報告書『AIガバナンスエコシステム ―AIガバナンスの実践に向けて―』
2024-02-08時点の知識[類似度:0.193]報告書『AIガバナンスエコシステム - 産業構造を考慮に入れたAIの信頼性確保に向けて』https://www.jdla.org/about/studygroup/sg01/
2024-02-08時点の知識[類似度:0.197]「AIの倫理」ってナンだ？（後編）～人間とAIはどのように協調するのか～
https://www2.deloitte.com/jp/ja/blog/d-nnovation-perspectives/2019/ai-ethics-02.html
2024-02-08時点の知識[類似度:0.208]第Ⅱ期報告書『AIガバナンスエコシステム - AIは誰が管理・評価するのか』https://www.jdla.org/about/studygroup/sg01/
2024-02-08時点の知識[類似度:0.212]人材選考AIを例に「AIと公平性」の問題を考える、学習データに潜んでいたリスクとはhttps://xtech.nikkei.com/atcl/nxt/column/18/02176/082400001/
2024-02-08時点の知識[類似度:0.214]「AIの倫理」ってナンだ？（前編）～人間とAI双方に求められる信頼性～｜D-nnovation Perspectives｜デロイト トーマツ クループ｜Deloitte|
https://www2.deloitte.com/jp/ja/blog/d-nnovation-perspectives/2019/ai-ethics-01.html
2024-02-08時点の知識[類似度:0.216]工場の不良品検知AIを例に「利用者に起こりうるAIへの過信」の問題を考えるhttps://xtech.nikkei.com/atcl/nxt/column/18/02176/101300002/
2024-02-08時点の知識[類似度:0.216]AIサービスのリスク低減を検討するリスクチェーンモデルの提案 | 東京大学未来ビジョン研究センターhttps://ifi.u-tokyo.ac.jp/news/7036/
2024-01-09時点の知識[類似度:0.217]OpenAI、NYタイムズに反論 「記事の再利用はまれ」：日本経済新聞https://www.nikkei.com/article/DGXZQOGN083ZP0Y4A100C2000000/
[デジタルMATSUMOTOのnote]https://note.com/takash/n/n4689b1cf1b5a
2024-01-08時点の知識[類似度:0.219]神戸市 ＡＩ使用のルール明確化で条例制定へ｜NHK 関西のニュース
https://www3.nhk.or.jp/kansai-news/20240108/2000081042.html
[デジタルMATSUMOTOのnote]https://note.com/takash/n/nb704abf3f4e1
この記事が気に入ったらサポートをしてみませんか？