連邦技術リーダーがOMBのAI政策草案について知っておくべきトップ10のこと
2023年10月、バイデン大統領は画期的な大統領令14110「人工知能の安全、安心、信頼できる開発と使用」に署名した。私たちは、AIが意思決定を行い、個人の生活に結果的な影響を与える行動をとるために使用される場合、政府はAIリスクを特定し、管理する明確な責任があることを認識しています。EOで特定された重要な行動は、管理予算局(OMB)が連邦政府のAIの使用に関するガイダンスを発行し、この革新的な技術の責任ある使用において模範を示すように米国を位置づけることです。この要件を満たすために、OMBは、人工知能の代理店使用のためのガバナンス、イノベーション、およびリスク管理を進めるAI実装ガイダンスの草案を発行しました。
政策草案は、連邦政府機関がAIを活用して政府サービスを改善し、より公平にアメリカ国民に奉仕できるようにするための一連の行動を概説しています。以下は、政策の将来の実施に重要な役割を果たす連邦技術高官にとって最も差し迫った質問トップ10です。
1.OMBが提案したAIポリシーには何がありますか?
ガイダンス草案は、以下の表に概説されているように、政府におけるAIの責任ある使用と提案された機関の行動を促進するための3つの柱を概説しています。
柱提案された代理店の行動の例AIガバナンスの強化機関のAIの使用を調整し、AIイノベーションを促進し、AIの使用によるリスクを管理する主な責任を負う最高AI責任者を指名する。責任あるAIイノベーションを推進するAIの成熟度における企業全体の進歩を達成するための、責任あるAIの使用とエージェンシーAI戦略の開発に影響を与える障壁を取り除くAIの使用によるリスクを管理する権利と安全性に影響を与えるAI用途に最低限のAIリスク管理慣行を採用する
AI実装ガイダンスファクトシートで詳細をお読みください。
2.チーフAIオフィサーは何に責任がありますか?新しく作成された最高AI責任者の役割は、CIO、CDO、CTOとどのように相互作用しますか?
チーフAIオフィサー(CAIO)は、エージェンシーのAIの使用を調整し、エージェンシーにおけるAIイノベーションの促進、エージェンシーのAI使用によるリスクを管理するために、エージェンシーで主な責任を負います。代理店は、この役割を果たすためのまったく新しいポジションを作成するか、AIに関する重要な専門知識を持っている職員がいれば、最高AI責任者の責任を遂行する既存の職員を指定する柔軟性があります。CFO法機関の場合、CAIOはシニアエグゼクティブサービス、科学およびプロフェッショナル、またはシニアリーダーレベル、または同等のポジションでなければなりません。他の機関では、CAIOは少なくともGS-15または同等のものでなければなりません。
AIガバナンスやリスク管理などの横断的な作業は、真空状態で実行することはできません。最高AI責任者は、代理店のCIO、CDO、CTOなどの他の関連担当者と調整する必要があります。これはいくつかの理由で必要ですが、重要なことに、多くの既存のチームは、最高AI責任者のために特定された責任を遂行するための権限、リソース、専門知識をすでに維持しています。CIO、CDO、CTOは、機関内のAIの戦略的計画、取得、提供に深く関与します。最高AI責任者の役割は、彼らの仕事に取って代わるのではなく、そのような役割が対処するように設計されていないギャップを埋めます。これには、アルゴリズム差別を軽減し、個人が政府のAIによって引き起こされる害を訴えるためのプロセスを確立するための努力が含まれます。
3.CFO法の機関は、AIガバナンス機関が既存のシニアフォーラムに十分に関与していることをどのように保証すべきですか?
OMBの覚書草案は、CFO法機関がAIガバナンス委員会を設立し、機関のAIの使用を管理するために、少なくとも四半期ごとに関連する高官を招集することを要求する。AIガバナンス委員会は、副長官または同等のものが議長を務め、機関の最高AI責任者が副議長を務める必要があります。取締役会には、AIの採用とリスク管理の要素を担当する上級機関職員からの適切な代表も含める必要があります。
機関は、新しい上級機関を招集するか、AIガバナンス委員会の要件を満たすために既存のガバナンス機関の権限を拡大するかを選択できます。多くの機関はすでに高官を招集し、ITの近代化、データガバナンス、プライバシーなど、AIに接する問題について議論しています。一部の機関はまた、特にAIガバナンスとイノベーションに特化したグループを設立しています。機関は、別の機関を設立するのではなく、既存のメカニズムを活用して、実装の負担を軽減することができます。
4.私の代理店は、AIが使用されるたびに特定されたAIリスク管理要件を実装する必要がありますか?
いいえ。AIは、ノイズキャンセリングヘッドフォンや自動修正テキストメッセージなど、良性のソフトウェアアプリケーションや日常の消費者製品にますます統合されています。OMBが提案したAIリスク管理要件は、政府のAIユースケースが安全への影響または権利への影響の定義を満たしている場合にのみトリガーされます。ドラフトポリシーは、AIの害を管理するためのリスクベースのアプローチを採用し、機関のリソースが公衆の権利と安全に最大のリスクをもたらすAIユースケースに十分に費やされていることを保証します。経験則として、AIが結果的な行動や決定の結果を制御または有意義に影響するために使用される場合、機関は覚書のリスク管理要件を実施する必要があります。
5.ユースケースが権利や安全に影響を与えるかどうかはどうすればわかりますか?
OMBの覚書草案は、AIの2つの大きなカテゴリーを特定しています。
権利に影響を与えるAI：その出力は、個人またはコミュニティの公民権、市民の自由、またはプライバシー、機会均等、および/または重要なリソースまたはサービスへのアクセスに法的、物質的、または同様に重要な影響を与える決定または行動の基礎となるAI。そして
安全性に影響を与えるAI：人間の生命または幸福、気候または環境、重要なインフラストラクチャ、および/または戦略的資産またはリソースの安全性に有意義な影響を与える可能性のあるAI。
これらのカテゴリは、ガイダンスのサブセクション5（b）でさらに拡張され、OMBは、AIが安全または権利に影響すると推定される特定の目的を自動的に特定します。このリストは、追加の保護措置が正当化される場合、機関と一般市民の両方にとっての不確実性を減らすことを目的としています。
6.OMBのAIリスク管理要件は、私の代理店の運用許可プロセスにどのように反映されますか?
AIはソフトウェアであるため、情報システムの代理店の承認プロセスの対象となります。OMBサーキュラーA-130、戦略的リソースとしての情報管理は、セキュリティとプライバシーのリスクについて情報システムを評価する責任を直接的および間接的に機関のCIOに課します。しかし、OMBのドラフトガイダンスは、考慮すべきリスクの新しいカテゴリを特定しています。AIの使用によるリスクです。これには、主に、その決定または行動に通知、影響、決定、または実行するためのAIの使用に起因する決定または行動の有効性、安全性、公平性、透明性、説明責任、適切性、または合法性に関連するリスクが含まれます。
覚書の提案されたAIリスク管理要件を検討すると、機関は、可能な限り、操作許可プロセスなどの既存のプロセスを使用して、AIの使用によるこの新しいカテゴリのリスクを評価、管理、評価、継続的に監視するように指示されます。つまり、機関がATOプロセスを介して安全に影響するAIまたは権利に影響するAIをレビューする場合、承認担当者は、最高AI責任者およびその他の適切なAI監督担当者と協力して、この覚書で特定されたリスクの種類を評価し、コンプライアンスを確保する必要があります。
7.このポリシーは、エージェンシーによるジェネレティブAIの使用にとって何を意味しますか?
ジェネレティブAIの使用が公衆に過度のリスクを引き起こさないようにすることが重要です。機関は、ジェネレティブAIが使用される前に、適切な保護措置と監視メカニズムが整備されていることを確認する必要があります。たとえば、EO 14110に沿って、機関は、全面的に禁止を実施するのではなく、特定のリスク評価に基づいて、特定のジェネレティブAIサービスへの限定的なアクセスポリシーを模索する必要があります。さらに、一部の機関は、顔認識など、特定のAI対応技術の適切な使用に関するガイドラインと制限をすでに確立しています。生成AIの責任ある使用のために、同様のガイドラインを書くことができます。
8.機関の実施を支援するために、どのようなリソースが利用可能になりますか?
EO 14110は、確定後、機関がOMBの覚書を実施するのを直接支援するいくつかの行動を特定します。これには以下が含まれます。
OMBの覚書に記載されている最小限のリスク管理慣行の実施を支援するためにNISTが開発したガイドライン、ツール、および慣行。
連邦AI調達がこの覚書のポリシーと一致していることを確認するためのOMBからのさらなる調達ガイダンス、および機関のAI成熟度を追跡する方法。そして
連邦政府のAI労働力能力を成長させるためのAI人材の全国的な急増。
9.このドラフトポリシーは請負業者に適用されますか？
はい。このガイダンスは、連邦政府または連邦政府に代わってAIの開発、使用、または調達に適用され、EO 14110に従って、OMBは今後数か月以内に請負業者に焦点を当てたさらなるガイダンスを発行します。
10.次はどうなりますか?
OMBはパブリックコメントを収集し、regulations.govの推奨事項を確認し、コメントを公開します。ポリシーの次の草案は、ポリシーの最終発行前に、EO 14110のサブセクション10.1（a）に設立された省庁間評議会と共有されます。最終的なガイダンスは、注文から150日以内に提出されます。
この記事が気に入ったらサポートをしてみませんか？