アメリカ政府：全省庁に最高AI責任者（CAIO）の任命を義務化
バイデン大統領は、連邦政府機関の人工知能（AI）へのアプローチを形作ることを目的とした大統領令に署名し、これらの政府機関内で最高AI責任者（CAIO）の任命を義務付けました。この動きは、AI が安全、確実、信頼できる方法で開発および使用されることを保証するための広範な政府戦略の一環です。
下記はホワイソハウスから出た声明です。
連邦機関における AI ガバナンス構造の確立を目指す
行政管理予算局（OMB）は、バイデン大統領のAIに関する大統領令を受けて実施ガイダンスを発表した。このガイダンスは、連邦機関における AI ガバナンス構造の確立、責任ある AI イノベーションの促進、透明性の向上、連邦職員の保護、政府による AI 使用に伴うリスクの管理を目的としています。
OMB ポリシー草案では、調整のための内部メカニズムの確立、AI の使用とリスクに関する報告の拡大、政府機関の AI 戦略の開発など、AI ガバナンスの強化を強調しています。
AIの安全性、セキュリティ、信頼性対策
この行政命令は、アルゴリズムによる差別やデータプライバシー（注01）といった、様々なテクノロジー関連の問題にも言及しています。これは、世界中のどの政府よりも強固な措置であり、AIの安全性、セキュリティ、信頼性に関して取られたと評されています。
※注01：アルゴリズムによる差別とは、AIや機械学習モデルが人種、性別、年齢などの属性に基づいて不公平な結果を生み出すことです。例えば、
採用AIが履歴書から候補者の民族や性別を推定して、その情報に基づいて候補者を不当にフィルタリングする。
ローンの承認アルゴリズムが住んでいる地域に基づいてローンを否認することで、経済的に不利な地域の人々に不利を与える。
健康管理アプリがユーザーの機微な健康情報を収集し、ユーザーの同意なしに第三者に共有する。
これらはアルゴリズムによる差別やデータプライバシーの問題の具体例で、こうした問題を解決するためには、公平性やプライバシーを保護するためのガイドラインやポリシーが必要とされています。
商務省：AIモデル開発企業に報告要件を設定
さらに、大統領令は商務省に、テクノロジーの最先端を反映したフロンティアAIモデルを開発する企業に対する報告要件を設定するよう委任している。これにより、商務省、ハイテク業界、市民社会の間で、これらの強力な企業の監視に関する議論が行われる可能性があります。
公民権団体はAIの偏った結果に懸念を表明
政府機関は、住宅、教育、雇用などの分野での差別を防ぐために既存の権限を活用するよう指示されており、公民権団体はこれらの分野でAIが偏った結果をもたらすことに懸念を表明しています。
AIを使うことで、人間のバイアスを排除または減少させることが期待されている一方で、学習データがすでにバイアスがかかったものであった場合人間の偏見を引き継ぐ事になります。ですので、そのAIが偏ったデータに基づいて訓練されていないことを確認する必要があります。また、AIが利用される教育や住宅の分野でも、公平性を保つためには、AIシステムの設計と実装に注意深い検討が必要になります。
責任ある AI の使用をモデル化し業界標準を導く目的
連邦政府のアプローチは、社会と公平性の問題を考慮しながら、責任ある AI の使用をモデル化し業界標準を導くことを目的としています。この新たな措置は、さまざまな分野におけるAIの複雑さに対処し、その応用が差別や偏見を悪化させないようにするという政府の取り組みを強調するものです。
政府機関は今後60日以内に高官を任命する必要
下記のArsTechnicaのニュースによれば、一部の政府機関はすでに最高AI責任者を任命しているとのことですが、まだ任命していない政府機関は今後60日以内に高官を任命する必要があります。すでに最高 AI 責任者として任命されている職員が、政府機関内での AI の使用を調整するために必要な権限を持っていない場合、その職員に追加の権限を付与するか、新しい最高 AI 責任者を任命する必要があります。
AI 最高責任者は政府機関による AI の使用状況をすべて監視
AI 最高責任者として任命された者は、AI の取り組みに関する上級顧問としての役割を果たし、政府機関による AI の使用状況をすべて監視し、目録を作成します。 AI の使用が「安全、セキュリティ、公民権、自由、プライバシー、民主主義的価値観、人権、機会均等、労働者の幸福、重要なリソースとサービスへのアクセス、政府機関の信頼、および信頼性と市場競争」とOMBは述べたそうです。
AI 最高責任者は、政府が AI をどのように使用するかについて多大な権限と監督を享受することになります。最低限の安全基準を遵守するための計画を策定し、最高財務責任者や人事責任者と協力してAIを活用して各機関の使命を推進し、「公平な成果」を確保するために必要な予算と人員を開発するのは、最高AI責任者にかかっているとOMBは述べています。OMB の理想を簡単に要約すると次のようになります。
政府機関は、公共の利益のために AI の開発と導入を優先することが推奨されており、AI を利用して政府サービスの利用しやすさを向上させ、食糧不安を軽減し、気候危機に対処し、社会情勢を改善するなど、大きな社会的課題の理解と取り組みにテクノロジーが役立つ可能性がある場合に優先順位を付けることが推奨されています。公衆衛生の向上、公平な成果の推進、民主主義と人権の保護、そして米国全土の人々に利益をもたらす方法での経済競争力の向上を目指します。
この記事が気に入ったらサポートをしてみませんか？