【MPP授業感想】Generative AI as a Public Policy Tool

昨年の話になるが、ChatGPTのような生成AIを政策立案ツールとしてどのように活用できるのかというユニークなテーマを取り扱った選択科目に参加したので、その感想を記しておきたい。

生成AIの特徴

まず、生成AIがどのように作動しているのかを理解しておく必要がある。ざっくりといえば、生成AIは意味論ではなく、構文と確率で動いている。次にどのような言葉が来るのかを予測しながら、質問に対する答えを構成していくのだ。したがって、具体性が非常に重要であり、プロンプト（生成AIに出す指示のこと）の際にも、内容、フォーマット、長さといった詳細を示すとともに、その文脈を与えることで、より精度が高い反応を得ることができる。

また、上記の特徴とも関連するが、生成AIが得意とする作業、苦手とする作業が存在する。具体的には、発散させていく／個別／詳細さが必要ではない作業が得意であり、収斂させる／複雑／詳細さが必要となる作業を苦手としている。例えば、既存の調査内容を調査・要約する作業や、一般的な政策のアイディアを列挙する作業には対応できるが、特定の政策に関する評価を行う作業に対するアプトプットの質は低くなる。

生成AIが活用できそう／できなさそうな作業

上記の特徴を踏まえて、国家公務員として普段行っている作業のうち、生成AIが活用できそうなもの、活用できなさそうなものを挙げる。

＜活用できそうなもの＞
・特定のトピックに関する初動の現状把握
・政策立案に向けた初期のアイディア出し
→生成AIはざっくりとした要約や（精度を問わない）アイディア出しには有用である。他方で、正確性が必要なリサーチや特定の政策分野への理解を前提とした練度の高いタマ出しには不向きだ。
・幹部等のスピーチ原稿や会議での読み上げ原稿
→発言内容の影響力が小さい、或いは既存の資料に基づいている場合には、ヒトによるチェックは必要となるだろうが、発言原稿について比較的容易に作成することができるだろう。
・契約や予算関係の定型的な書類の作成
→定型的な入力作業は代替可能だろう。ただし、RPAなど他のツールでも対応は可能。
・文章の要約・言い換え・翻訳
→意味が確定している文章を意味を変えないように変換するのは問題なくこなしてくれる。英語への翻訳も文脈に応じて柔軟に対応できるので非常に便利だ。
・カスタマージャーニーにおけるペルソナ生成やスライドに挿入する画像の生成

＜活用できなさそうなもの＞
・政策文書や法令の執筆
・国会答弁
→生成AIが作成した文章は一見もっともらしいが、論理構造が曖昧であったり、根拠がない文言が含まれたりしている。自分で使ってみた感覚としては、生成AIに作業させた文章を自分でチェックするよりも、一から自分で作文した方が効率的であるように思えた。

生成AI活用において留意すべき点

そもそも政府において生成AIで活用するためには、その業務の特性を踏まえ、クリアしなければならない課題や注意すべきポイントが存在する。

まず最も大きな問題はセキュリティに関するものであろう。生成AIの性質上、ひとたび入力された情報は当該生成AIに学習されることになり、それらを利用する者のアウトプットに影響を与えることになる。したがって、行政が多数所有する機密性の高い情報については、情報保護の観点から、生成AIに入力することはできないということになる。
さらに、これに関連して、生成AIはオープンソースをもとに回答を返しているが、行政が作成する文書等の大半は公表されていない行政の内部情報がベースとなっている。よって、オープンソースにしかアクセスできない生成AIが活用できる場面は限定的になってしまう。
これらの課題への対応として、セキュリティの観点から安全性が確保された、内部で閉じた生成AIを活用することが想定される。市販のChatGPT等の製品を購入するのではなく、行政機関用にカスタマイズされたものを個別に契約することになるだろう。仮にこうした措置を講じたとしても、引き続き情報漏洩を防止できる利用方法を徹底することが必要である。

次に、生成AIの効果を高め、リスクを軽減するために、生成AIに関する正確な理解が組織内で共有され、適切な利用ルールが設定・遵守されることが必要だ。生成AIの利用に当たっては、上記のようなメカニズムや特徴を理解することが不可欠であるし、利用のテクニックであるプロンプト・エンジニアリングを習得することで、アウトプットの質を向上させることができる。また、行政機関の成果物は、国民に直接影響与えることであるところ、民間企業に比して求められる正確性のレベルが格段に高いことから、例えば、生成AIで作成した文章についてはその根拠を全て確認するなど、利用ルールの範疇での利用を徹底することで、その質を担保する必要がある。
特に、役所の構造上、文書や答弁におけるファクトチェックは最下層の係員・係長レベルの担当となっており、補佐以上はそこまで細かいチェックを行うことがないのが現状である中で、係長・係員の素案が生成AIにより作成され、彼らがチェックをしないということになると、成果物の質低下が懸念されるので、注意が必要だろう。

上記のように、政府における生成AI導入に当たっての課題は存在するものの、個人的には、可能な限り早期に導入すべきであると考える。まず、生成AIの普及は、一般的に生産性が低いと言われてきた政府の業務を効率化するチャンスである。DXへの対応においては、既存の作業を棚卸しした上で合理化し、新たなプロセスに合わせて設計されたシステムを導入するというプロセスを必要としたが、生成AIについては、セキュリティや利用ルールの関係を詰めれば単一の生成AIを導入することで足りるし、特定の作業におけるスポット的な導入など柔軟な利用もできることから、導入・利用のハードルが比較的低いはずだ。仮に利用を禁止したとしても、組織に承認されていない利用（いわゆるシャドーIT）が横行することも想定され、機密情報の漏洩など、より深刻な事態を招きかねない。さらに、これだけ生成AIが国民の暮らしや企業の実務に普及してきていることを踏まえると、政策立案を行う上で、生成AIに関する正確な理解が必要不可欠になっていくことが予想される。私的な利用でも一定程度の知識を蓄積することはできるだろうが、特に企業における利用のあり方を考える上では、業務において利用することが重要だと考える。

以上、政府における生成AIの活用可能性について自分の考えをまとめてみた。大学院生活を通じてAIの便利さを実感し、おそらく近い将来、生活になくてはならないものになるだろうという気がしている。自分が日本に戻るのは約１年半後になるが、何らかの形で改善が進んでいることを祈っている。