衆院憲法審議事録GPTを試験的に公開します※ChatGPT Plus(有料版)アカウントが必要です
個人的に作っていた衆院憲法審議事録GPTを試験的に公開します。
※プライベートな個人利用を目的として制作したものを、限定的に公開するものです。
※限定公開(URLを知っている人のみ利用可能)にて公開しています。今後、断りなく非公開への切り替えや運用停止となる可能性がありますこと、予めご了承下さい。
※衆院憲法審議事録を機械学習したものであり、回答には不正確な内容が含まれます。事実と異なる回答が生成される可能性がある点をご了承下さい。
※ご利用にはChatGPT Plus(有料版)アカウントが必要です。
アカウントをお持ちでない方は、以下の手順に従ってアカウントを開設する必要があります。既にPlusアカウントをお持ちの方はそのままお使いいただけます。
※なお、本カスタムGPTの利用等により、制作者が受ける利益は一切生じないことを付記しておきます。(そもそもカスタムGPTの限定公開から利益を得る方法自体が存在しませんが、透明性のため)。
本GPTについて
本GPTは、衆議院憲法審査会議事録の一部を学習させたカスタムGPTです。
学習元データ:衆議院公式サイトにて公開されている憲法審査会議事録
対象とする議事録の期間:令和3年4月15日から令和6年4月25日(現在公開されている最新の議事録)まで。今後、最新の議事録が追加され次第、順次追加を行っていきます。
制作方法:Open.AI社のChatGPTを用い、『マイGPTs』機能を活用して制作しました。上記範囲内の議事録の全文をテキストマイニングし、作成したテキストファイルを『マイGPTs』にアップロードして学習させたものとなります。
令和6年5月16日現在における学習元データは、以下よりダウンロードしてご確認頂けます。
プロンプト:
以下の通りです。
制作者:@Utoka_da4
対話デモ
以下リンクより、実際の本GPTとの対話の結果をご覧頂けます。
https://chat.openai.com/share/9dc85f82-ca62-45d7-91de-3eccc0d6e127
今回の判断について
以下の理由により、本GPTの公開は、これまで控えてきました。
1.議事録の学習がうまくいかず、不正確な回答が多かったこと。
2.公開にあたっては、さまざまな方が幅広くアクセス可能な方法で公開したいと考えていたが、その方法に困っていたこと。
僕はエンジニアではなく、せいぜい多少のノーコードツールが扱える程度に過ぎないため、技術的な限界がけっこう低いのです。また、API実装にした場合、重量課金での利用費がどのくらい掛かるのか見通しが付かず、予算面からも不安があります。
しかし一番の懸念事項は回答の不完全性です。「議事録に基づくAIがこのように回答しているから」と、誤った回答に基づく誤情報の拡散を助長してしまう恐れがあることから、限定公開も控えてきました。
限定的な公開に至った理由:
遅かれ早かれ、似たようなものが世に出る可能性があると考えました。もしも仮に、学習させるナレッジを意図的に偏らせたり、誤情報を意図的に学習させたAIが世に出てしまった場合、憲法議論が致命的に歪められる恐れがあると考えます。限定的な形であれ、先手を打つほうが良いかと思い、この形での公開に踏み切りました。
GPTモデルの発展と学習データの整理により、回答の精度が向上し、一応の実用に耐えうる精度になったと考えました。
ChatGPT Plus(有料版)でのみ利用可能な形のまま限定的に公開することで、イタズラ目的の利用を一定は抑止できるのではないかと考えました。
生成AIの活用により、このようなことが可能であると体験していただくことで、様々なメリットが生じるのではないかと考えました。
制作の意図と背景
一義的には、プライベートな個人利用を目的として制作したものです。
個人的な趣味である『玉木雄一郎代表の憲法審ネタ動画』の制作にあたり、憲法審査会の議論の流れを把握しておきたいと考えました。議論の流れや文脈を理解しないまま動画化すると、発言の意図と異なる切り抜きになってしまう恐れがあるためです。
しかし、膨大な量の議事録を読み込んで議論の流れを理解することは極めて困難だったため、カスタムGPTを制作して理解の助けを得ようと考えたことが、本GPTの制作の契機です。
個人利用を通して感じた意義とメリット
しかし、本GPTの制作と個人利用を通して、「ネタ動画の制作のためだけに使うのはもったいない」と感じるようになりました。その理由は以下の通りです。
1.思想性や党派性を除いた中立的な情報が得られること:
憲法にまつわる議論は、どうしても発信する個人や団体の思想性や党派性に左右される可能性があります。しかし、政治的・思想的な中立性を保つよう訓練された大規模言語モデルを用いることで、このバイアスを一定程度除去できるのではないかと考えました。
2.先入観を除いた受け止めがしやすいこと:
発言を受け止める側としても、発信者の党派性や思想性、立場などによる先入観から、誤解や曲解、不要な憶測などが受け止めに混ざり込んでしまう可能性があると感じています。しかし、AIによる発言であれば、そうした先入観の影響を除いた受け止めがしやすくなる可能性があると感じています。
個人利用を通して感じたデメリットと注意点
一方で、デメリットや注意すべき点もいくつか明確になったと感じています。
1.誤情報・偽情報に基づく回答の判別が困難:
AIが誤情報・偽情報に基づく回答を行った際、それを判別するためには、正確な情報を予め知っておく必要があります。「正確な情報」の把握自体が困難であるためAIを頼りたいのに、その知識が予め必要となってしまうジレンマがあります。
2.使用者に一定以上の国語力が求められる:
自然言語AIを使用においては、その使用者にも、適切な命令文を作成し、回答を読解する国語力が求められます。その要求水準は技術の発展により下がりつつありますが、ある程度は必要となることは否めません。
3.プロンプトインジェクションによる誤情報の生成
AIに与える命令文(プロンプト)を工夫することで、本来の動作と異なる回答を生成させることを、プロンプトインジェクションと呼びます。こうした攻撃に対して一定程度の対策は施されていますが、抜け穴がまったく無いとは言い切れません。
偽情報・誤情報を意図的に学習させたAIに対する警戒を
今回の取り組みにより、ITエンジニアリングや機械学習の専門知識と技術を持たない私個人でも、一定の精度を持つ憲法議論AIを個人制作することが可能だとわかりました。より本格的に取り組めば、より多くの人が平易にアクセスできる形での公開も可能でしょう。
裏を返せば、意図的に誤情報・偽情報を学習させ、偏った回答を生成するよう訓練したAIを制作し、これを中立・公正なAIであると誤認させて拡散することは、個人規模でも十分に可能であると考えます。また、そうしたAIによって生成されたコンテンツを用いて、世論を誘導することも可能でしょう。
こうした『意図的に誤情報・偽情報を学習させたAI』の出現は、もはや時間の問題かもしれません。
対抗策のひとつとして、国として正式に、透明性・中立性・公平性の担保された憲法議論アシストAIを開発することも挙げられると思います。
こうした点も含めて、幅広くご議論頂けると幸いです。
衆院憲法審議事録GPTの今後の運用について
本GPTの今後の運用としては、引き続きプロンプトの最適化、最新の議事録情報の追加、未登録の過去の議事録情報の追加などに取り組む予定です。
現時点においては衆議院憲法審査会の議事録のみを対象としていますが、参議院憲法審査会の議事録も含めることも検討中です。
また、反響や要望を鑑みつつ、より平易に利用可能な環境への移行も模索していきます。AIサービスの利用登録を必要とせずに利用できる実装が目下の課題です。
加えて、客観的事実と異なる、明らかな誤解答の訂正に関しても、その方法を模索していきます。
これら今後の進捗状況については、本noteにて変更を実装し次第報告していきます。
なお、国として正式に、透明性・中立性・公平性の担保された憲法議論アシストAIが開発された場合など、本GPTの必要性が無くなったと判断した場合は、プロジェクトを停止いたします。
ご支援のお願い:
本GPTの制作および運用は、完全な無償ボランティアにて行っております。コーヒー一杯分のご支援を頂けますと幸いです。
ここから先は
¥ 593