国民民主党 第1回憲法調査会「AIと憲法」３
玉木代表より一言と、質疑応答（質問１～５まで）の文字起こしです。
（山尾）
どうもありがとうございました。本当に貴重な情報がたくさん詰まったご講演だったと思います。ここから先はフラットな意見交換になりますけれども、どーーーーしてもちょっとだけ喋らせてと玉木さんが言ってますので、1回マイクを渡したいと思います。よろしいですか。じゃあ一言お願いします。
・玉木代表より一言
（玉木）
山本先生ありがとうございました。
私がですね、実はこの問題に関心を持ったの、私自身の体験があるのでちょっと紹介させていただきたいんですが、ハックされる私たちのマインドっていうのは私自身すごく感じたんですね。
実は私googleで、なんかね、ナイナイの野村さんが出てて、それを見てたまたまググったのが光脱毛器だったんですよ。VIOゾーンをきれいにしましょうみたいな、深夜番組を見てて。で、光脱毛器を検索、あるときしたらですね、その後違うメディアですね、フェイスブックだったと思います。私が見るところにずーっと光脱毛器の広告がボンボンでてくるようになったんですよ。最初鬱陶しいなと思って4日間くらい、時にですね、ちょっといいかなって思ってクリックをね、してしまって、バーッと見たらね、いいんじゃねって思って買っちゃったんですよ。
多分私はこの、アルゴリズムとか、私の過去のさまざまな検索履歴から、さっき、あとこの人はちょっとね、薦められたら弱い人なんじゃないかと、いう分析の中で、そういう広告を、ターゲット広告を打たれて、まさに私の心理とか行動変容が起こったわけですね。
ただこれは単なる商品の購入ならいいんですけども、これが投票行動、ある政党に対する行動であったり、ある候補者に対する行動が、もともと別に支持しなかったんだけれども、そういう分析の中でですね、この人にはこういう不正の相手候補の不正があるとかいうフェイクも含めて、見せたら変わるだろうということで見せられたらね、変わっちゃうなと思ったんですよね。
これがまさにケンブリッジアナリティカが、前の大統領選挙で行ったと言われる手法であり、民主主義の根幹に関わり、憲法19条が規定している思想信条の自由っていうのは、我々いろいろ、小さい頃からいろんな文献とか常に接して自由に形成されるものではなくて、実はある意図をもって、もっと言うとある資金を提供された社が意図的にやればですね、人の思想や自由はいくらでも左右、操作できるんだと。
それがデモクラシーの根幹を侵し始めるとまずいんじゃないかといって、憲法審査会で国民投票法の改正議論の中でですね、まあそういった例えば、外国勢力の資金によってsns広告などが自由にされることが憲法・国民投票運動のなかでその何ら規制なく行われていいのか、というような問題提起をさせていただいて、ケンブリッジアナリティカのメンバーだったブリタニーカイザーさんを憲法審査会に呼んではどうかと提案したのは私なんですね。
これ本当に今日的というかこれから起こる問題なので、単なる私が光脱毛器を買った問題ではなくてですね、このことは実は民主主義の根幹に影響を及ぼしうるという問題意識を持って、新たな課題として、憲法上の議論も含めて、やる必要が出てきているんじゃないかというのがですね、この山本龍彦先生に来ていただいて「AIと憲法」の議論をやり始めた最初のきっかけでもあるので、こういうことが起こってるんだと、メリットデメリットを正しく理解をして、デメリットを最小化していくと。
場合によってはこの主権者としての主権を横取りされるツールに使われるかもしれないという問題意識の中でですね、主権者としてこれをどう捉えていくのかということをぜひみなさんにも一緒に考えていただきたいなというふうに思っておりますので、一言ちょっと紹介をさせていただきました。
（山尾）
経験者は語るということで。でもそれが本当に大きな民主政治の問題なんだという提起でもあったかと思います。
ここからは本当に皆さんからいろんな発言をいただきたいんですけれども、今日は本当に議員もいますし、これ完全オープンなので、必ずしも国民民主党に限らず、国会議員も参加をして頂いております。そして一般の方も来ていただいております。
フラットに質問を受けたいと思いますが、この中でちょっと最後まで居れないので今のうちに発言したり質問したいなーという方からお願いしたいと思いますが、どうぞ自由に手を上げていただければと思います。
最初の皮切り、どなたかお手伝いをいただけないでしょうか、どうでしょうか。じゃ古川議員お願いします。
■質疑応答
・【質問１】
国民民主党の衆議院議員の古川でございます。山本先生、前回は国民民主党の憲法調査会ではzoomだったんですが、今日はやっぱリアルでですね、お話聞かせていただいて、私も二度目を聞かせていただいて頭の整理ができました。ありがとうございました。
先生の話の中でですね、ちょっと憲法との関係でお伺いしたいのはですね、私もこのデータ基本権、しっかり憲法上もですね、規定すべきだと思います。ただこれ憲法だけでいいのか、あるいは最初の先生の話にあったですね、データ基本権保護法みたいな、憲法付属法もですね、やっぱりセットにする必要があるのか。これヨーロッパみたいな形とかですね、憲法に全部これを規定しようとすると相当な条項になってしまうような気がするので、私の考えはですね、憲法上はシンプルな形での、個人のデータはちゃんとその個人に属すると、そういう規定をして、それを実質化するようなデータ基本権保護法みたいなですね、そういう憲法の付属法みたいなものもやっぱりセットでやるべきじゃないかなと、先生のお話を聞いてそのように感じるんですが、先生のお考えを教えて頂ければと思います。
（山本先生）
ご質問頂きましてありがとうございます。
私も基本的にそのような発想をとっています。もちろんデータ基本権と言ってもその中身が何かと、私自身はその情報自己決定権って呼ばれるものですけれども、自分の情報を誰とシェアするのかということを自分で決定できるという権利として捉えていますけれども、そういった、まさに基本的な権利ですね、そういうものは憲法典に書いた方が良いかなというふうに思っています。けれども、具体的な実現、その権利の実現というのは、おそらく例えば中小企業とプラットフォーム事業者では全く違ってくるかもしれませんし、やっぱりその業種業界によって違う、あるその規模によっても違ってくる、そういう意味で具体的な規定等はやはり法律に委ねるざるを得ないだろうと思います。
そういう意味ではその法律とその憲法との連絡をやっぱりしっかりつけると。その憲法のデータ基本権の発想というものをベースにして、データ保護体系、データ保護法の体系というものを編み上げていくと。体系性をもった個人情報保護法制なりデータ保護法制の構築をすることが重要だろうと思います。
ですので今の個人情報保護法というものがありますけれども、それについては基本的な人権とかですね、そういったものは第一条の規定の中に書かれていない。もちろん個人の利益ということが入っていますけれども、憲法に当然に紐づいたものという理解があろうかと思いますけれども、その憲法との結びつきというのが十分ではないのかなと。そういう意味では、よりそこの繋がり、今先生が仰ったような憲法付属法として捉え直していく。
今個人情報保護法の法制の、なんというんでしょう、再編成が今年来年にかけて起こっているわけですけれども、その時にも十分、その上位にある基本権概念が何かということを意識しながら、その体系的なデータ保護法制の構築というものが求められるかなというふうに思っております。ありがとうございます。
（山尾）
ありがとうございます。
どうでしょう、はいじゃあ順番に参りますね、お願いします。
・【質問２】
今日はどうもありがとうございました。高森明勅と申します。
今のご質問に関わりまして、ちょうど逆のお尋ねなんですけど、頭の体操としてですね、憲法典には手をつけないで、法律をもってですねカバーすると。今日先生のご発表の最後に憲法事実を積み重ねていくというお話でしたので、その憲法事実が十分でないと、要するに立法事実だけで処理できるというお考え、これはあり得るのかどうか、その辺お尋ねしたいと思います。
（山本先生）
ありがとうございます。それはあり得ると思います。
私自身はそこをまさに、現状何が起きているのか、あるいは何が起きるのかということをしっかりまず把握するということが重要だと思いますので、憲法にこう絶対に書かなければいけないかというと、それは必ずしもそうではないだろうと。それはもうまさにその、非常に異論を許さない考え方になってしまいますので、そこはやっぱり議論していかなきゃいけないだろうと思います。
ただ私自身今感じている、あるいは研究しているところで言うと、書く必要性があるのではないかと私自身は思ってます。日本の場合に、判例にしてもですね個人情報保護法制にしても、先ほどお話をしたその情報自己決定権とかですね、データ基本権に関する正面からの受け止めというのは判例上もないわけですし、個人情報保護法制もそのあたりの位置づけがはっきりしないという部分があると。
そのはっきりしなさによって個人情報保護法の体系がなんと申しますか、体系的にではなくて非常にもうある種場当たり的に組み上げられてきた部分があって、それによって私自身の言葉を使いますと、データ保護については過少かつ過剰という状況が起きてきているのかなと。
つまり本当に大事な部分、さっきのプロファイリングとかですね、大事な部分については過小に保護され、実はもっとデータ使わなきゃいけない部分ですね、本来その個人の人権との関係・距離が遠いものについても、何か過剰な保護がかかってしまっている。そういう意味で過少かつ過剰というのも、原理がないことによって、非常に形式的に個人情報保護法制が捉えられてきたのではないかと思っています。
そういう意味では、やはりちゃんとその、メタな部分と申しますか、憲法に書くことによって、何のためにデータを守らなければいけないのかということがはっきりする。それによって体系的にですね、個人情報保護法制が編みあがるということは十分考えられるし、今日お話した、まさにリスクの部分が本当に顕在化していくというかですね、そういうリスクがあるという、まさに事実があれば尚更のことですけれども、憲法に書くということの必要性、あるいはその維持というのがあるのではないかという風に考えております。ありがとうございました。
（質問者）
改憲ありきではないけれども、憲法下で対応すべきであると。
・【質問３】
私は30年近くテレビ局で働いておりましたので、かつてはサブリミナル効果というようなものがせいぜいだったものを、今もうDXは民間も含めて、憲法だけではなくあらゆるもので影響を受けると思うんですが、その中核となるAIは先ほどおっしゃられたように、past data これはどうしても必要、エビデンスが必要だ、ただエビデンス自体が社会が大きく変わっていて必ずしも完全なものではない。
そこで先ほど先生のお話あったと思うんですが、この移行期にですね、そこの完全でないエビデンスを、past data をどう完全に近づけていくか。これは移行期に特に起こることだと思うんですが、憲法のみならず社会生活そのものにも、そこに恣意性がやっぱりどうしても発生してしまうリスクがある。海外を含めてどう、そこは対応されているのかなと、お教え頂ければと思います。
（山本先生）
ご質問ありがとうございます。おっしゃることその通り思います。
データ、やっぱり今の段階で十分でないということがあって、それによってAIの判断がまあ歪んでくるということは確かにありうると思います。で2つのことが多分今のご質問から言えて、ひとつはやはり人間の判断を介入させるということですね。GDPRの22条、まあEUのですね、GDPRの20条、ちょっと今日引用はしませんでしたけれども、重要な、個人の人生に重要な影響を与えるような決定、これはおそらくいろんな場面であり得ると思いますけれども、例えば人事とかですね、保険とか、融資とか、個人の人生に重要な影響を与える決定というのは、そのAIの自動的な判断のみで行ってはいけないという原則が書かれています。
ですから基本的に人間がやっぱり関与をしなければいけない。そういうことによって、本人から異議の申し立てがあったりとかした場合に、しっかり対応していくと。そういう人間の関与を絡ませることによって、AIの不完全性というものを補っていくということが、一つアイディアとしては考えられるだろうというふうに思います。
2点目はしかし、過渡期であって、おっしゃるように、データを集めてAIが一生懸命世界というものを勉強している段階だと思いますけれども、完全になるかどうかと言うと私はならないのではないかと今のところ持っています。
やっぱりプライバシーがあれば、当然データとして取れない、欠損すると、欠ける部分が出てくるわけですし、今プライバシーという、本当にゼロにすればもうあらゆるデータが取れるし、まあ遺伝的な情報、その人が生まれる前のまさに遺伝的なものまでも取れるということになってくると、場合によっては何れ完全なですねAIというのができるかも知れません。
私自身はそれに懐疑的でですね、やっぱりどこまでいっても人間の判断の余地と、人間が介入する余地というのはあるのではないかと私は思っております。それをどう仕組みとして組み込んでいくのかというのは一つ重要なポイントになってくるのかなというふうに思っております。ありがとうございました。
（山尾）
良い問題提起ありがとうございます。いかがでしょうか、はいえっと、前から上げていただいてて、あと順番に伺いますね。
・【質問４】
本日はありがとうございました。
一番最初のレジュメ、山本先生のレジュメの中の（２）の、「近代人は多忙だ」というところが私が一番問題だと思っている点になりまして、「考える暇がない、思考する暇がない」っていうところが、やはりいろんなものを考えたり、ゆっくりものを考えたり、おしゃべりをしたり、カフェだったりサロンだったりコーヒーハウスとか、そういうところでいろんな喧々諤々そういう議論する場所が、やはり日本の市民・国民には全体で議論する場がないかなと思ってまして。
やはりそれを補うのがAIだったりそのBI、ベーシックインカムがユニバーサルな価値で人権にも繋がってくるかなと思いますし、やはりその多忙っていうところがやはり問題だと思うので、このスピード社会的なところをやはり、なにかしらの形で変えていかないと、憲法議論にも繋がらないですし、若い人たちにも胸に刺さらないと思うので、僕はそこが一番、今日の調査会の、若者代表25歳社会人三年目としての。
自分の先生は岡田憲治先生だったんですけれども、まだまだ全然分からないことだらけなので勉強していく次第でありますし、でも日本っていうのはとこそこ型で雑居型の村社会、ゲゼルシャフトの中にゲマインシャフトがあるっていう、よくわからないと思ってるので、社会人3年経験して。っていうことが僕としてのコメントとして残させていただきます、ありがとうございました。
（山尾）
ありがとうございます。忙しすぎてね、考える時間もっとほしいと。
今日申し込んでくださった方のコメントを見ても、「仕事があるんで参加できるか今のところ五分五分ですが申し込みだけは」とか、後は「小学校の登校の見守りを終えて駆けつけますので滑り込みとなるかも」とか、やっぱりこの、本当に多忙な中ででもこういう議論の場になんとか参加するんだって言う、こういう声がいっぱい詰まっていて、すごくなんか、身につまされる指摘だったと思うんですけど、先生なんかコメントあればお願いします
（山本先生）
ある日おっしゃる通りというか、そこが重要な問題だろうと。おそらく近代以降というのは、そのバランスをどう取るのかと、つまりその忙しさの中で、しかし公共的なことを考えなきゃいけない。この両者のバランスをどう取るのかといった時に、おそらくこのタック、リチャードタックっていうのは、ある時期に例外的に、公共のことを考えましょう、そこのポイントをいわば限定したんだろうっていうふうに思うんですね。
ですから、それ以外のときにじゃあ政治のこと考えなくていいかというと、必ずしもそうではないけれども、決定者ではなくて監視、どちらかというと監視するというような役割ですよね、ですからその私自身はそういう意味では、この憲法時期っていうのかな、その憲法的な時期と通常の政治期というものは区別することによって、政治に集中しなければいけない期間というものを、いわば限定的に捉える。常になんとなく政治を考えて、なんとなくて語弊があるかもしれませんけれども、政治を見守るということは必要かもしれませんけれども、まさに決定者として、責任を持って決定するという場面は、なるべくその負担は減らした方がいいよというふうに思ってます。
今お話があったように、それをどういうふうに制度化していくかということは重要だと思っています。
例えば一つ考え方として、その陪審制、今日本で言うと裁判員制度ですけれども、そういった仕組みがありますよね。まあそういう場合、裁判員に加わった場合には、当然企業側も一定の配慮が必要になってくると。
例えば各地方公共団体で、かつての constitutional convention （憲法制定会議）のようなですね、憲法会議のようなものを、陪審制とか裁判員制に近い形で実施していくということによって、ちょっと仕事を置いといて、何人かの人たちが代表者として憲法のことを考えて知識を積み上げていくというようなことも、制度的には考えられるかもしれないわけですね。
ですからそこはどう制度をつくるのかということだろうと思います。通常政治と同じような流れで憲法政治をやると、結局忙しさの中で大事な基本法の決定をしなければいけませんから、その点をそれこそそれは、代表民主制の中で決めなければいけない、それこそ今の、責任を持って政治家の方が、どういうふうに constitutional moment というかですね、時期というものを、しっかりですね、守るかということも重要だというふうに、重要な課題だと思います。ありがとうございます。
（山尾）
ありがとうございました。岡田先生にもぜひこの場でお待ちしてますとお伝えください。ありがとうございました。
先ほどから手をあげていただいて、順番に参りますね、お願いします。
・【質問５】
フリーランスの坂本ですけれども、まず民主党さんがですね、この憲法改正について議論に乗るという、政治の中で議論に乗るということの最大のテーマは何かということをお伺いしたいんですけれども。
今日の講題に沿うならば、例えば今いわゆるこの新型コロナの問題で、政府が統治するのにはデータが、国民のデータがたくさんあったほうがいいわけですけれども。例えば中国みたいに、いわゆるデータによってその人の等級分けをする、それから韓国それから台湾みたいにデータですべて、要するにそういう防疫体制を作るということをやってますけども。これは要するに日本ではそういうふうなことにならないですけども、でも政府としてはマイナンバーを普及させることによっていろんなことを紐付けして、データを一括して集めるということによって統治をうまくやっていこうということを考えていると思いますけども。
我々の立場からすると、国民の立場からすると、例えば1つのデータが固定化されてですね、例えば人生の長いうちにおいてはいろんな間違いを犯すこともあるわけですし、それから大きな犯罪でなくても小さなことは、小さなことは起こすことだってあり得る。しかしそれが要するにデータとして固定化されていく。それで、そのデータが固定化されていって、その人の評価になっていくということになっていくと、これは要するに、人生の中で立ち直ったりするとかですね、それから取り返したりするとかですね、そういうことができなくなる。
我々の国民の側からしてそのデータにアクセスしてそのデータの中身を見ることができるんだったらいいんですけど、それから要するにそれを書き変える権利があるんだったらいいですけれども、それからそれに申し立てする権利があるんだったらいいですけども、それを要するに憲法上どういうふうに保証するのか。憲法の条文に何か謳うのか、それとも法律で、いわゆるプライバシー権とか、それから情報の保護とかそういうことにするのか。
それからこういうデータがですね、国によって管理している間はいいですけども、それはほとんど、要するに民間の下請けにデータが全部入ってるわけですから、そこからデータが漏れるということがあるわけで、それを要するに我々は心配するわけで、だからこそマイナンバーを信頼できないということになるわけですから。
だからそれを要するに、どういうふうに保証するのか。また民主党さんが政権をとった場合には、こういうことに対してはどういう考えで、方針で臨むのかということを伺いたいと思います。
（山尾）
ありがとうございます。すごく重要なご指摘だと思っていて、またそこでちょっと私思うのは、やはり今日プラットフォームが、やっぱり新しい統治者、ニューガバナーなんじゃないかという指摘もあって。
山本先生にもお伺いしたいんですけど、そういったプラットフォームに対して、今ブラックボックスという懸念もありましたが、そういう取引の透明性の向上のような、一定の責任を課していくだとか、あるいは遺伝的な属性という話も出てまして、こういうもので差別されないというようなことを14条などに入れていくだとか、あるいはそういった人の内心・思想や良心の自由っていうのがありますけれども、それを作っていく、形成過程においても自律的であることをデータ社会の中で保証していくだとか、様々考えられることがあるような気がします。
山本先生にお伺いをし、玉木さんにも国民民主党としてどう考えてますかっていう問いかけもあったと思いますので、渡していきたいというふうに思います。
（山本）
ありがとうございます。
私が答えるべきかどうかあれなんですけれども、今のご質問、重要な点だろうというふうに私は思っています。
今回のコロナ対策としての公衆衛生で、やっぱりプラットフォームの役割というのは非常にクローズアップされたんだろうというふうに思います。日本の国内のプラットフォームも、厚生労働省に対して匿名化された形だというふうに思いますけれども、そのデータを国に提供するということがあったりしたと。
あとはいわゆる接触確認アプリのココアですけれども、これについてはgoogleとappleのapiを使うということで、プラットフォームの連携というのがいわば不可避になってきている状況だというふうに思っています。
先ほどお話をしたプラットフォームというのは、国以上に我々の一挙手一投足に関するデータを持っているということもあるわけで、これは公衆衛生上使わない手はないんだろうと。
ただ結局重要なのは、両者の関係性、つまり国家とプラットフォームとのデータの連携ですね、連携の仕方をどういうふうにこれを透明化し、それをチェック、統制できるかどうかだと思います。ですからなお私自身は、今の連携の状況というのはプラットフォームによってなかなかその対応の違いもありますけれども、実際にどういう連携になっているのかとか、じゃあどの、どういったデータがどういう形でやりとりされているのかというのがなお不透明なところがある。そこはやはりしっかりですね可視化してこれを民主的にチェックできるような仕組みが必要なのではないかなというふうに考えているところです。
いずれにせよプラットフォームっていうのは、先ほど申しました通り両義的な存在だと思うんですね、私自身は。つまりそのやっぱり、我々の生活を非常に便利にしたり、今まで叶わなかったことが叶ってくるという意味では、ポジティブに評価しなきゃいけない部分もある。と同時にどういうふうに国との関係を捉えていくのかということが非常に重要なテーマになるのかなというふうに思っているというところです。
ちょっと抽象的な答えで申し訳ないのですが、また何かあればお答えしますけれども、私からはさしあたり以上です。
（玉木）
私も非常に大事なご指摘をいただいたと思っています。
その意味でもですね、自らに関するデータの自己決定権というのが非常に大事だと思っていて、正しく、例えばね、これ確か過去判例もあったと思いますけれども、予測変換で過去逮捕されたことがあったりとか、軽犯罪犯した人があって、例えばですね私は立ち小便で捕まりましたと。玉木雄一郎って検索したらその後必ず立ち小便て出るとか、ということがあるんですね、今既に。で、そこを削除する、つまり忘れられる権利とか、過去の自分に対して不利益なことを表示させない権利といったことも含めてですね、そこをまさに憲法上も含めて議論を私今後していく必要があるのかなと。そういったことを含めた広いデータに関する自己決定権ということを権利としてきちんと位置付ける必要が、このDXの時代にあるんじゃないかという問題点が一つ。
あとはですね、仮にいろいろな権利侵害が行われたときにそれを救済するような専門組織ですね、デジタル庁って言ってなんか調達を一元化するということよりも、そういったその、権利が侵害されたときに、それをきちんと回復していく中立的専門組織みたいなものもですね、やっぱり作っていかないと、なかなか権利が守られないのではないか。
かつてはプライバシー庁と言ってですね、情報が漏れるか漏れないかという観点でそれを守ろうということだったんですが、今はもう漏れる漏れないの話じゃなくて、その事故に関するデータをどう自らが自己決定し、仮に意に反したことがあったらその権利が侵害されたことに対して救済ができる仕組み、こういったこともセットで考えていく必要があるのかなと思ってます。ただ、我々としてまだ具体的な組織とか考え方を整理しきっていないので、まさに今いただいたご質問を踏まえてですね、これから党内でも、しっかりと党内で議論を積み重ねていきたいと思っています。
（山尾）
ありがとうございました。
手を上げていただいてましたね、はいどうぞお願いします。
この記事が気に入ったらサポートをしてみませんか？