米国大統領選挙とディープフェイク

湯淺墾道（明治大学）

2024年米国大統領選挙の懸念

　2024年は世界的に「選挙イヤー」であり，多くの国で大統領選挙や国会議員選挙が予定されている．その中には，米国やロシアの大統領選挙など世界的に注目を集めるものが少なくない．アジアでは，1月に行われた台湾の総統選挙，2月に行われたインドネシア大統領選挙のほか，インド，パキスタン，バングラデシュ，韓国で国会議員選挙が予定されている．しかしその中でも特に注目されるのは，米国の大統領選挙であろう．現時点では現職の民主党・バイデン（Joe Biden）候補と，元職の共和党・トランプ（Donald Trump）候補の事実上の一騎打ちとなる可能性が高く，かつ激戦となることが予想されている．

　ところで米国の大統領選挙といえば，民主党のクリントン（Hillary Clinton）候補と共和党のトランプ候補が争った2016年の選挙のことが思い出される．2016年選挙は，ロシアやその支援を受けた組織が民主党陣営関係者にサイバー攻撃を行って内部情報を暴露したことを連邦政府の情報機関が報告書で公開し，英国のデータ分析企業ケンブリッジ・アナリティカ社がFacebookから不正に得た個人情報を利用して共和党支持者を増やすための世論誘導を行ったとされるなど，選挙とサイバーセキュリティ，SNS等を利用したディスインフォメーションが世界中で問題となるきっかけとなった．

　2024年の大統領選挙で懸念されているのは，それらの問題に加えて，近年急速に普及している生成系AIとそれを利用した偽造・合成の音声や動画像（ディープフェイク）が選挙運動において多用され，有権者が適切な判断ができなくなることである．2023年4月には，共和党全国委員会が「Beat Biden」$${^{☆1}}$$と題する生成系AIを利用した動画をYouTube上で公開した．2024年1月23日に実施されたニューハンプシャー州の予備選に際しては，「今日投票に行くことは，ドナルド・トランプを再び当選させようとする共和党を利するだけだ」という内容のバイデン候補の音声をAIで生成し，自動的に電話をかけて当該の音声を発信するというロボコール（robocall）が実際に行われた．このため，各州において州選挙法を改正してディープフェイクを規制しようとする動きが活発化している．

各州選挙法の規制

　アメリカにおいては，選挙制度の策定や選挙の方法については，原則として州の権限に属する．ただし，連邦憲法4条は「連邦議会は何時でも，上院議員を選出する場所に関する事項を除き，法律によりかかる規則を制定し，または変更することができる」とも規定しているから，選挙制度が州の権限に属することを前提として連邦法が州選挙法や州の選挙管理に一定の規制を加えている．

　全米最多の人口を擁するカリフォルニア州をはじめ，現時点ではディープフェイクに関しては州法による規制が試みられており，数州では規制法がすでに施行されている¹⁾．

　規制が先行したのはカリフォルニア州とテキサス州であり，2019年にカリフォルニア州は選挙運動におけるディープフェイク等を規制するためカリフォルニア州選挙法を改正した．加工・修正した画像・動画像にはその旨の表示を義務付け，投票日の60日前から何人もディープフェイクの発信が禁止される．ただし違反した場合の刑事罰がなく，被害者が民事訴訟に訴えることができるのみである．ISPは免責とされており，パロディを目的とした場合には規制は適用されない．

　本法はサンセット法であり，2023年1月1日で失効した．このため2022年にカリフォルニア州規則（California Government Code）を改正するSB1216法案が提出され，可決された．本法は，州政府に対してディープフェイクの拡散がもたらす影響と，デジタルコンテンツ偽造技術およびディープフェイクの展開が政府，企業，州民に及ぼすプライバシーリスクを含むリスクを評価することを義務付けるものである．デジタルコンテンツの出所を決定するための州政府部門の標準および技術開発の実現可能性，障害についての調査を含む計画を策定することも求めており，本法の下でプラットフォーマーをメンバーに加えた協議会が設置されるなど，「共同規制」型の規制となっている．

　テキサス州も，2019年に選挙法を改正し，選挙運動におけるディープフェイク等を規制している．テキサス州選挙法では，ディープフェイクという文言を用いるとともに，候補者を誹謗中傷したり選挙結果に影響を与えたりすることを目的としてディープフェイク・ビデオを作成することを禁じている．自らが作成したものでなくても，投票日の前30日間はフェイクと知りつつ流布させることも禁じられており，違反に対してはA級の軽犯罪として刑事罰が課される．また，パロディが不適用対象とはなっていない点もカリフォルニア州法とは異なっている．

　2023年には，ディープフェイクの流通を規制するため，ワシントン州，ミネソタ州，ミシガン州が州選挙法を改正した．

　ワシントン州法は，選挙運動における合成メディアの使用を規制するとともに，自らに関する合成メディアを使用され，外見，行動，言動が変化させられた候補者は，当該合成メディアの使用禁止を求める差止命令その他の救済を州裁判所に求めることができるとして，ディープフェイクの被害者に対する救済を規定している点が特色である．

　ミネソタ州法とミシガン州法の規定はおおむね同様であり，一定の期間において候補者を傷つけ，または選挙結果に影響を与える意図で候補者等のディープフェイクを作成・発信することを禁止し，違反者に対しては刑事罰を課している．

　その他の州においては，本稿執筆時点で，フロリダ州，イリノイ州，ケンタッキー州，ニューハンプシャー州，ニュージャージー州，ニューヨーク州，オハイオ州，サウスカロライナ州，ウィスコンシン州の州議会で法案が審議されている．

　注目されるのは，2023年末に州議会に提出されたフロリダ州のSB850法案である．フロリダ州は毎回大統領選挙では激戦となる州であり，本法案が成立するかどうかが注目を集めている．本法案は，ディープフェイクも含めた政治広告における人工知能の使用の規制であり，「生成型人工知能」という用語の定義を行うとともに，政治広告，選挙コミュニケーションその他の政治広告に人工知能の使用を明記することを義務付けている．またフロリダ州の法案で注目されるのは，従来の他の州法とは異なり，選挙の前の特定の期間に限定していないこと，「候補者」という文言がなく「現実の人（a real person）」という表現を用いていることも特色となっている．

　これらの州法の内容は，定義や射程がかなり異なっている．相違点として挙げられるのは，ディープフェイクの定義，選挙の前の一定の期間に規制を限定するか，誰に関するディープフェイクを規制対象とするか（規制対象を政治家や候補者に関する内容に限定するか），違反者に刑事罰を科すか，ディープフェイクを作成・流布された候補者等への救済方法である．

　これらの点につき，規制立法自体については民主党が優勢な州では規制論が強く，フロリダ州で規制法案が提出されたような例はあるものの一般的に共和党支持者や保守派は選挙運動における規制立法に批判的である．規制に慎重な立場から主張されるのは，選挙における表現の自由は最大限に尊重されるべきであること，ディープフェイク規制立法によりパロディや風刺（satire），歴史上の人物の再現なども規制対象となる恐れがあることである．

　アメリカでは政治や選挙に関する表現行為は選挙運動資金の支出も含めて連邦憲法修正1条の言論の自由の強い保障を受ける．選挙は民主主義の根幹となる制度であるから，選挙に関しては公正が要求されるとともに，表現の自由の一態様としての政治活動の自由が保障されるべきというのが米国の連邦最高裁判所の判例に通底する考えであり，選挙の公正を表現の自由よりも重視して公職選挙法による広範な選挙運動規制を許容してきた日本の最高裁判所の判断とは異なる．

　修正1条との関係では，誤った情報の流布について，アメリカ市民がアメリカ国内から送信する場合は連邦憲法修正1条の保障が及ぶからディスインフォメーションやディープフェイクも規制されるべきではないとする見解と，意図的な嘘（lie）には修正1条の保障は及ばないとする見解がある．過去の連邦最高裁判所の判例に徴すると，意図的な虚偽がまったく修正1条の保障を受けないわけではないと思われるものの，特に選挙の場面のようにディープフェイクによる害悪が明らかである場合には一定の規制は許容されるのではないかと思われる．しかし現時点ではディープフェイクが争われた事例自体も少なく，連邦最高裁がどのように判断するかは予想できない．

連邦政府・連邦法の規制と今後の動向

　本稿執筆時点で，連邦議会には複数の選挙におけるAIの利用やディープフェイクを規制する法案が提出されたが，いずれも成立していない．

　前述のロボコールに関しては，連邦通信委員会が2024年2月8日に生成系AIによって生成された音声によるロボコール（自動電話勧誘）を禁止した$${^{☆2}}$$．これは，1991年電話消費者保護法（TCPA）の規定を連邦通信委員会が解釈して宣言的命令を発出したものであり，本命令では，「人工音声または事前に録音された音声」の使用に対する TCPA の制限が，人間の音声を生成する現在の AI テクノロジーを包含していることを確認する，としている．

　ディープフェイクを含めたAIの開発・利用規制に関しては，AI自体の規制（開発規制，サービス提供規制，利用規制など）と，選挙セキュリティ²⁾の観点からのディスインフォメーション規制など多くの面が関係するため，今後の規制や対策が重層的となる可能性もある．

　また各州の選挙法においては，ディープフェイクの対象となる候補者その他の人につき，生存する自然人とか生存する候補者というような限定は付されていない．死者のデータを用いたディープフェイクが作成される場合もあり，死者のデータの利用も問題になり得る³⁾．アメリカ州法における死者へのパブリシティの権利の伸張とあわせて，ディープフェイク規制の今後の動向が注目される．

脚注
☆1　https://www.youtube.com/watch?v=kLMMxgtxQ1Y
☆2　https://docs.fcc.gov/public/attachments/FCC-24-17A1.pdf

参考文献
1）湯淺墾道：選挙運動におけるAI利用の規制─アメリカにおけるディープフェイク規制を中心に─，研究報告電子化知的財産・社会基盤（EIP），2024-EIP-103（3），1-7（2024-02-08），2188-8647．
2）湯淺墾道：アメリカにおける選挙セキュリティの観念，ガバナンス研究19号（2023年3月），pp.35-56．
3）湯淺墾道：死者の個人情報の保護，ガバナンス研究18号（2022年3月），pp.18-43．

（2024年3月15日受付）
（2024年4月8日note公開）

◾️湯淺墾道（正会員）
青山学院大学法学部卒業．九州国際大学教授，同副学長，情報セキュリティ大学院大学教授，同副学長を経て2021年より明治大学公共政策大学院ガバナンス研究科教授．総務省情報通信政策研究所特別研究員，科学技術振興機構「SDGsの達成に向けた共創的研究開発プログラム（情報社会における社会的側面からのトラスト形成）」プログラム総括ほか．