生成AI関連パブコメ2

はじめに

ここ2月と3月は生成AIに関する政府のパブリックコメント募集が重なっており、せっかくなので出せる奴は全部出しました。中には政府に予防的対策を希望したものもあり、いくつかは生成AIのもたらす新たなリスクに警鐘を鳴らすものでした。後で「想定外でした」とか言われるのは癪なので、ここにパブコメの同文を掲載しておきます（あと4本くらいある）。基本的にこれらは全て日本政府の担当官庁の手に渡っているはずで、具体的な企業名とか問題になりそうな固有名詞を除いて、後に公表されるものです。よく似た主張があれば、多分僕の出したやつです。

一個目 「知的財産推進計画2024」 について

これは全般的にAIと知的財産の取り組みについて、何を頑張るが、何を規制するか、どのような具体的な方法があるかなどを包括的に募集したものです。若干説教臭いことを主張していますが、パブコメとは市民が偉そうに政府に説教垂れるようなものなのでご勘弁を。

本文

まず最初に。政府はAI戦略だけでなく、施策や規制の方針を発表する際に、「必要十分な資料の存在とアドレスへの言及」を徹底すべきであると思います。令和６年能登半島地震における厚生労働省の緊急小口資金の”貸付”を発表したときの例が記憶に新しいのでそちらで指摘しますが、これは十分でもないし努力不足です。この小口資金は「財布やスマホや通帳やタンス預金などを喪失して当座のお金が全くない人に、とりあえず物を買うためのお金を20万円を上限としてほぼ無審査、無利子で貸し出しますよ」という文脈があるはずです。ところが「厚生労働省｜厚生労働省生活支援特設ホームページ | 生活福祉資金の特例貸付 | 緊急小口資金について」
「https://corona-support.mhlw.go.jp/seikatsufukushi/samout2/index.html」
においてもその文脈は十分に明記されていません。事例付きでわかりやすく書くべきです。おまけにその”20万円貸付”の部分だけ抜き出して、足りないだのケチだの一種のデマが飛び交ったにもかかわらず、SNS上で訂正する十分な努力がみられませんでした。これは文責者を決め、文書内で文脈等を書いた資料について明確に言及し、一部だけ引用することを著作権侵害として訴えることも視野に入れるべきです。能登地震の場合、被害にあうのは誤った情報で絶望した被災者とクレームを受ける役所の窓口職員です。このようなデマは野党支持者や一部報道関係者によってなされていましたが、訂正を求め、訂正をしない場合には第20条1項、文章の同一性保持権侵害で訴えることも必要です。AIについても、学習データを生成AI用として展開したいのか、画像認識などイノベーションを求めての議論なのかを明示しないために国民どうしで口論が起こっています。誤った認識による政府批判は国民のためにも政府のためにもなりません。
・文脈と資料の明示
・デマに対する対応
の十分な努力を期待したく思います。

A．スタートアップ・大学の知財エコシステムの強化について。

[要旨]
・賢い人間はイノベーションを狙うようなチャレンジをしたがらない
・チャレンジを促すなら、失敗のリカバリーができる道筋が必要
・AIの仕事の範囲を広げすぎると民主主義自体が破綻しかねない点を懸念する
・数万数億のAIとAI搭載機が一部の人間に握られたとき、AIの失敗は破滅的になる点を懸念

現代においては、SNS等で物事の失敗事例を十分以上に見ることができるため、賢い人間ほど失敗を恐れて挑戦せず、無難な仕事に終始してしまう傾向にある。これは個人的肌感であるが、日本人は特に用心深く失敗を恐れる傾向が強いように思う。どのような競争でもそうであるが、知財においては特に一番のみが価値があり二番以降に価値などない。これはスポーツのような競争社会よりもさらに、知財のチャレンジをギャンブル的にしており、健全な競争ではあるが同時に超ハイリスクである。よって、知財の生成過程、すなわち「研究」「発明」「創作」における課程もある程度保護し、イノベーションを起こした業績に肉薄する（途中）業績が認められるのであれば、それを認めてある程度の報酬を与えるシステムがほしい。そのような「知財業績課程保存サーバー」のようなものがあっても良いと思われる。でなければ、先を見通すことができる人間ほど失敗を避けるのだからイノベーションなど望めない。絵師、漫画家、イラストレーター、脚本家、演出家などにおいても、業績を横取りされる可能性や実際の事例は創作の余力を削いだり委縮させてしまっている。例えば、新人漫画家が面白い話のプロットを出版社に提出して却下されながら、プロットだけ盗まれて別の懇意としている作家に横流しするような事例は表に出ないだけで看過できない頻度で起きている。知財は過程の保護も大事である。この点をシステムとして運用してほしい。マイナンバーと紐づけした業績管理システムであれば、婚姻時の別姓問題にも根本的に対処できるのでぜひ一考を。
また、AIの仕事の範囲を広げすぎることで取り返しのつかない人権侵害が起きうることに注意されたい。具体的には、2点の問題がある。一つ目は労働者のスト権喪失の問題、二つ目は責任の集積である。AIは人間の作業のほとんどのことができるようになることが予測される。となると、労働者がストを行ってもAIに仕事を代替されて終わる。資本主義が行き過ぎれば、全てAIにやらせるのが最善策となり、全世界でうっすらと労働権の剥奪が起こる。これは防ぐべきである。二つ目、AIおよび搭載機は金さえ出せばいくらでも増やせるので、兵士も労働者も無制限に作れる。しかし例えばAI医師が世界中で100万人の誤診と事故死を起こした場合、それは一人の人間では背負いきれない。資本家が無制限にAI搭載機を持つことに規制が必要である。

C．急速に発展する生成 AI 時代における知財の在り方について

[要旨]
・ディープフェイクによる虚偽の流布は一発で100億単位の被害を出しうる
・ディープフェイクの拡散を抑止するシステムは何億かかっても対費用効果がある
・真実性を担保するための特許庁のようなシステム、「事実庁」のようなシステムを希望する

生成AIについては、ディープフェイク対策、特に「証拠映像の捏造」を予防する方策が不可欠である。いくら「透かし」などを義務化しても、捏造目的の相手が従うわけがないのである。フェイク動画は近い将来に、市販のPCでフェイクと見抜けない物が出力できることが予測される。これが政治家含め著名人に対する攻撃や嫌がらせに使われることは自明である。しかるに、今後は「証拠映像である」ことの保証や認証が必要である。悪意あるAI開発者とのいたちごっこになるであろうが、例えば「映像の時間、座標の保証」「映像の未加工保証」システムを合わせて準備することが急務である。その対策には、大雑把に100億円かかったとしてもその価値がある。例えば、闇バイトとディープフェイクを利用すれば情報操作攻撃によって1000億円単位でも被害が出せるのである。株価や為替などは、事件で変動する。そして嘘による相場の操作は生成AIにより容易になる。例えば、「〇〇という企業が反重力装置を開発して公園で実証実験をした」というフェイクニュース。100人くらいを闇バイトで雇って一人1万円を渡し、ばらばらの指定時間に100通りに作られたフェイク動画を投稿するように指示する。一時的に株価は跳ね上がるだろうから、そこで売ったお金が100万円を超えれば儲かる。企業規模によっては数十億数百億も不可能ではない、となれば犯行動機としては十分である。株式相場などがカオスになることを考えれば、ディープフェイク対策は必ず対費用効果が得られる。
また、「真実」という儚い価値を、強固なシステムで守る努力が今後必要と考える。特定の一件の事象においては真実は概ね一つ程度であることが多いが、嘘はそれこそ無数に作れる。たった一枚の価値ある自然科学の写真は、数億枚のディープフェイクにかき消されれば、その価値は何らかの形で救済しない限り永遠に毀損される。フェイクが難しかった時代ですら、様々な冤罪事件、捏造事件、たとえば従軍慰安婦問題のように嘘をまき散らされて被害を受ければ回復は著しく難しい。「市に虎あり」「曾参人を殺す」という。撒き散らされた嘘は国をも滅ぼすことがある。特許庁のように、「事実」を登録し、査読認定し、その真実性を保証し、事実に反する投稿に対して即時削除を命じられる特許庁ならぬ「事実庁」が必要と考える。真実はそれだけの価値がある。ちなみに政治家の発言を丸々登録すれば、一部だけ抜き取られて偏向報道することも抑止できる。考慮されたい。

E．標準の戦略的活用の推進について

[要旨]
・生成AI規制については、紛争や係争が莫大になりうるため、これまでと違った対策が必要
・生成AI規制に関して、マイナンバーを準用する二段構えの規制を提案する

知的財産を戦略的に利活用するには、同時に不正をなるべく防ぎ、違反者を適切に発見する司法とシステムが必要である。生成AIは適切に使えばこれまでにないイノベーションを生み出せるが、たった一人の人間が著作権侵害をそれこそ万でも億でも犯せる危険なツールでもある。そのツールを悪用する人間が千でも万でもいるというのなら司法は必ず破綻する。
生成AIの規制について３つ提案したい。
１．マイナンバー的なシリアル値を、生成AIと生成AI作品の「開発」「公開」「販売」に必須とする
２．シリアル値はいわば全人類の生得的生成AI利用免許とし、違反したらペナルティ
３．生成AIの包括的規制と事例ごとの規制の二段構えとし、司法判断を容易にする

１．については、マイナンバーそのものをやり取りするのは色々問題であり、マイナンバーと紐づけられた別のプチマイナンバーのようなものを登録し、運転免許と同じく「有効/無効」だけ返すサーバーを用意するのがよい。これはより安全にワンタイムマイナンバーにしても良いかと思う。
２．については、ブラックリスト方式とホワイトリスト方式のどちらにするかという判断が必要だが、「生成AIで迷惑電話応答を設定する高齢者」のような、利用者登録するほどの動機もスキルもないライトユーザーを考え、「違反しない限りはライトな利用はできるが、違反したら履歴登録され制限される」ブラックリスト方式が良いかと思われる。
３．これは商標や意匠の運用を真似るものである。つまり、商標法は違反すれば即有罪だが、商標法ではシロでも不正競争防止法では有罪、という風に「形式による容易な司法判断ができる第一規制」「事例ごとに検証が必要な第二規制」を段階的に用いるものである。生成AIによる犯罪は、年間数十万を超えるような莫大な事例を覚悟しなければならない。しかも検証すべき作品数もいくらでも増やせる。システム的に新しく法規制しなければ、とてもさばききれない。

G．デジタル時代のコンテンツ戦略について

[要旨]
コンテンツ保護については、５点提案したい。
１．パテントプールを使いやすく制度化しマイナンバーと紐づけする
２．契約書の電子化とテンプレ化および国際化対応
３．商取引におけるマイナンバー必須化
４．通報におけるマイナンバー義務化
５．AI生成物およびAI利用製品における責任の明確化

１．パテントプールの有用性は言うまでもない。それに加え、国際的に知財のやり取りをする場合、一々契約するまでもなく定額の利用料のみを徴収するシステムがあれば、商取引のトラブルは9割方起こらない。そして、パテントの利用における功績に応じた配分はマイナンバー一択である。姓名＋住所の不確かさ、扱いづらさは特許庁は身に沁みていることであろう。
２．契約書は一対一の国際取引で必須である。しかし、契約書には「言語問題」「国ごとの分化や前提が違う問題」「甲、乙が代わってしまうと契約の責任者が薄まる問題」「瑕疵のない契約書はあまりに長すぎる問題」「そもそも契約書は読みにくい問題」がある。電子化は当然の流れであろうが、加えて「テンプレとの違いをハイライト表示し、注意点だけチェックできる機能」「契約書における甲乙を読みやすい固有名詞に置き換え表示できる機能」「契約書の論理構造を図示できる機能」があるのが望ましい。日韓請求権協定のような条約の条文すら、「already」がどこにかかるかを恣意的に主張できるという事例がある。このような曖昧さをなるべく減らせる記述方法が望まれる。また、一旦契約したとして、契約の管理会社が事業を譲渡してしまった場合、あるいはさらに契約違反があった場合、通常はその条件やペナルティを記述されていることが必須である。しかし、それでも相手方の社長が会社を解散して逃げた場合、どこまで補償を追求できるか。本来は契約書にそれぞれの事項における人間の責任者を書くべきなのだが、現状の書式の多くは「法人」という語に薄められてしまっている。これらの問題に対応するためにも、契約書の適切な形式を規格化すべきである。
３．商取引において知的財産の侵害は概ね海賊版販売や違法配布（違法アップロードサイトなど）が重大である。これらは一々個別に叩いてもキリがない上、生成Aiの普及でもはや手の付けられない件数になっている。これらは本来日本の知財所有者が海外取引しその所得税を日本国が得るのだから、放置すれば毎年数百億数千億のとりっぱぐれである。また、メルカリ等古物商免許を持たなくても物品販売ができるサイトも被害を拡大させている。利便性をそのままに規制を講ずるなら、商取引においてはマイナンバーの紐づけを義務化すべきであり、海賊版の規制もまずは有効なマイナンバーが確認できるかでざっと規制できる。一方で国民にとってはマイナンバーそのものはあまり公表したいものではないため、システム内部的にマイナンバーと結び付けられるが利用用途や回数は限定されるワンタイムマイナンバーのような利便性を図るのが良いと思う。
これは制作側も同様である。AIは嘘つきにとって便利な道具であるので、AI生成物の発表されうる基盤（SNS含）については、「AI生成物かどうか」「マイナンバー（またはマイナンバーと紐づいたシリアル値またはマイナンバーと紐づいたワンタイムマイナンバー）」の提示を必須とすべきである。そして、悪質な嘘つきのナンバーはブラックリストに入れ、「AI生成物発表不可」を判断できる手法、システム、そのためのサーバーが必要である。これはいわば生得的運転免許のようなもので、悪質な者だけ欠格とする方式である（これなら創作の自由自体は最初に担保され、権利の制限は違法な行為のみを根拠とできる）。
４．海賊版などの規制において意外と重要なのが民間の目と民間からの通報であるが、残念ながら通報を悪用する者がいるために必ずしも有効に機能しないばかりか、嫌がらせのために使われる事例も散見される。重要な通報はマイナンバーまたはワンタイムマイナンバーのような、個人に責任を問える形で行えるシステムが欲しい。何もやましいことのない市民は、通報にマイナンバーを要求されても困らない（マイナンバーが漏れないことと一々入力する手間がないことは大前提）。
５．AI生成物は責任の所在があいまいになりがちである。誰かを中傷するようなポスター、告発する写真などは当然作成者、撮影者、公表者がいる。しかし、生成AIなどAIが絡むと、「元データ所有者」「モデルデータ提供者」「モデルデータ作成者」「生成AIライブラリ作成者」「生成AIソフトウェア開発者」「生成AIソフトパッケージ販売者」「生成AI制作物作成者」「生成AI制作物を本物と信じてしまった人間」が全て関わり、全員が被害者にも加害者にもなりうる。それぞれの分限を妥当に定め、やってよいこととわるいことを法的に制定しなければ収拾がつかないであろう。加えて、訴訟自体も増えるであろうから生成AIなどの表示義務も同時に定めるべきと考える。
また、機械翻訳なども責任が求められる場面が増えていくと思われるが、特に政府が扱うような文章には常に責任者を置くべきである。2020年1月に某国のお偉いさんを「ミスター・くその穴」に誤訳した事件は示唆的である。相手との関係性が大切で、かつ高速なやり取りが必要な場合、「AI提供者」である翻訳サービス事業者が、翻訳結果の簡易なチェック機構を用意することが求められることは自明であるが、最終責任者も必要である。もちろん通訳者が常に用意できるのなら問題ないが、大量の翻訳文を作文するのと、ほぼ出来上がった翻訳文をチェックするだけでは負荷が全く異なる。
また別の「責任」として自動運転などの人間の仕事を代替するAIについても議論と法整備が不可欠である。自動運転車など高度な判断を求められながらもテロや殺人、麻薬密売に使える分野においては、システムの透明性と共に「ブラックボックス化」「責任者の明示」も必要である。例えば、未登録の自動運転車については警察権限で監査することも必要である。また、逆に「親の権限で子供を塾に迎えに行った自動運転車に、友達を乗せても良いか、途中でトイレ等に下ろしても良いか、買い物はどうか、津波に襲われたら初期命令をどの程度無視するか」など、AIに対して使用責任を持つべき人間と利用者の矛盾解消も規定すべきであると考える。

以上