小規模AIサービス開発・提供における法的リスクの検討材料について
生成AIサービスの開発・提供にあたって、法的リスクを検討するために、リサーチをしていたところ、詳細なものや総論的なものが多く、
スタンダードなケースにおいて、とりあえず何を検討すればよいかを書いてあるものが、あまりなかったので、書いてみることにしました。
事業サイド・エンジニアサイドから、リーガルに相談する場合も、これらの要素をいただけるとスムーズに進むように思います。
１ 考え方の枠組み
まず、①個人情報保護法・著作権法※の観点から、違法・適法・グレーを切り分けます。
次に、②違法でないとして、生成AIサービスに対しては、いろいろなステークホルダーの考えもあるので、当該サービスのステークホルダーを踏まえて、どのように設計するかを考えます。
個人情報保護法、著作権法については、開発と生成・利用で分けて考えます。
サービス利用の段階は、①利用者が違法な使い方になりやすいサービスが適切かという問題と、②そういったサービスを提供する場合に、サービス提供行為自体も違法とされるかの問題が生じます。
※ サービスが多様なので、他の法律も絡みうるものの、いったん主要なものに絞りました。
なお、文化庁 AI と著作権に関する考え方について には、以下の注記があることに留意が必要です。
○考え方は、その公表時点における、本小委員会としての一定の考え方を示すものであり、本考え方自体が法的な拘束力を有するものではなく、また現時点で存在する特定の生成AIやこれに関する技術について、確定的な法的評価を行うものではないことに留意する必要がある。
２ 個人情報保護法について
個人情報保護法は開発と利用で分けて考えます。
生成AIサービスの利用に関する注意喚起等について（令和５年６月２日）が参考になります。
（１）開発段階
ア 利用目的
取得する個人情報の利用目的の公表が必要です（個人情報保護法２１条1項）。
イ 要配慮個人情報
要配慮個人情報は、本人が公開しているなど個人情報保護法２０条２項各号の例外をのぞき、本人同意がないと取得できません。
どういった配慮が求められるかは上記サイトに記載されています（収集する情報に要配慮個人情報が含まれないよう必要な取組を行うなど。）。
（２）利用段階
サービスに入力した個人データが「当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合」は、個人情報保護法違反のおそれがあるとされており、機械学習に利用したり、不正目的監視機能があったりする場合は違反のおそれが高いという見解が多数派の印象です。
開発側としては、そうした機能をつけるか、オン・オフできるようにするか、サービス利用にあたっての規約やガイドに付記するかといったことの検討が必要となります。
解説サイト
３ 著作権法について
著作権法は、開発と生成・利用で分けたうえで、生成・利用を入力・生成・送信で分けて考えます。
個別の事案では、具体の生成プロセス・利用プロセスに即して考える必要がありますが、大枠としては以下で考えます。
（１）開発段階
ア 著作物か
学習用データに活用するデータが著作物にあたるかをまず検討します。
イ 著作権法３０条の４に該当するか
そのうえで、学習用データに利用する＝複製することが、権利制限規定（著作権法３０条の４）により問題なしとされるかを検討します。
ここでは、享受目的がある（非享受目的が併存してる場合も含む）かどうかが問題となります。
以下の場合は、享受目的が併存しうると考えられています（文化庁 AI と著作権に関する考え方について（２０〜２２頁）。
①i2iのように、既存の学習済みモデルに対する追加的な学習のうち、意図的に、学習データに含まれる著作物の創作的表現の全部又は一部を出力させることを目的とした追加的な学習を行う場合
②検索拡張生成（RAG)など、既存のデータベースやインターネット上に掲載されたデータに含まれる著作物の創作的表現の全部又は一部を、生成AIを用いて出力させることを目的として、これに用いるため著作物の内容をベクトルに変換したデータベースを作成する場合
ウ AI利用禁止文言がある場合に、契約違反になるか
まず、利用規約など契約で、著作権法３０条の４の権利制限規定を上書きできるかという問題がありますが、この点は肯定説が多いと考えます。
その次に、利用規約があるだけで、同意をしていなくとも、AI学習が禁止されるか、については、契約成立とはいえないという説が多いと考えます。
なお、同意ボタンをクリックしないと先の情報が見えない場合についても、ケースバイケースとする見解も有力のようです。
詳細は以下サイトが参考になります。
エ その他
３０条の４但書に関して、情報解析用DBにおけるrobots.txtが入っている場合の問題※などもありますが、細部にわたる話となるため、以下を参照ください。
※文化庁 AI と著作権に関する考え方について（２４〜２７頁）は、個々の記事をクローリングした結果、記事の提供主体が別途提供、または将来提供予定の情報解析用DB著作物の複製に該当する場合、当該情報解析用DBについての著作権侵害になりうるということに触れています。
（２）生成・利用段階
生成利用段階は、著作物の入力・生成・送信・利用で分けて考える柿沼先生の考え方がしっくりきました。
ア 著作物か
生成されるものが、著作物にあたるかをまず検討します。
イ 依拠性について
以下の柿沼先生の整理がわかりやすいです。
詳細は、以下に譲るとして、
開発段階では、依拠性について、以下を検討することになります。
①学習用データセットに既存著作物が含まれないようにするかの検討
②学習用データセットに既存著作物が含むとしても、当該生成 AI について、開発・学習段階において学習に用いられた著作物の創作的表現が、生成・利用段階において生成されることはないといえるような状態が技術的に担保されているといえるようにするか※の検討
※学習に用いられた著作物と創作的表現が共通した生成物が出力されないよう出力段階においてフィルタリングを行う措置が取られている場合や、
当該生成 AI の全体の仕組み等に基づき、学習に用いられた著作物の創作的表現が生成・利用段階において生成されないことが合理的に説明可能な場合など）が想定されています（文化庁 AI と著作権に関する考え方について ３４頁）
ウ 行為主体について
誰の行為が問題となるかを考えるにあたり、行為主体を検討する必要があります。
著作物の入力・生成・送信・利用の行為主体については、
一般に、
「入力」は利用者
「送信」は開発者・提供者
「利用」はAI利用者
と考えられ、
「生成」については、開発者・提供者が行う「学習」と利用者が行う「入力」の2つの行為が競合しているため、だれが重要な役割を果たしているかによるものと考えられます。
詳細は、以下などが参考になります。
最判平成 23 年１月 20 日民集 65巻１号 399 頁〔ロクラクⅡ事件〕
エ 権利制限規定について
そのうえで、以下の権利制限規定が適用されるかを、それぞれ検討することになります。
①AI開発者が主体になる場合
情報解析の結果提供に付随した軽微利用（47条の5第１項）、
学校その他の教育機関における複製等（法35条）、
検討過程における利用（法30条の3）
②利用者が主体になる場合
学校その他の教育機関における複製等（法35条）、
検討過程における利用（法30条の3）
③私的な利用の場合（会社のために利用する場合は適用されません）
私的使用目的の複製（法30条1項）
オ その他
①差し止めの対象となるか、②なるとして、差し止めとして、どういった措置がありうるか※、③故意で著作権侵害をした場合には刑事罰リスクもあることなどの問題（開発側としては、大きなリスクとなりえます）などもあります。詳細は以下などが参考になります。
※著作権侵害の対象となった当該著作物が、将来においてAI学習に用いられることに伴って、複製等の侵害行為が新たに生じる蓋然性が高いといえる場合は、当該 AI 学習に用いられる学習用データセットからの当該著作物の除去請求が認められ得ると考えられています。
また、通常、学習済モデルは、学習データである著作物と類似しないものを生成することができると考えられることから、「専ら侵害の行為に供された機械若しくは器具」にも該当せず、学習済モデルについての廃棄請求は、通常、認められないものと考えられています。
他方で、当該学習済モデルが、学習データである著作物と類似性のある生成物を高確率で生成する状態にある等の場合は、当該学習済モデルの廃棄請求が認められる場合もあり得ると考えられています（文化庁 AI と著作権に関する考え方について ３０頁）
（３）解説
その他、以下などが参考になります。
令和5年度 著作権セミナーAIと著作権（令和5年６月文化庁著作権課）
深掘りしたい方向けには、以下も参考になります。
①AI 時代の知的財産権検討会 中間とりまとめ
②AI と著作権に関する考え方について
③「AIと著作権に関する考え方について（素案）」に関するパブリックコメントの結果について
４ 当該サービスのステークホルダーを踏まえて、どのように設計するか
違法ではないと判断できたとして、
①生成AIサービスについては、現状、さまざまな考えがあること、
②まだ制度が未整備のゾーンも多いこと
を踏まえ、どこまで手当をするかについては、炎上リスクや、求められるコンプライアンス水準など、サービスのステークホルダーである利用者（消費者や取引先）、広告主、第三者などの意向も踏まえる必要があると考えます。
双子の育児に使わせていただきます！