今から画像生成AIに興味を持った人のためのQ&A －どんなリスクがあるの？著作権は生じるの？－
※見出し画像はuntitled_replicantで生成
2023/5/3 一般社団日本ディープラーニング様より生成AIのガイドラインが公開されました！
企業・組織向けと銘打っていますが個人利用にも参考になる内容のため、是非ご一読ください！ 簡易解説付きがわかりやすいです。
また、柿沼太一弁護士が「生成AIの利用ガイドライン作成のための手引き」を公開されています。言語モデル含むAI利用に関する諸問題と現行の法について大変よくまとめられています。ブクマ推奨！
AIの利用にあたっては、紹介したガイドラインのような、専門家や業界団体が作成した信頼性の高い資料を参照してください。
当記事は2023/3/8に書かれたものであり、現在の状況や実態にそぐわない点がございます。
情報提供を目的として作成されていること、主張についてはあくまで個人の意見であることお含みおきください。
現在、画像生成AIについては「画像生成AIってコラージュなの？」「著作権ってどうなるの？」「NAIリークモデルってなに？」と情報が錯綜している状態です。
「画像生成AIには興味があるけれど、疑問が多すぎてわからない、不安だ」と思われている方も少なからずいらっしゃると思います。
そこで画像生成AIのよくある疑問点や使うにあたっての注意点を、私なりにまとめました。
個人の解釈になります。また、専門家ではありません。大ウソにはならないよう気を払いましたが、事実とは異なる可能性があります。
くれぐれも鵜吞みにしないよう自己責任でお願いします。
詳しく知りたい方は、首相官邸ホームページで「AI創作物」と検索してください。資料等が閲覧できます。
AIの著作権問題については柿沼太一弁護士の記事がオススメです。
（とても参考になりました、ありがとうございました！）
2023/3/11 内容を一部修正・追記しました。変更履歴は記事の下部にまとめています。
画像生成AIとはコラージュツールなのですか？
A．原理などを踏まえると、コラージュとは異なります。
「画像生成AIは誰かのイラストを使っているコラージュツールだ」という意見をネット上で見かけました。
たしかに、画像生成AIで用いられる生成モデルには学習元となるイラストが必要です。ですが、生成モデルというものはデータセットから機械学習した重みのパラメータであり学習元イラストそのものではありません。
……この説明よくわかんないよね。
画像生成AIが絵を出力する流れを、比喩こみこみでお話しますと、
AIちゃんに「これがスープだよ。これがオムライスだよ」とたくさんの料理を教えてあげます。
AIちゃんはその時の情報をもとに自分なりのレシピブック（生成モデル）を作ります。
レシピブックをもったAIちゃんに「かぼちゃスープ作って！」と指示（プロンプト）を出すと素材（ノイズ画像）からかぼちゃスープを作ってくれます。
……詳しい人には無言でビンタされかねない説明ですが、慣れていない人に私の感覚を伝えるためですのでご了承ください。
AIちゃんはレシピブックを作っているだけなので、もともとの料理は持ってません。ノイズの画像から「こういう料理かな？」と予想しながら作っています。
実際、生成モデルのckpt・safetensorsファイルから直接的には画像を取り出すことはできないわけで、そういう点でもコラージュとは異なると思っています。
AIちゃんにあの人の料理マネしてよ！って指示を出したり、わざと悪いレシピブックを渡すのは、よくないよね！ というのが私の見解です。
学習元イラストがそのまま生成されたという話を聞きましたが…
前項において生成モデルはレシピブックと表現しましたが、画像生成AIから学習元イラストがほぼそのまま出力できた例が確認されています。
なぜレシピブックを使っているはずなのに、学習元イラストと同じ絵が出てきたのでしょうか？
その前に、データセットのお話をさせてください。
AIちゃんのレシピブックは、教えた料理が多ければ多いほど豊かになり、たくさん料理を作れるようになります。レパートリーが増えれば、自分流にどんどんアレンジするようになっていきます。
つまり学習データ数が多ければ多いほど、レシピにない料理を作るようになっていくのです。
その逆……覚えさせた料理の数が少なかったり、同じレシピを何度も教え続けると、どうなるのでしょうか。そうなるとAIは、指示を受けて思い出すのが特定の料理ばかりになります。これを過学習*といいます。
過学習が起きているモデルの場合、素材を与えても思い出せる料理が少ないので「たぶんあの料理だ！」と思い込んでしまい、アレンジもせずまんま調理してしまいます。こうして、学習元イラストとほぼ同じ画像が出てきてしまうわけです。
十分な量のデータセットを用いた生成モデルであれば、以下の条件が揃うと、学習元イラストと類似するイラストが出てくる可能性があります。
学習元イラストの特徴を抑えたプロンプトを用いている
ノイズ画像からAIが見出した構図や色などが学習元イラストと一致する
また、上記を満たしていても、学習内容によっては生成結果は学習元イラストと異なるものになります。
画像生成AIを触ってみると、Seed値（ノイズ画像）によって絵の構図が大きく様変わりすることがわかります。きちんとした生成モデルで、恣意的に学習元イラストと似せようとしなければ、学習元イラストと同一のイラストが出る可能性は低いといえます。（100％ないとは言い切れませんのでご注意を！）
ユーザー側でできる対策としては、過学習が起きていそうなモデルに注意を払うことです。特定のイラストレーターから無許諾で作成したモデルなどには相応の大きなリスクがあると考えましょう。
* 言葉の意味の説明としては間違ってますが、記事のわかりやすさを優先しました。ご了承ください。
それでも万が一、きちんとした生成モデルを使ったにもかかわらず学習元イラストとそっくりなものが出てきてしまって、気づかずに公開してしまったら……どうしましょう？
こちらの問題についてはこの記事が参考になります。
著作権侵害の裁判では主に「類似性」「依拠性」「過失・故意の有無」が争点になります。
柿沼弁護士の記事によれば、過失・故意がないと認められるとき、仮に依拠性が認められ著作権侵害の要件を満たしていても、差止請求（掲載の取りやめ）で収まる可能性があるとのことです。
自衛のためにも、十分な量のデータセットを用いた生成モデルを選び、きちんと生成時の記録をとっておき、過失・故意がなかったと説明できるようにしましょう。
ユーザー側の過失と認められる事実を減らすためにも、生成モデルのチェックは必要なことと言えます。
無断学習に法的問題は本当にないのでしょうか?
無断転載・無断利用と無断学習。字面は似ていますが、法的にはまったく違うレイヤーの話になります。
※無断学習という略称は無断転載と混合される恐れがあるため、以降当記事では「許諾なし学習」と呼称します。
なお、これらは日本での話です。海外では著作権の要件も異なるうえ、ほとんどの国が機械学習について定まっていないのが現状です。
海外のニュースを閲覧する際は、著作権と題していても、事情がまったく異なる点に注意してください。
許諾なし学習は、日本国内において「著作権法第30条の4」「著作権法４７条の７」で認められています。著作物の扱いに関わるのは第30条の4なのでこちらを取り上げますね。
（著作物に表現された思想又は感情の享受を目的としない利用）
第三十条の四
著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。
（中略）
二 情報解析（多数の著作物その他の大量の情報から、当該情報を構成する言語、音、影像その他の要素に係る情報を抽出し、比較、分類その他の解析を行うことをいう。第四十七条の五第一項第二号において同じ。）の用に供する場合
さて、この「著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合」とはなんでしょうか？
著作権法改正の法律案が議題にあがったときの、文部科学委員会の会議録を読んでみましょう。
ある行為がこの３０条の４に規定をいたします著作物に表現された思想又は感情の享受に当たるか否かは、著作物等の視聴等を通じまして、視聴者等の知的又は精神的欲求を満たすという効用を得ることに向けられた行為であるか否かという観点から判断されるものでございます。
（中略）
著作権法の目的は、通常の著作物の利用市場であるところの人間が享受するための市場における対価回収機会を確保することにあると考えられますことから、今般の第三十条の四における享受は、人が主体となることを念頭に置いて規定をしております。すなわち、人工知能、ＡＩが学習するために著作物を読むなどすることは、本条に言う著作物に表現された思想又は感情を享受することには当たらないものとの前提で規定を設けているところでございます。
要は、当該著作物によって人間が満足することを「享受」とする。その対価を著作者が回収できるようにすることが著作権法の目的であり、許諾なし学習はあくまで機械が読むだけなので該当しない、ということですね。
さて、「画像生成AIとはコラージュツールなのですか？」の項目に書いたように、画像生成ＡＩはパラメータをもとに新しい画像を作成します。
そして、第30条の4から許諾なし学習は認められていること、画像生成ＡＩの原理から当該著作物を提供する意図はないことを踏まえると、
画像生成AIのための生成モデルを作成する行為
画像生成AIで画像を生成する行為そのもの
これらは無断転載（複製権の侵害）にはあたらないと考えられます。問題となるのは生成物の扱いです。
「学習元イラストがそのまま生成されたという話を聞きましたが…」の項目にてお話しした通り、学習元イラストと偶然類似するイラストを生成し公開したとき、模倣したとして著作権侵害となる恐れがあります。
（ちなみに、生成しただけで公開しなかったら私的複製の範囲になると考えられます。自宅でトレースしたという扱いです）
同様に、たとえ画像生成AIで学習元のデータセットに入っていないイラストを模倣し「この絵は偶然出たものです」と主張しても、ユーザーが当該イラストの掲載先にアクセス可能だったなど「依拠性があった」と認められればデータセットに入ってなかろうと著作権侵害は認められます。
「画像生成AIだから許される」「著作権ロンダリングできる」なんてことはまったくありません！
また、特定のイラストレーターの著作物でのみ学習するなど学習方法に問題がある生成モデルによって、著作者が利益を損なう事態が発生したとき、侵害を幇助したとしてモデル生成者も責に問われる可能性があります。（民法719条第2項 共同不法行為など）
生成モデルを悪用するものが現れないと断言できない以上、学習させる側にも相応のモラルが求められます。
悪用ダメ、絶対！
3/11追記：
ところで、この著作権法第30条の4は、海外から日本のサーバーにあるデータを機械学習したときにも適用されるのでしょうか？
日本では国内法において「属地主義」を採用しています。自国領域内にて行われた事柄には自国の法律が適応されるという考え方ですね。
（アメリカやフィリピンなどは属人主義を採用し、国籍を持つ者に対して国内法を適応しています）
著作権は、特許権や営業秘密権を含む「知的財産権」の一種です。
知的財産権においても属地主義は適応されるため、あくまで日本国内にて機械学習を行ったときのみ著作権法第30条の4の対象となります。
また、属地主義の原則とは、特許権についていえば、各国の特許権が、その成立、移転、効力等につき当該国の法律によって定められ、特許権の効力が当該国の領域内においてのみ認められることを意味するものである。
日本国籍を持っていても、日本のサーバーを対象としていても、行為者が海外にいた場合は適用されません。
また、著作権侵害については、日本向けに漫画の海賊版サイトを展開した結果、海外にいながらも国内法が適用され有罪となったケースがあります。かの悪名高い漫画村事件ですね。
「国際法学会」ホームページに寄せられていたエキスパートコメントを引用します。
インターネットを介した国際的な著作権侵害（仮想例）の「不法行為があった地」とは、どのような地をいうのでしょうか。その検討に入る前に、確認を要することが一点あります。国際裁判管轄の有無を巡る議論において、著作権を含む知的財産分野の「属地主義の原則」をどう捉えるかという問題です。（中略）
詳細は割愛しますが、現在有力なのは、国際裁判管轄の議論において、この原則をそこまで厳密に捉える必要はないとする見解です。これによると、加害行為地・結果発生地のいずれもが、日本の裁判所に管轄権を認めるための原因となり得ます。
インターネットを用いた国際的な権利侵害においては、属地主義の解釈も柔軟に変わるようです。
生成したイラストの著作権はどうなるのでしょうか？
日本の司法の判例は出ていません。
創作意図・創作的寄与・創作的表現があると認められれば著作物とみなされると思われます。
将来的には、画像生成ＡＩの生成で発生するのは、著作権ではなく新しい形の権利かもしれません。
現在、アメリカの行政が画像生成AIの生成物に著作権がないと判断した……などなど様々なニュースが流れてきます。しかしSNS上で見受けられるニュースの発信は、ＡＩ推進派、ＡＩ否定派、どちらにもかかわらず発信者の意見によって記事の内容の一部が誇張されがちであるように思われます。
はっきり言って、画像生成ＡＩを利用したＡＩ創作物の著作権がどのように扱われるのかはまだ未知数です。既存の著作物と様態が異なるのならば、デジタル著作権など新しい権利を作るべきだという声もあります。
日本と海外では著作権の要件が異なるという点も重々注意しましょう。
さて、日本の現行の著作権法では、「ＡＩからそのまま生成されたもの」には著作権は発生しません。
しかし、コンピュータ創作物（AI創作物）の著作物性について文化庁の「著作権審議会報告書」に興味深い記述があります。
1 コンピュータ創作物の著作物性について
(3)人がコンピュータ・システムを道具として用いて著作物を創作したものと認められるためには、
1)まず、思想感情をコンピュータ・システムを使用してある結果物として表現しようとする創作意図が必要である。当初の段階では「コンピュータを使用して自らの個性の表れとみられる何らかの表現を有する結果物を作る」という程度の意図があれば足りるものと考えられる。（中略）
2)次に、創作過程において、人が具体的な結果物を得るための創作的寄与と認めるに足る行為を行ったことが必要である。（中略）
3)さらに、結果物が客観的に思想感情の創作的表現と評価されるに足る外形を備えていることが必要であるが、この点の判断については、コンピュータ創作物であっても、コンピュータを使用しない通常の創作物であっても変わるものではないと考えられる。
コンピュータから生成されたものであっても、創作意図・創作的寄与・創作的表現の上記３点が揃っていれば著作物と認められうるという見解が示されているのですね。
創作的寄与とは、おおざっぱに言うと、創作・自己表現するために人が手を加えることです。イメージを生成するために長いプロンプトを考えたり、加筆したり画像生成AIが出力した絵を下書きにして描いたり、そういった行為は創作的寄与とみなされうるでしょう。（客観的に見て創造があったとみなせるかどうかが重要です）
芸術作品を創り出すことはどんな形であれ、れっきとした創作活動にあたります。
この理屈が通らないと、アクションペインティングの名手ジャクソン・ポロックの「インディアンレッドの地の壁画」の芸術性がなかったことになってしまう。アンディ・ウォーホルのスープ缶の絵並べただけの展示会なんてただの商品説明会です。
しかし、だからといって大量生成した絵のすべてが著作物とみなされるのでしょうか？
AI創作物においてどのくらい人間が関与したら創作的寄与が認められるか、そもそも既存の著作権の範囲となるのかは、まだわかりません。私が言った「日本の司法の判例は出ていない」とはこの部分を指すのですね。
しかし、将来的には、限定された範囲においては、人の創作的寄与を伴わずに作成される結果物で外形上著作物と評価されるに足る表現を備えているものが生じ得るところであり、そのような場合における創作物の保護のための著作権法改正の必要性等については、技術の開発やその応用の動向等についての注視を怠ることなく検討を行う必要がある。
画像生成AIで創作意図もなく大量生成される絵は、まさにこの「人の創作的寄与を伴わずに作成される結果物で外形上著作物と評価されるに足る表現を備えているもの」でしょう。
創作として認められうる「AI創作物」をどのように保護するか、「権利があるように見えるモノ」とどう向かい合うかは、今、進んでいる話なのです。
AI創作物の著作権問題は非常に難しい話であり、司法の判断を待つしかなく、それには時間がかかります。デジタル著作権の話も然り。
たとえば「画像生成AIを使ってるのは人間だよね。じゃあ著作権あるね」と軽く判断してしまうと、以下のような問題などが発生しかねません。
悪い人がマネーロンダリングのため大量生成した絵を取引する
悪い人が「この絵、俺の絵に似てる！」と大量生成した絵で権利主張を始める
だからといって「加筆してください」と雑に決めてしまうと、またまた悪い人が少しだけ加筆して「これならOKだろ！」と言い出しかねないわけで……。
しかし逆に、「画像生成AIを使用したものにはぜーんぶ著作権はない！」としてしまえば、今度はAIの絵を下書きにしただけのものまで著作権がなくなってしまいます。
じゃあ画像生成AIを使わなければいいじゃんとかそういう話に収まらず、controlNETという新技術が開発された以上、構図だけAIに任せる人間、色塗だけAIに任せる人間は出てくるわけで、しかし権利を得るためにAIの使用を秘匿するので関与の具合がわからなくなります。
企業で活用するために、人間ではなく権利問題のないAI創作物のみ使うことも増えるでしょう。
最悪の場合、画像生成AIの生成物を人間の絵として偽ることが常態化します。いま、問題視されていることが権利を得るための当たり前になるということです。
AI創作物の使用を禁止しても「権利の主体がない著作物」が増えるだけで同じ事が起こりうるでしょう。
規制しようとした結果、逆効果になるとは……。
パンドラの箱はもう開いている以上、AI創作物の権利もある程度は認めなければ、人間の著作物はかえって締めつけられます。しかし、製作スピードが違うものに同等の権利を与えることにも疑問が残ります。
人間の創作物をAI創作物に埋もれさせてしまっていいのでしょうか？
創作的寄与をどうやって認めるかも問題です。
だからこそ、どうあがいても、検討のための時間が必要なのです。我々はAIではなく人間である以上、今すぐ問題を解決することはできません。
暫定的な対処として、個人が著作権を意識して画像生成AIを扱うなら、
創作物として発表する際はどのくらい人間の手が加わってるか説明できるようにしておくこと。
もしかしたら創作的寄与が認められず、著作権が生じないかもしれないという点は頭に入れておくこと。また、新しい著作権が発生し、一般的な著作権とは異なる内容になるかもしれないという点にも気を付ける。
生成したものを大量に公開しない。私の考えですが、大量生成は「創作を意図せず生成を目的としている」と創作的寄与を認めない根拠となりえます。
ニュースには気を付けること。日本と海外では著作権法の内容が異なることに注意する。
上記４点を抑えておくことが大切なんじゃないかなって思います。
NAIリークモデルはヤバいって聞くけど、あれ何なの？
2023/3/11 NovelAIからは不正アクセスがあったという発表のみされているということで訂正しました。また、主観的になっていたため表現の修正をしております。不正確な情報をお伝えしてしまい、大変申し訳ございませんでした……。
これまで述べてきた画像生成AIの問題と、NAIリークモデル問題は根本からまったく別です！
NAIリークモデルとは、Anlatan社が運営している画像生成サービス「NovelAI」が不正アクセスを受けた結果、流出したデータではないかという疑いがある生成モデル、およびそれをベース元にしたモデルの総称です。
NovelAIから不正アクセスによってリークされた疑いがあるモデル、略してNAIリークモデルになります。
NAIリークモデルの問題点の一つが、Anlatan社の利益を損なうために（図利加害目的）公開された疑いがあるという点です。
当該生成モデルの秘密管理性*1 が認められた場合、不正競争防止法の営業秘密侵害となります。
Anlatan社がどのように動くか、司法の判断がどのようになるかまではわかりかねますが、法的な瑕疵があると思われる生成モデルは使わないことを推奨します。*2
しかし、流出モデルをベースにしたNAIリーク派生モデルが数多く作られており、知識がなければNAIリークモデルを回避することができないため、知らず知らずのうちに使用するユーザーが増えてしまい問題を複雑化させています。
不幸中の幸いとして、流出モデルはStableDiffusion ver2.0には対応していないため、SDV2以降の生成モデルはNAIリークモデルは使われていないと考えられます。が、万全の注意を払いましょう。
とりあえず、以下のモデルはNAIリークモデル未使用の可能性が高いです。
mitsua-diffusion-one (パブリックドメイン/ CC0または使用許可のある著作権画像のみで学習されたモデル)
私調べなので自己責任でお願いします。あと商用利用禁止など利用規約があるのでReedmeは読みましょうね。
*1 Anlatan社のセキュリティに問題があったという指摘はありますが、パスワードを掛けていた以上、情報にアクセスした人間が秘密にしているとわかる状態であったといえます（認識可能性）。
大阪地裁にて厳密なセキュリティではなかったものの秘密管理情報と認められた事例があるようですし、主張が通る可能性はあると思います。
*2 不正競争防止法については、経済産業省の不正競争防止法ページに掲載されている「不正競争防止法テキスト」I-5④にまとめられています。
不正競争防止法では、第三者が取得し、営業秘密を不正使用したものと知ったうえで、あるいは後から知ったうえで、使用したときも罪に問われます。（不正競争防止法 第21条1項8号・9号）
第三者によるNAIリークモデルの使用が第21条1項8号・9号にあてはまるかどうかですが……。
あくまで私の考えになりますが、「絵という利益を出しうるものを生成できる以上、営業秘密を使用している。営業秘密を使用して、生成した絵を使用した」という厳しい判断になる可能性は否定できないと思います。
「画像生成AIの原理からして、生成された絵そのものに営業秘密との関連性はなく、不正にはあたらない」という解釈がされた場合、今後の影響が計り知れませんからね……。
機械学習データの不正流出やAI活用企業の萎縮を引き起こしかねません。
それらの可能性と、全体的なAnlatan社への損害の程度を鑑みて、司法がどのような判断をするかになります。
個人の感想としては、法的なリスクだけに留まらず、もはや社会を混乱させるリスクまであるので、使わないことを強く推奨します。
画像生成ＡＩ使用時に気を付けること
上記を踏まえつつ、画像生成AIの利用にあたって大事なポイントをピックアップしました。このポイントというのはあくまで私の考えのうえのものであり、ほかにも注意点などはあると思います。
鵜呑みにせず、ご自身でちゃんと調べたうえでご利用ください。
※当たり前だけど、悪用しないこと・ディープフェイクを作らないこと・迷惑をかけないこと！
怪しい生成モデルは使わない
SDv2以降の生成モデルのみ利用しましょう。StableDiffusion ver2.0が登場したのは2022年11月です。（混じっているので注意してください）
モデルカードをしっかり読み、NAIリークモデルをベース元にした疑いがある生成モデルは避けましょう。
2次元イラストに特化しているものに気を付けてください。ベース元にAnytingの記載がある生成モデルはまずNAIリークモデルと考えていいでしょう。
作例の幅の広さや学習枚数などもチェックしてください。
特定のイラストレーター等の著作物から生成したモデルは、許諾があるかどうかも確認しましょう。
他人の描いた絵をimg2imgしない
画像生成AIには「img2img機能」という画像から新たに画像を作る機能があります。この機能を悪用し、他人が描いた絵をimg2imgして構図をそのままに自作とする事例が確認されています。
他人のイラストをトレースして自作と偽る行為は、画像生成AIを介していようと決して許されません。絶対にやらないように！
著作権侵害における「類似性」は「みずみずしいスイカ写真事件」にてわかるように、まったく同じか否かではなく総合的に判断されます。どんなに細部が変わろうが、れっきとした著作権侵害です。
ましてや明確な「依拠性」「類似性」に「過失・故意がある」となればその罪状は極めて重くなります。
プロンプトの内容には気を付ける
プロンプトに著作権の切れていないイラストレーター等の名前は入れないことを推奨します。万が一何かあったとき、過失・故意はなかったと証明するためです。
既存の著作物を真似るようなプロンプトにも注意しましょう。
○○風やパロディーに留まるレベルなら問題ないと思いますが、知っているイラストに寄せるのは学習元イラストが出てくるリスクもあるのでやめましょう。
また、wife-diffusionやwife-diffusionをベース元にしたモデルの場合、ネガティブプロンプトにdeletedと入れるといいようです。
生成モデルが出始めたころ、danbooruという無断転載サイトから許諾なし学習をしていたことがわかり問題となりました。（無断転載画像への学習でも学習自体は当該著作物の利益を不当に損なう意図はないため法の範囲内ではあります）
このdeletedはdanbooruから削除するよう求めた学習元イラストの影響を取り除くためのタグです。
生成したものを大量に公開しない
大量生成はＮＧ。もちろん、あなたのパソコン内でプロンプトを練るために試行錯誤するのは問題ありませんが、やたらと公開するのはやめましょう。
Webサービスの運営者やユーザーに迷惑がかかるのはもちろんですが……
あなたが思っているより遥かに、大量生成にはリスクがあります。
大量生成は「創作を意図せず生成を目的としている」と創作的寄与を認めない根拠になりうるでしょう。
また、先ほど語ったように著作権侵害における「類似性」はまったく同じか否かではなく総合的に判断されます。
学習方法に問題のある生成モデルで著作権侵害が繰り返された場合、たとえ故意がなくとも差止請求のみに留まらず損害賠償にまで至るケースも考えられます。
人間と比べない
これは「迷惑をかけない」の範囲でもあるのですが……画像生成AIの力を自分の力と思い込み、AIのほうが（AIを使う自分のほうが）これまでのクリエイターより優れてると勘違いする方がいらっしゃいます。
でもそれはd○epl翻訳を使える俺のほうが翻訳者よりすごい、翻訳者はいらないと言ってるようなものです。
所詮AIは道具、これまでのクリエイターを代替できるものではありません。
権利面でも、AI創作物がこれまでの著作物と同等の権利を与えられず予想だにしない損害がでるかもしれません。
くれぐれもAIを過信しないよう。AIが創り出す価値と、あなたが創り出す価値を足し算するようにしてください。
守ったほうがいいこと
・どのくらい人の手が加わってるか説明できるようにしておく
長文のプロンプトによる生成、Inpaint、加筆などをしたとき、創作的寄与が認められる可能性があるため、ちゃんと記録と証拠となるものをとっておきましょう。
Stable Diffusion web UI（AUTOMATIC1111) では生成した画像のpng情報に生成したときの情報が残るため、元画像をとっておくことも大切です。
・生成モデルのReadmeは読む
商用利用不可などそれぞれ利用規約があります。モデルごとに違うので注意しましょう。
・webサービスのルールを守る
webサービスについては画像生成AIに対してまだ規定がないところもあるので、定められてからルールに沿って使いましょう。
様々なwebサービスが画像生成AIという新しい技術に必死に対応している状況です。迷惑かけないように使おうね。
以上、私からの気を付けるポイントでした。
有識者の方へ。
この「画像生成ＡＩ使用時に気を付けること」に書かれている内容や文章は、文中に表現された思想・信条を損なわなければ（意味を正反対にするなどしなければ）ガイドラインの叩き台にする等ご自由にお使いください。
見落とした点などもあるとは思いますので補完していただけますと幸いです。
人によっては「ここはいらないかな」というのもあると思います。けっこう言い方も強いし……画像生成AIを始める方に正しい認識を持ってもらうという意図を守っていただければ再編されて構いません。
誰かやってくれ。ほんとたのむ。
さいごに
この記事は最初に書いたとおり、画像生成AIへの恐怖を払拭するために執筆しました。これはＡＩへの誤った理解を解くだけでなく、今から画像生成ＡＩを始める人が「ＡＩなら何をしても許される」と誤った認識を持ってしまうことを防ぐためでもあります。
昨今、画像生成ＡＩへの関心は過剰な高まりを見せています。その結果、実態にそぐわない誤った認識が広まっているため、少しでも正しく理解されるように当記事を執筆しました。
画像生成ＡＩはノーリスクではないし、存在自体がアンモラルというわけでもありません。
たとえあなたにとって都合のいい情報の切り抜きだったとしても、間違った知識を恣意的に広めようとする人に加担しないでください。
といっても、機械学習や法律の話が絡んでいるため、私のこの記事も見当違いなことを書いてしまっているかもしれません……。
だいたいあってるレベルにはなっていると思いますが、何卒。ご自身で調べたうえでご検討ください。
こうして調べてみると、日本行政がAI創作物について思っていたよりずっと考えていてびっくりしました。知的財産戦略本部がAI創作物について平成28年に議論しています。
（PDFのみだったのでリンクは張りませんが、使用していた討議用資料が首相官邸ホームページに載っています。はじめにも書きましたが「AI創作物」と検索すると出てきますので、もしよろしければご参照ください）
日本の行政は、ＡＩ時代においてどうやって著作者を守るか、どうやってＡＩ創作物と付き合っていくか、しっかり考えてくれています。
だから、まっとうにＡＩを使う人は、ＡＩを使ったと言ってもいいんです。信じましょう。
「それでも画像生成AIを無条件に受け入れて、本当にいいのかな……」と思った方へ。
AI創作物に対する権利の形をどうするかはいま検討されています。意見を行政に届けることができますので、AI創作物の権利の形をどのようにしてほしいのか、これまでのクリエイターの作品をどのように守ってほしいのか、できる限り具体的に丁寧に伝えてあげてください。
私も、画像生成AIの制作スピードはやはり速すぎるし、アートとしては認めているけれど……すべてに同等の権利まで認めるのは正直どうかな、と思っています。
AIのすべてを肯定しなくてもいいんです。あなたなりに向き合ってください。
最後に見出し画像のプロンプトを載せて終わりにします。
ここまで読んでいただき、本当にありがとうございました！
underwater museum with glass,a girl with glass hair and a dress smiling in front of it,all colors are blue and transparent,{{{{{{oil painting}}}}}}
Negative prompt: nfixer, nrealfixer, owres, ((bad anatomy)), ((bad hands)), text, missing finger, extra digits, fewer digits, blurry, ((mutated hands and fingers)), (poorly drawn face), ((mutation)), ((deformed face)), (ugly), ((bad proportions)), ((extra limbs)), extra face, (double head), (extra head), ((extra feet)), monster, logo, cropped, worst quality, jpeg, humpbacked, long body, long neck, ((jpeg artifacts)), deleted, old, oldest, ((censored)), ((bad aesthetic)), (mosaic censoring, bar censor, blur censor)
Steps: 12, Sampler: Euler a, CFG scale: 7, Seed: 1150413810, Size: 1024x1024, Model hash: 04be389469, Model: untitled_replicant
2023/3/11
・「NAIリークモデルはヤバいって聞くけど、あれ何なの？」の内容を修正しました。
雑語りにも程がありました……大変申し訳ございませんでした……。
概ねの内容は同じです。不正競争防止法について追加しています。
なお、当記事は初心者向けのものであることを踏まえ、引き続きリスクについては強めに言わせていただいておりますことご了承ください。
・「無断学習に法的問題は本当にないのでしょうか?」に海外から機械学習したときはどうなるのかを追記しました。属地主義について軽く調べるつもりだったのに丸１日かかったよ……
2023/3/15
・「無断学習に法的問題は本当にないのでしょうか?」の一文、
侵害を幇助したとしてモデル生成者も責に問われる可能性があります。
に（民法719条第2項 共同不法行為など）というかっこ書きをつけました。
著作権法第30条の4の但し書きはこういった行為にも当てはまるという解釈が多いのですが、たぶん機械学習のことだけを指すっぽい？ ので素人考えで当てはまりそうなものを書き足しました。
・「画像生成ＡＩ使用時に気を付けること」にディープフェイクを作らないこと！と一言足しました。悪用しないの範疇ではありますが念のため明記！
この記事が気に入ったらサポートをしてみませんか？