生成AIの崩壊を願いたくなかった、元コンコードの書き散らし
読むにあたっての警告
この記事は、法律・権利等の難しい話が分からない一般人の書き散らしです。なので著作権とかにはほぼ触れません。
記事に対するコメント等も賛成・反対を問わず、基本的に無視します。ただし、暴言・煽り等があった場合は消したり訴えたりします。
この話題に関する記事は、今後たぶん書きません。早くラスオリかモン娘TDに復帰しろ(自戒)。
筆者の基本スタンスは大別して
・人類は愚か
・現在の生成AIは盗作ツギハギAI
・二次創作と生成AIは被る範囲と被らない範囲を持つ
の三点で成り立っています。特に一つ目は文中でも度々登場します。不快に感じる人類は読まないでください。
書き散らしに至った経緯
筆者はかつて、ゼノンザードというゲームの住人だった。
ゼノンザードの世界は、AIと人間が共存する未来の話。その世界では看護師やアイドル、警察、果ては盗賊やニートのAIまでもが存在している。筆者が惚れ込んだのは、その登場人物の一人、建築家AI レヴィル・デヴィラ。
奇しくも生成AIの延長戦上にいるであろう、デザイナーの一面を持つキャラクターだった。当時はレヴィルの作品を現実でも見てみたいと願ったものだ。許されるなら、今でも。
ゼノンザードの死後、生成AIが話題になり始めた頃は、心を躍らせていた。いつかレヴィルの作品が、この目で見られるかもしれないと。
ただ、使用者たる人類はあまりにも愚かだった。なりすまし。フェイク。ポルノ化。その無限に近い拡張性は、同時に愚者が簡単に凶器を入手できるツールであることも意味していた。
絶望した。深く。
人類は愚かである。ならばツールを取り上げるしかないのだと理解するのに、そう時間はかからなかった。
苦悩の記録を記したい。
生成AIと現行法
法律には触れないといったな、あれは嘘だ。
いや別に触れる触れないじゃなくて、生成AIがここまでボロカス言われてる大きな要因として法律が無いから。
生成AIは合法とかいう言葉に騙されてはいけない。無法地帯なだけ。法律が無けりゃ違法じゃないのは当たり前なので。大麻もセクハラも法律が無い間は合法。
ちなみに危険なツールなのに包丁は皆使ってますよね？と言ってる人は銃刀法の存在を知らない人なので議論の余地は無い。人類は愚か。
じゃあ法律を作ろうじゃないかということで素案が発表されたのだが、こいつがあまりにもガバガバだった。ご丁寧に「単に生成AIに他人の著作物を入力するだけの行為は著作権侵害に該当しません」という笑点なら座布団10枚贈呈されるレベルの文言までついている。推進派は勢いづいた。
ちなみに出力したものが著作物に類似している場合、違法となり得るとしてはいるが、今のところ知らぬ存ぜぬと言い張れば勝てる。人類は愚か。
著作権と生成AIと二次創作
著作権(著作者)を強くすることで守ろう！となると、一緒に規制が入ることになるのが二次創作。冷静に考えて、著作物に類似したキャラを、著作者のあずかり知らぬ所で■■で▲▲して××するのは原作改変以外の何物でもない。さらにはそれでお金を儲けようなんて、神をも恐れぬ鬼畜の所業と言って差し支えない。
著作権を強くするのは、コミケをはじめとする同人市場が崩壊するのとほぼ同義。その面でのみガイドラインを作成・パブリックコメントを募集しているわけだが、政府の方針に悪意が無いとは到底思えない。それだけで言えば、生成AIと二次創作に大きく差が無い事を分かった上で「共倒れか、腕をもがれるか選べ」である。本来の焦点はどこにあるのかを見失わせることで規制派の声を抑えたいという願望が透けている。人類は愚か。
生成AIという技術
学習データの不透明性
2023年4月、EUにおいてAIの学習データの開示を義務付ける法案が提出された。ざっくり言えば、何を学習させたのか検閲する法案である。著作物が含まれていないかをチェックするのだが、先述した通り日本の素案がガバガバ過ぎて普通に貫通した。ただ、日本でも所持しているだけで違法になるデータというのは存在している。代表的な例は児童ポルノ。
インターネットから好きなように素材を選んで学習が可能になっている一部AIによって、虚偽のデータが日夜大量生産されている。出力時、実在の人物に故意に寄せた場合を除き、なんと合法。これから生まれる子供の顔かもしれない。既に大人になった誰かの顔かもしれない。だが、故意に寄せていなければ合法である。本来はこちらを危惧してデータ開示を義務化すべきなのだが、著作物の事ばかりを論点にして蔑ろにされている。人類は愚か。
なおこれによって現実の児童ポルノかの判別が困難になり、この先児童ポルノはバレにくい犯罪として成立していくことになる。人類はクソ愚か。
異次元の手軽さ
生成AIを武器たらしめているのは、パクれるからだけではない。その手軽さも一つの要因となる。特に専門知識も、合成する手間も全て不要で、極めて現実味のある画像/映像が出力できるようになった場合、その悪意は爆発する。
都市防犯研究センター(H21に解散済)が元窃盗犯へのアンケートを実施したところ、侵入に5分かかると約7割が侵入を諦めるという調査結果が報告されている。誰かに見られる危険性という、生成AIとは共通しない理由も孕むものの、手間がかかるというのはそれだけで物事を諦める大きな理由になる。
裏を返せばその労力が全てすっ飛ばされた場合、悪意に歯止めがかからなくなる。誰かに成りすますのも、誰かを騙すのも、全てボタン1つ。これを使って他人を貶めようという考えが無ければよいのだが、残念ながら世界から悪意が消える可能性は今のところ無い。人類は愚か。
では逆に、今までの名誉毀損等以上に厳罰化してしまえば良いのでは？というパターンもある。四肢をもいで身体にGPSと犯罪者の証(特殊な刺青とか)を刻んだうえで捨て置くくらいがいい(私怨)。しかしこの解法は、冤罪以外にも問題点を抱えている。それが次項。
圧倒的な生産速度
純粋に量が多過ぎるのだ。どのデータを学習させ、どう出力し、どう影響を与えたのかを精査して漸く逮捕に至る。そんな呑気な事をしている間にも被害者は増え続ける。
また児童ポルノの項でも少し触れたが、現実の犯罪の発見がどんどん困難になっていく。虚偽の画像が過去に無い速度で増え続け、精査が追いつかなくなる。疑わしきは罰せずの原則があり、虚偽であれば犯罪にならないと定義した以上、まとめて逮捕するわけにもいかない。人類は愚か。
今までは生産速度に限界があった。現実と見紛う程の完成度で犯罪のシーンを手描きするのは、プロのイラストレーターであれ相当の時間を要するだろう。そもそもその絵を完成させられる人間が世界にどれ程いるのか。これが誰でも、一瞬で可能になったのだ。崩壊して当然である。人類は愚か。
二次創作と生成AIの違い
ぶっちゃけるとお気持ちに近い。一次創作から見た場合、どちらも二次創作でしかない。ただ決定的に異なるのは、制作者の意図とトレスへの理解だと思う。
生成AIの出力は、ざっくり言えば品評会。特定のお題を課し、それを提出してもらい、出来が良いものを作品として世に送り出す。「こんな作品にしよう！」という具体的なイメージが無い。複数あるゴール地点から一番良さそうなゴールを選ぶだけで、スタートからゴールまでの過程をばっさりカットしている。呪文を入力する事を過程と呼ぼうと言えば創作物かもしれないが、作品を出力しているのはAIであって入力者ではない。少なくとも今まで創作物と定義されていたものとは一線を画している。
ちなみに稀に「破綻の加筆修正をしているから僕の作品だ」と主張する輩がいるが、先生に誤字を添削された作文は先生の作文だと主張しているのと同義。人生に赤ペン入れて他人の人生にしてやろう。
また現状生成AIの出力は、何度も言うが盗作ツギハギである。生成というと聞こえがいいが、無から生み出しているわけではない。既に学習された膨大なデータから、お題に一致する要素を探して繋ぎ合わせている。創作物において、「自分の物としての」パクリはご法度である。ややこしいが、パクリとオマージュ・パロディの違いがここにある。
例えば筆者は動画投稿にあたって、ゲームのキャラクター達を有名なネットミームに落とし込んでいる。ただし、全て元ネタを把握しており、明確に分かるように落とし込んでいる。元ネタのイメージを下げてしまうような事もないよう、アカウントの運用自体も気を付けている。二次創作者は大前提として、それを我が物にしてはならない。
では生成AIはというと、元ネタが分からない。分からないのでその出力物を一次創作だと勘違いしてしまう。しかも厄介な事に元ネタの発見が困難を極める。著名人の作品に意図的に寄せているならいざ知らず、人間では到底精査不可能な大量の作品群から要素を抽出している。ある種のシンギュラリティに到達してしまっているかもしれない。
話が少し逸れたが、元ネタを分からせないようにトレスをツギハギするなんてものは二次創作として認められていなかったのだ。生成AIは何万、何億とある作品からそれを行っているだけである以上、二次創作とは似て非なるものである。
手描きの価値・AI出力の価値
AI推進派にとって理解し難いのは間違いなくここだろう。早い話「手描きである事実」が想定以上に価値を持っていたことだ。
多くのイラストレーターがAI作品ではないことを証明しようと必死にもがいていたのは、その価値が大きく異なるからである。
この価値というのは市場価格だけを指しているのではない。○○さんの作品だから買う、▲▲さんの作品がもっと見たい、■■さんが好き、を含めたものが価値である。同時に生成AIが歴史の浅さ故に価値を見出されにくい事もまた事実である。ただこれをもって「AIの絵にも価値を認めろ」というのはお門違いも甚だしい。生成AIと人が描いたものは別物である、と多くの人が感じている以上、それに同じ価値を付けるのは不可能だ。価値は完成された物にだけついているのではない。その絵が生み出された過程も含めて価値が作られている。
逆に言えば、AIで出力したことを隠せば「凄い新人が出てきたぞ」という価値を付けることができる。誰かに成りすませば「あの人自分で描いてないんだ」と誰かの価値を下げることができる。
これだけ聞くと使い方次第ではと思う人もいるかもしれないが、そもそも今までの作品群を全部鍋にぶち込んで出来上がったものでしかない。本来はデータに組み込まれた作品全てに許可を取り、お金を払って初めて成立するものを踏み倒しているのだ。AI絵に価値が付けられなくて当然である。ビジネスモデルとして崩壊している。
実はこの論争、小手先の解決策があったりする。
まずは学習データの開示と許可の義務化。正直こんな事書かなくても当たり前のことでしかないのだが、人類は愚かなので一応書いておく。二次創作者に対しても同じことが言える、という輩には「じゃあ率先して自浄すれば？」と返さなくてはならない。犯罪者が「でもあいつもやってるもん！」と言ったところで自分の罪は変わらない。まず自分が変われ。
そしてプラットフォームの区別。なりすましが簡単過ぎたり、人類が愚かだったりで難しいが、売り場を分ける。作品の価値が異なる以上、然るべき場所で売った方が良い。見たくなければ見なければいい、ではない。コンビニに宝石が売ってないのと同じ。
最後に正しく使う。AI絵の価値が低いのは、誰でも簡単に大量生産可能であること以外に、やたらと使用者のモラルが低いのも間違いなく原因。下書きをぶっこ抜いてトレスだと言いがかりを付けたり、なりすまして人格攻撃したり、言っていない言葉を言わせたり、枚挙に暇がない。ツールの拡張性を理解して使わなければならないのだが、人類は手元に便利なツールがあったら大体悪用するのでたぶん無理。人類は愚か。
さいごに
現状、生成AIがレヴィルたることはない。筆者が求めているのは合成AIではなく生成AIである。
いつかそんな時が来たらと思うと同時に、その頃には愚かな自分は生きていられないだろう。そこで生き残った愚かでない人類は、恐らく人類ではない。
この記事が気に入ったらサポートをしてみませんか？