見出し画像

生成AIの問題点を追い始めた時系列をまとめました

大戸カオリ

こんにちは。
私はクリエイティブVTuber大戸カオリと申します。

この記事では最近私が注目している生成AIの問題について

・問題を追い始めたきっかけと時系列

をちゃんとできてなかったのでちょっとつらつらと話させてもらおうかと思います。
最初SNSで発信しようとしたら長くなったのでnoteにしました。

＝＝＝＝＝＝＝＝＝＝＝

まず私が生成AIについてもやもやを抱き始めた時期について。
mimicという生成ツールが出始めた頃です。
2022年の秋口頃だったと思います。

絵描きさんたちが
「自分の絵を勝手にアップされた場合、絵描きへの被害しかない」
と問題視し始めていたのを見かけて
「確かに勝手にアップされたら簡単になりすませちゃうな」
と感じ

私自身も問い合わせにて
「本当に本人の絵だと証明できる手段がありますか」
と質問メールを送ったもののサービス自体が一時的に機能停止したのでそのことへの返事等は特になく
「やっぱりトラブルのもとだから批判が来たりサービスが提供できなくなるのは仕方ないよね」
くらいに思っていました。

その後2022年12月ごろ海外製の生成AIが出始め
気付いたらなりすましどころの騒ぎではなくなっていました。
「絵描きはもう不要！廃業だ！」
ということをしょっちゅうAIで絵を生成して発表している人が言い始め

有名な絵描きYouTuberすら肯定的な意見を発し

「何かこの生成AIってもの、モヤモヤするけど私だけそう思ってるのかも？」
と自信が持てませんでした。

もう生まれてしまった技術だし。
順応しないといけない。

そう思いながらもミミックの問題のときによく言われていた
「自分の絵を勝手にアップされた場合、絵描きへの被害しかない」
がずっと頭をよぎっていました。

＝＝＝＝＝＝＝＝＝＝＝

そして2023年3月ごろVTuberの友達とコラボにて
「AIアートインポスター」
というゲームをやることになりました。

だけれど生成AIに対してのもやもやがずっと晴れなくて、
きっとゲームをしたらAIを受け入れやすくなるはずだ！
私も創作に生かしたくなるはず！
そう思いこのゲームをやることにしてみたのです。

ゲーム性自体はワードウルフのようなゲームで非常に面白かったのですが
「船」というお題の際に某海賊漫画のキャラのようなイラストがでたことがきっかけでこの技術大丈夫なのか
と思い始め自分の中で疑問の火種が広がってきました。

受け入れるどころか不安はずっと広がり続けます。
そこで同じように思っている人がいないかを探すことにしました。
情報が必要だと思ったのです。

＝＝＝＝＝＝＝＝＝＝＝

2023年4月ごろ

情報を探そう
自分だけが変なら自分の思考が糾弾されているはず。
そう思い生成AIというワードで検索をかけました。

するとAI規制の法律が必要だと意見を挙げている人がいたのです。
その人の周辺には自分が思っていることと同じもやもやを抱えていたり
実際に絵柄を学習され嫌がらせをされている人もいたり自分が思っている以上の被害が起こっていました。
同じような考えの人たちがいて、いつしかこの人たちの存在に救われるようになりました。

そこで生成AIが無断転載からデータを勝手に拝借していることを偶然にも知ることとなりました。
私と同じ意見の人たちはそのことにとても怒っていて、同意のいいねをちょくちょく押すようになっていきました。

なんで無断転載で構成されたデータセットを平然と使っているんだろう？
なんでみんな平気でアイコンにしたりしてるんだろう？
それでもそれにもやもやする私がおかしいのかもしれない。
だから誰にも相談できない。
気が狂いそうでした。

そんな中で同じような意見を見つけ毎日癒されるようになっていました。
当時はそのくらい追い詰められていたのです。

しかし意見を言うと絵柄を学習され何も言えない状況にされるため絵描きアカウントで発言をする人は全体の5％以下ほどの印象でした。
しかも当時は声をあげる人に対し「時代遅れ」「技術の進歩をとめる愚か者」などといったやりとりがなされているのを目の当たりにしてしまいここでも私は自分に自信を無くしてしまいました。

私と同じ意見の人がこんなにも責められている
もしかしたら私もこんな責め立てられて当然の人間で、人類に必要のない存在なのかもしれない。
そう思ってしまったのには社会での経験が原因でした。

＝＝＝＝＝＝＝＝＝＝＝

私は実は10年くらいデザイナーだったり漫画制作だったりいろんな分野でクリエイターをやっているのですが、今まで見てきたクリエイター界隈は

・買いたたきが頻繁に起きる
・それどころか未払いなどの問題もある(支払いすらトンズラされる)
・買った作品が気に入らないからと誹謗中傷
・海賊版や無断転載のものを読んで対価を払わずに誹謗中傷

こういう側面もありました。

それでも創作活動を続けていたのは自分が何かを作るのが好きなのもあって、

・推し絵師さんへの愛
・憧れの推し絵師みたいになりたい気持ち
・ファンになってくれた人が喜んでくれる
・描けば描くほど画力が上がって楽しい
・ものづくりが好きだし、他人の創作に触れるのも楽しい

などのできごとが大きかったためずっと続けてこられました。
やめるだなんて考えたこともありません。

しかし生成AIが出てきたことで気持ちが大きく揺らいでしまいました。

当初は
「やっと最近海賊版はよくないと思う価値観や少し絵にお金を払う価値観が生まれていたのに」
と残念に思いました。

少し前はマジコンや漫画村が一般人に広まり本当に治安が悪かったと思っています。

ある日勤めていた会社で
「漫画村にある漫画でおすすめはないか」
という会話を通りがかりで聞いてはぎょっとしました。

「漫画村は海賊版ですよ。使うのはよくないです！」

と指摘すると

「じゃあ制度のほうをなんとかすれば？
漫画なんてタダじゃないと見ないよ
タダでも読まれて収益が生まれる仕組みを作った方が早いんじゃない？」

と言われ腹が立ちつつも
「あ～でも私みたいに推し作家に対価を払いたいと思う人のほうが少数派なのかな」
と絶望したことを生成AI問題を見て思い出していたのです。

実は上記で上げたような問題も生成AIが生まれるちょっと前まで少しマシになっていました。

勤めていた会社の人が言うような制度が整ったりして広告収入やサブスクの充実、
AmazonのKindleUnlimitedなどのようにページがめくられて収益が発生するものが生まれたりなど新たな収益への道ができ「一方的に理不尽な目に合う」ことは減りすこしずついい環境になっていました。

絵の依頼もSkebなどの簡単にお願いできるサービスや、
Fantiaなどの支援サイトも充実してクリエイターが過ごしやすくなってきたかなぁと思ったときに問題が起きたのです。

＝＝＝＝＝＝＝＝＝＝＝

私の中での「世論」や「社会は」基本的に「利己主義」と思っていて、
無料である程度の品質のものが生まれるならデータの出所なんてどうでもよくて絵描きだけが困るのなら絵描きは簡単に捨てられるだろうと今でも思っています。

なので生成AIというものを世間に放ったことでいよいよ創作者に対価を払うというやっと報われ始めたものが一気に破壊されたように感じました。

しかも生成AIの利用者は
「絵描き廃業」
をスローガンのように掲げて、嫌がる絵描きには嫌がらせをしていたのを見かけこの時の私は

「あ～やっぱりクリエイターは一生頑張っても大きな流れに無価値の烙印を押されながら、内に秘めた思いを込めた創作すら搾取されながら生きていくしかないのか」
と本心で心からそう思っていました。

もちろんもうブランディングが出来ているようなファンの多いプロ作家の人たちは
「その人が作ること」
それ自体が価値になっているので私が思ったようなことは当てはまらないと思います。

あと絵をみてくれる人たちも大半の人は生成AIのほうがいいと思うんだろうと感じていました。
無料で神絵が出てくるのだから

人によるモノ作りは軽視され頑張っても一生報われることはなくなったのか。
わたしはこの思考に頭を支配されました。

もう世界がそうなることを望むなら●んでもいいやくらいに思い始めました。
2023年1月～8月くらいまで私はずっと希死念慮に襲われていました。
それに加えて仕事で関わる人に絵柄を変えろ、売れないものは無価値と言われたことも大きかったのです。

2023年4月に手術をしたのですが、そのときいっそ全身麻酔で一生目覚めなければいいのにとさえ願ったのですがそれはかないませんでした。

＝＝＝＝＝＝＝＝＝＝＝

しかし心が荒み切った2023年5月ごろ事件は起きます。

AI生成をした自称AI絵師の人がAI学習のもとになった絵描きさんに支援サイトの売り上げをスクショしたものを送り「4月はかなり儲かりましたいい餌提供してくれてありがとう」とリプを送っていたのです。

そしてそれは絵描きさんたちのとあるイラスト投稿サイトに投稿された絵の非公開事件が起きた瞬間でした。
私もさすがに腹が立ったので絵を非公開にし親会社に問い合わせのメールを送ったりなどをしました。

そこから各支援サイトのAIイラスト締め出し対応などが発生しました。

しかし問題はそのイラスト投稿サイトです。
生成AIのもとになった画像はそのイラスト投稿サイトからの外部への無断転載流出が多く、
そのイラスト投稿サイトはそれの対策をするどころか生成AIを大歓迎までしているのでもうそのサイトに対策を求めることは期待できないなと現在進行形で思っています。

いまそのイラスト投稿サイトはカードが使えなくなったり、アプリ版ではURLを載せると概要欄が表示されなくなったり、そのサイトの運営してる支援サイトで一定のタグが非公開にさせられたりなどしているようです。

＝＝＝＝＝＝＝＝＝＝＝

2023年5月～6月ごろ

その事件をきっかけに生成AIの問題を指摘する声が散見されるようになっていきました。

無断転載の画像を集めたデータセットには児童を口では言えないような虐待した写真や版権のもの様々な画像が含まれていると知りました。

▼AI画像生成ツールのトレーニングに著作権者の同意を得ることなく「数十億」の画像を使用したことを認めた記事
https://petapixel.com/2023/07/13/stability-ai-boss-admits-to-using-billions-of-images-without-consent/

▼問題がわかりやすい漫画です！
https://x.com/canchanandme/status/1676494569905717249?s=20

だからAIアートインポスターをやった時某海賊漫画のキャラがでたのかと！

これはネットにアップした画像が勝手に使用されていることそのものが問題の原因だと思っています。
一度でもネットに写真をアップした人はその画像が生成AIの学習に使われ、顔などが出力されれば家庭内トラブルや犯罪にもつながると知りました。

このことをできるだけ多くの人に知らせないといけない
その事実を知らずに使ってしまうのは危険だと感じました。
そう思いながらも私には伝える自信がありませんでした。

なのでひたすら情報を集めたり時には文化庁や政治家の人に連絡してみたりもしました。

その間自分の顔がAI出力された人、AI製の偽造紙幣を展示する人やイラストをAIイラストに置き換えてゲームデータを丸パクリしたゲームの販売があったりいろんな事件がありましたが上の人は『お絵描き初心者・中級者からの苦情』と話を聞きません。

絶望しました。

＝＝＝＝＝＝＝＝＝＝＝

2023年6月ごろ

VTuberの人が生成AI周辺で倫理に反する発言をし、
私が同じ意見だと思っている人たちが次々にVTuberの権利意識って甘いのではと疑問視しているところを見てしまったのです。

同じVTuberの人たちからママ(モデルを作った人)の絵描きさんを大事にしている話をたくさん聞いて知っているし、1部のマナーの悪い人たちの態度で誤解されたくない。

そこで先にメン限配信で話すことにして、そこから表で意見を言おうと心に決めたのです。

ただ発信する前に気になることがありました。
問題の核は何か、自分が気になることは何か
ここがぶれてはいけないし的外れな発言をしてはいけない。
慎重にならなければと思いました。

なのでこの頃はより情報を集めることにしました。

＝＝＝＝＝＝＝＝＝＝＝

そして夏のコミケが終わった2023年8月頃配信で発言をしようと思い今に至ります。

そこでどの意見を重視して話すか
そこがぶれてはいけないと思いました

なので
・データセット問題
・絵描きさんの拒否権がないことへの批判
・↑が守られるくらい最低限のクリエイターの人権が欲しい

を主軸に配信したときもこれからも話すつもりでいます。
AIの活用に関して未来はどうなるかわかりませんが、
こんなにも他人の権利を害して作られている者に私は大好きな創作の世界の未来を託したくないと思ってしまいました。

そもそも生成AI学習の元になった絵柄の人がないがしろにされていいはずがないですし、無許可の画像が集まったデータセットでは従来の絵描き界隈で時折起きていたトレパク問題のような問題は避けられないでしょう。

それに加え今の生成AIは絵を描けば描くほど勝手に絵を持っていかれ学習に使われます。
生成AIに勝ちたかったらいいものを作れという人も見かけましたがいいものを作っても持っていかれて自分には何も残らないのです。

それでも頑張りたくなる人は相当珍しいと思います。
私なら嫌です。

これ以外にも探せば探すほどいろんな問題はあります。
しかし発言するのならば自分が気付いた問題点を中心に自分の立ち位置から話すしかないと思っています。
知らない分野のことを知った気になって話すのは時に人の足を引っ張るので。

このことをもしかしたらお気持ちと揶揄されてしまうこともあるかもしれません。
ただ現実尊敬している絵描きさんたちが困っていたり、生成AIを使った嫌がらせが日替わりで行われていたり無断で学習に使われた挙句ポイ捨てされていく。

私は創作は作者の精神の分身だと思っているので、そんな光景を見かけて生成AIで生まれたものを純粋に楽しむことは私にはできません。

＝＝＝＝＝＝＝＝＝＝＝

2023年9月～12月
発信して以降はそっと影から覗いていた人たちからフォローが来るようになりました。

そしてより情報が入ってくるようになり、世間もどんどん変化が起きていきました。
生成AIの問題が知られていくことで使う人と使わない人の印象が変化してきたのです。

これまでは生成AIの問題を発信している側が偏見の目にさらされていた印象でしたが、
日々生成AI起因の問題が起きその問題自体が広く周知されるようになっていったのです。

それにより今生成AIを使っているともろもろの問題を無視している人だということになるのではという印象になってきたのです。

＝＝＝＝＝＝＝＝＝＝＝

そして2024年

急に大手の絵描きさんや有名なイラストレーターさんが声を上げるようになっていました。
いったい何が起こったんです？

＝＝＝＝＝＝＝＝＝＝＝

以上が私の見てきた光景になります。

実際に起きたことをだいぶ端折ったので記述しておりませんが、
私がこの記事に書いたことだけでも相当色んな事が2023年は起きているように見えますがこの問題も全体の1％にも満たない出来事だと思います。
本当に何度なんでこんなクリエイターの人権ないんだと嘆いたかわからなくなるほどです。

▼この動画がわかりやすいです
https://youtu.be/0FPyLHppZMk?si=CJJ9AL15OQg0Socq

▼深く知りたい方は実際起きた問題をまとめたこちらの動画がおすすめです
https://youtu.be/Dpk3HmMVPDw?si=D69cgKqxrHrSB-za

そのため生成AIの問題を発信してきた人も何人も心を壊して辞めていったのを見てきましたし、意見が過激になってしまうのも仕方のないことだと思っています。

しかし外から見たとき何が起きたかわからないまま意見が過熱していくのは危険なように感じました。
なので私目線で起きた出来事を記録しておきたくなったのです。

＝＝＝＝＝＝＝＝＝＝＝

最後に

この問題を追いかけて良かったことがあります。

それは今有名なクリエイターの方も作ることが好きで好きが興じて仕事にしている人がたくさんいるのだと
だからこそ今の生成AIを問題視している人もいるのだと。
そのことを改めて知れてよかったと思います。

あと2023年8月に参加した夏コミで自分の作品がたくさんほめていただけたことがあり
私が手で描くことを認めてもらえたような気がして
「まだまだがんばりたい」
と強く思うようになったのです。

実は私は今でも胸を張って自分のほうが正しいことをしているだなんて堂々と言うことはできません。
もしかしたら未来では私の価値観のほうが淘汰されている可能性だってあります。

しかし憧れてきたクリエイターの方々が拒否しているのに勝手に絵をAI学習に使いそれを自分のものにして搾取しているのは見ていてモヤモヤする行為であることに変わりありません。

それらが蔓延するお互いの創作にリスペクトのない世界は私は嫌です。
それに抵抗できる手段があるならなんでもやっていこうかと思います。


この記事が気に入ったらサポートをしてみませんか？