![見出し画像](https://assets.st-note.com/production/uploads/images/123153182/rectangle_large_type_2_3d482ec0cb68245f32d822e444d87d1f.jpeg?width=800)
【生成AI】騙されないように…これらは間違ったデマや詭弁です
生成AI関連において、AIを推進する者のデマや詭弁、論点ずらしなどがあまりに多いので作りました。
こういったデマに混乱しないようにご注意ください。
2023/12/1 間違いその10~12を追加。間違いその1に参考リンク追加。取るに足らないデマや嘘を追加。あちこち少しだけ加筆修正。
2023/12/6 間違いその1に無断学習させていない生成AIの出力結果(動画リンクあり)を追加。
間違いその1)自分の絵や写真だけ学習させたAIはクリーンなAIだ
⇒自分の絵を追加学習させても、もともと現在配布されてる生成AIソフトの学習データには学習済みの数十億の画像データが入っているのでまったくクリーンではない。海外製の生成AIソフトはこのような著作権問題がクリアされてないものばかりであり、日本製のアプリでも、海外製のSDなどを土台にしていることが多く、例外ではない。
現在稼働している生成AIソフトには本当に著作権クリーンなものは一つもないと言っていい。(Adobeですら無断利用の画像データがある。)
商用利用可能と謳う生成AIソフトですら、版権キャラクターが生成できてしまうというお粗末ぶり。(真に受けて商用利用して訴えられたらいったい誰が責任を持つのか??)
LAION-5Bが著作権クリアしているものだと勘違いしてた人のポスト
— きゃんちゃんと私➡️AI規制署名活動中 (@canchanandme) November 23, 2023
誤解は解けたようですが、果たして現時点で著作権クリアしてる生成AIソフトなんて存在するんですかね
ミッドジャーニーやニジジャーニーもデータセット非公開のようですし…
本当に権利侵害したくないというならAIは使わないの一択です pic.twitter.com/x5a8f67vCL
また自分絵を学習させる分にはいいだろ君が湧いてるな…もう飽きたぞ何回目だ
— カミル S (@Kamiru_SL) November 24, 2023
じゃあベースの海賊版モデルを捨てて自分の絵だけ学習させてみよう
何も出力出来ねーけどな
ぼっけぼけの複製モドキしか出ませんよ
それ他人の絵と合成してるだけなんですよ
それを自分のものだと錯覚してるだけ
■Bing Image Creator(DALL·E 3)がマリオやピカチュウをそのまま出力するから任天堂最強法務部に送る文面をBing AIに生成してもらった
ちなみに無断学習させてない生成AIの出力結果がこちらの動画内にあります↓
・現在主流の生成AI”StablleDiffusion”の学習データセット⇒50億枚以上(無断学習しまくり)
・この生成AIの学習データセット⇒1千3万枚(無断学習なし)
この差を見れば歴然ですが、無断学習しない生成AIというものが実質、どこまで使い物になるかどうかが感覚的に感じられると思います。
オプトインのみで学習データを募りSDのようなクオリティまで上げるというのは絶対不可能とは言いませんが、現状の生成AIではかなり至難の業かもしれません。(今後、もっと少ない学習データでクオリティの高い生成ができる生成AIが開発されれば、可能性はないわけではありませんが。)
間違いその2)絵師がAIイラストよりも良い絵を描けばいいだけの話でなにも問題はない
⇒AI推進派のよくある論点ずらし。問題は生成AIは人の作品を勝手に二次利用して生成している事。AIが高い質のイラストを生成できるのは、AIに読み込ませているたくさんの学習元の絵師の絵が素晴らしいからであって、決してAI自体が素晴らしいわけではない。
生成AIは言うなれば世界中のクリエイターの技術を(合意なく)集結させたものなので、誰であろうともこれに勝たなきゃいけない義務も必要もない。
間違いその3)AIの進化は止められないから受け入れて適応するしかない
⇒誰の合意もない搾取により成り立つ生成AIを甘んじて受け入れろと言うには実害が大きすぎる。新作を描いてもすぐ他人に奪われ自作発言をされたり、AIで勝手に絵を改変されたり、その上それらを勝手に売買し収入を得る者までいる。このような状況で絵師は安心して絵をネット上に公開できなくなっており、収入も激減している。
絵師が絵を公開しなくなったら、絵師の絵に依存している生成AIがどうなるか。その時こそAIの進化は止まるだろう。
間違いその4)生成AIに仕事を奪われるから絵師は文句を言っているだけ
⇒生成AIは絵師の絵を勝手に二次利用して学習させて成り立っており、作品を盗まれて勝手に使われて怒るのは当然の権利だ。
「お前のような下手な絵はAIには使われない」と推進派に言われても、AIには「こういう絵は参照しない」という絵を指定でき、そのような絵は低レベルな絵としてタグ付され、プロンプトで参照しないように指定できる。だから絵が下手だからと言ってデータセットに使われていないとは限らない。
そのような盗用ツールを非難することは絵師なら誰であっても当然の権利としてある。
間違いその5)カメラや車、または、デジタルイラストツールや3DCGが導入されたときも反対する者がいた、等(類似するものに産業革命など)
⇒推進派のよくある論点ずらし。カメラや車、デジタルイラストツールや3DCGは人のものを盗んで作られてはいないが、生成AIは人の作品(知的財産)を無断で搾取して成り立っている。
この搾取構造にこそ問題があるのであり、新しい技術に淘汰される事が問題なのではない。
他人の知的財産を搾取しているからやめろと言っているのに、こう言ったくだらない論点ずらしは問題点のごまかしにすぎず、子供だましであり卑怯の極みである。
間違いその6)生成AIを否定するならGoogle検索も使用してはいけない
⇒サイト(URL)を検索するサービスにおける『複製』は適法(著作権法47条の6)
⇒サイト上『収集禁止措置』がなされている場合は,検索結果として表示しない『収集禁止措置』の内容=robot.txt・noindexタグ
(著作権法施行令7条の5第2項) (著作権法施行規則4条の4)
■<検索エンジン・検索サービスによる『複製』を適法とする規定>
https://www.mc-law.jp/kigyohomu/16835/
⇒Google検索はコンテンツを表示しているだけだがAIは取り込んだコンテンツを私物化している。
⇒検索する方される方両方にメリットがあり検索だけではgoogleに利益はいかない(広告収入のみ)。だが、生成AIの場合勝手に学習される側にはなんのメリットもなく、それどころか有害な事が多い。(イラスト市場が競合している、LoRaで絵柄を学習されて使い回され学習元の絵師には収入がない。
学習元の絵柄を勝手に多くの人に使われ絵柄が陳腐化、AIの絵に見えるなど言われて風報被害、等)
だから生成AIとGoogleはまったく比較にならない、非常にばかばかしい詭弁と言える。(AI規制派はすべてのAIを否定しているわけではない。)
間違いその7)AIは人間のように学んでいる(AIの学習は人間の学習と同じで否定すべきではない)
⇒人間は意図しない限り、生成AIのように指や腕や足の数が間違っている絵は描かない。
⇒人間は学習していない新しい絵を産み出すが、AIは学習した画像データにないものは描けない。
⇒生成AIのデータセットを作るために未成年者が時給1~2ドル(約150~200円)で有害なコンテンツを区別する非論理的な仕事をしており問題になっている。こういった人間の手がなければAIは成り立たない。
■AIの訓練のために… 新興国の10代の若者たちがトラウマになるようなコンテンツにさらされている
https://www.businessinsider.jp/post-278406
⇒人間はAI生成画像をいくら見ても生成AIでいうところのデータ汚染やモデル崩壊を起こさない
■生成AIによる「データ汚染」で生成AIが崩壊する https://news.yahoo.co.jp/expert/articles/89a140ae8a7cc72fd7a68193b5afba64294be79d
⇒バナナを知ってる人間であれば1本のバナナを描けるが生成AIは描けない
■ジェネレーティブAIが抱える問題を浮き彫りにする「1本のバナナ問題」とは?
https://gigazine.net/news/20230716-generative-ai-the-lone-banana-problem/
⇒言語タスクを学習するために、(生成AIの)ニューラルネットワークは一度に1つの単語ずつ文章を提示され、ゆっくりと一連の流れの中で次の単語を予測するように学習する。これは人間の一般的な学習方法とは大きく異なる。人間の学習のほとんどは「教師なし」であり、与えられた刺激に対する「正しい」反応を明示的に教えられることはない。つまり、与えられた刺激に対して何が「正しい」反応なのかを明示されない。
例えば、子どもは話し方を指示されることはなく、大人の話し方に触れ、真似をし、フィードバックを受けるという複雑なプロセスを経て学んでいく。
■AIは人間のやり方を学ぶと言われているが神経科学者がそれが事実ではない理由を説明します
https://theconversation.com/were-told-ai-neural-networks-learn-the-way-humans-do-a-neuroscientist-explains-why-thats-not-the-case-183993
⇒コーディング GPT を開発した AI 技術者は、AI は基本的に他人のデータを圧縮してリミックスしているだけであることを公然と認めています。
■フィルムコンセプトアーティスト、イラストレーターReid Southenさんのツイート
AI tech bro who developed a coding GPT complains that people stole his code and prompts, then openly admits that AI is basically just compressing and remixing other people's data. Maybe he can develop a Cognitive Dissonance GPT next. pic.twitter.com/IZOPJezH6E
— Reid Southen (@Rahll) November 30, 2023
"AI tech bro who developed a coding GPT complains that people stole his code and prompts, then openly admits that AI is basically just compressing and remixing other people's data. Maybe he can develop a Cognitive Dissonance GPT next."
「コーディング GPT を開発した AI 技術者仲間は、人々が彼のコードとプロンプトを盗んだと不満を漏らし、その後、AI は基本的に他人のデータを圧縮してリミックスしているだけであることを公然と認めています。おそらく彼は次に認知的不協和 GPT を開発できるだろう。」
このように、神経科学者やAI技術者までもが「人間とAIの学習は違う」と言っているのが事実です。
これでもなお、人間とAIの学習は同じと言い張る人がいたら、その人はまちがいなく「ただAIが使いたいだけなのでAIを擁護している人」と言えるでしょう。
AIの学習は人間の学習と同じだから、生成AIは規制できない、といった言説があって頭を抱える
— 木目百二(もくめももじ)#NOMORE無断生成AI (@mokume_momoji) June 26, 2024
科学的な論理に基づかない感情的な考えをあたかも事実かのように述べている点でおかしいし、百歩譲ってそれを事実としても、そうすると逆に、機械学習だから著作物の権利制限を行っていた30条の4と矛盾する
生成AIの学習が人間の学習と同じなら、そもそも30条の4の考えが成り立たないので、当然無断学習は禁止だろう
— 木目百二(もくめももじ)#NOMORE無断生成AI (@mokume_momoji) June 26, 2024
まぁ、人間の学習と同じであるという、科学的な議論とはかけ離れた想定をすること自体が無意味だとは思う...
生成AIを推進したい人には、せめて、これぐらいの知識は持っていて欲しい...
間違いその8)二次創作(同人)も人の絵を真似しているのだから生成AIも問題ない
⇒二次創作にも問題は全くないわけではない。公式のガイドラインを守らない者がいたりもするが、そういう者はバッシングされたり、同人界にはそのような自浄作用が少なからずある。
⇒二次創作は公式が嫌だと言えば基本指示に従う者がほとんど。
だが、生成AIは学習元が嫌だと言っても拒否権がなく無理やり学習される。
それはそうしないと生成AIは満足に思ったような画像を生成できないという証拠です。
⇒二次創作者は公式の作品のファンであることもあり課金などで還元していることも多い。だが、生成AIは学習元に還元していない。それどころかすべての学習元を把握すらしていない。
⇒二次創作の場合、ネット上でファン活動としてファンアートを公開することでそれが公式の作品の宣伝になっているが、生成AIの場合、人の作品や公式の作品を直接AIに読み込ませ二次利用していることが問題
⇒生成AIの場合、意図的に二次利用しようと思わなくてもそもそも学習データに著作権のある画像を無断で大量に使っているため知らない内に既存の著作物そっくりの絵が生成され著作権侵害してしまうことが多々ある。
⇒生成AIの界隈では何か問題が起きてもルールもなく自浄作用もない。学習元へのリスペクトがなく、むしろ学習元である絵師に嫌がらせなどの攻撃を繰り返しており、リスペクトは一切なく、常識も通じない。
AIイラスト界隈と同人界隈は似ても似つかない。
間違いその9)生成AIを規制するとその他の表現まで規制される
⇒生成AIを規制するとその他の表現(成人向け同人誌など)までが規制の煽りを受けて表現が規制されるのではないかという声がありますが、それはAIを推進したい議員など、AIを推進したい人達が表現を人質にとってそう言っているだけです。
今度、このような発言をしている者を見たら、その人のプロフやそれまでの発言をよーく見てください。たいていどこかしらでAIを賛辞しているか、使いたがっていて、他の人の推進寄りな意見をリポストしていたりします。
間違いその10)生成AIに反対(懸念)しているのは〇〇だけ
例)
生成AIに反対してるのは絵の下手な絵描き初心者中級者だけ
生成AIに反対してるのはR18同人作家だけ、等
今年8月、大きな団体から生成AIに関して危惧する声明が出されました。
その団体は大手テレビ局やラジオ局などが参加している協会から、多くの出版社が参加している雑誌協会など、全国規模になります。
この事実を見れば、生成AIを懸念している企業や団体は全国規模であり、反対(及び懸念)しているのはごく少数というのは全くの嘘で詭弁だということがわかるでしょう。
日本雑誌協会
— きゃんちゃんと私➡️AI規制署名活動中 (@canchanandme) August 19, 2023
→集英社、小学館、スクウェア・エニックス、等83社
日本書籍出版協会
→秋田書店、KADOKAWA、講談社、集英社、小学館、新潮社、徳間書店、白泉社、等391社
日本新聞協会
→朝日新聞、毎日新聞、東京新聞、TBS、日テレ、フジ、テレ朝、テレ東、文化放送、ニッポン放送、等123社 https://t.co/jcBLOQnSVY
ちなみにこれまで出た各団体の生成AI関連の声明はこちら。 https://t.co/p8oL29pjS4(リンク先ページの一番下にあり) pic.twitter.com/z1MK5UQWS7
— きゃんちゃんと私➡️AI規制署名活動中 (@canchanandme) August 19, 2023
日本雑誌協会会員社一覧https://t.co/832paMlNwW
— きゃんちゃんと私➡️AI規制署名活動中 (@canchanandme) August 19, 2023
日本書籍出版協会会員社一覧https://t.co/BQUSC2seuz
日本新聞協会会員社一覧https://t.co/gObmW52AKw
現状の生成AIを取り巻く状況について、
— 平泉康児/編集者 (@hiraizm) August 24, 2023
・日本美術家連盟
・日本グラフィックデザイン協会
・日本児童出版美術家連盟
・日本理科美術協会
・日本出版美術家連盟
・東京イラストレーターズ・ソサエティ
・日本図書設計家協会… https://t.co/Nb9In8mUnI pic.twitter.com/9wrip3ykAL
間違いその11)データセットに画像は保存されていない
驚いたのですが、いまだにこの詭弁を使う者がいるそうです。
詳細は私の描いたこの漫画の5ページ目にも詳しく描かれています。
これを見ればどういう事なのかはっきりとかわかると思います。
結局、生成AIのトレーニングに画像を使う時に無断複製していますので、他人の絵を無断利用しているということはゆるぎない事実です。
(1/4)
— きゃんちゃんと私➡️AI規制署名活動中 (@canchanandme) July 27, 2023
出来ました。
現状の生成AIの問題点を漫画にしてまとめました。 pic.twitter.com/YxnYJa0Mn2
生成AIに元画像は入ってない説よく見るけど、圧縮した形で入ってるんだよね
— ニーラ ネギ太郎 (@niranegiX) June 20, 2024
画像生成AIの説明でよく潜在空間って言葉があるけど、あれは「学習画像とその補間のみを表現して、補間外のものは表現しない」という空間
だから潜在空間内に入ってるし、対応する座標をいれれば出てくるよ
生成AIが元画像とほぼ同一の復元画像を出力することをオーバーフィッティングというんだけど、画像生成AIに元データが無いというのは「じゃあ元画像の丸コピ出した時にフィッティングしたのって何のデータですか?」という話にしかならんのよな。
— Aqu2 (@Aqu21977920) June 20, 2024
いい加減おかしいって気付けよと。
確かに通常の圧縮した保存とは保存方法が異なりますが、間違いなく画像のデータを保持していますし、無許可でそれらを利用してますよね pic.twitter.com/dWbDTx6Hl2
— トロやん (@ROM27236935) June 20, 2024
ちょっと手が空いたので手元で学習させてみた
— ニーラ ネギ太郎 (@niranegiX) June 21, 2024
添付画像が手書き文字データセットで構築した2次元VAE
左が潜在空間上の各座標を指定した際に出力される画像のマップ
右が各数値画像が潜在空間上のどこに位置しているかをプロットした図
例えばこのモデルに(0.9, 0.2)を入力すると画像"6"が出る pic.twitter.com/D86nQJ2HjZ
こちらは洋服データセットを学習させたVAE
— ニーラ ネギ太郎 (@niranegiX) June 21, 2024
同じようにこのモデルに(2.1, 1.1)を入力するとブーツの画像が出る
単純な例だけど数値二組で画像が出るこのモデルを見せて、学習画像入っていませんは通じないと思うんだ pic.twitter.com/UpX6TqJxI8
StableDiffusion1はチャンネルごとに4096次元あって、学習データは50億以上だから、2次元・1万サンプルのこれらとは単純に比較はできないけど、ある種の同一線上の話ではあると思う
— ニーラ ネギ太郎 (@niranegiX) June 21, 2024
間違いその12)生成AIを批判してるのは日本だけで海外では支持されてる
生成AI関連の記事を普通に追っていれば英語の記事がかなり多い事に気付くと思います。生成AIのリスクを訴える記事や、AI企業が訴えられた訴訟の記事、データセットの中にある非倫理的な画像に関しての記事など、こういった問題を扱った記事は半年前は海外の記事の方が圧倒的に多く、日本の記事は少なかった。海外の方が著作権などの権利に敏感に反応し、生成AIを問題視しているという証拠でしょう。
ちなみにXでも生成AIを批判するリプは日本のそれよりも圧倒的に多い…それなのに海外より日本の方が批判的という人は、ひょっとしたら、単に英語が読めないからまったく目に入ってないだけという可能性がある。
アメリカのコミケでAI絵師が叩きだされた件はあまりにも有名
Say no to AI generated art in the exhibitors and artist alley sections of conventions pic.twitter.com/cIvsCRh7nP
— marie 林 (@PuccaNoodles) November 13, 2022
”Say no to AI generated art in the exhibitors and artist alley sections of conventions”
「コンベンションの出展者やアーティストアレイのセクションで AI が生成したアートには「ノー」と言う」
このツイートには実に17万以上のいいねがついている。
コミケにAI絵師が続出し、事実上AI絵師は出禁になったそうである。
シンガポール・コミコンでのインドネシアパビリオンは、東南アジア最大のコミコンの一つです。
— XO (@MEGUjuke) January 30, 2024
ここはインドネシアの漫画家たちが自分の作品を紹介し、より多くの人に知ってもらうための場です。
AIを使って漫画を作ることは禁止されており、違反するとブラックリストに登録される可能性があります。 https://t.co/FLeHj4Gdzh
海外の方々の方が日本の漫画・アニメ・イラストなどの文化に対しても
大切にする気持ちとか愛情が強い気がします…↓
雑誌のガンダムを平気でAI画像でモロパクってる日本人に対して、
— 自分のイラストがAI合成に無断利用されるのを拒否する権利を求めます (@rights_artists) December 6, 2023
外国の人がシンプルに一言だけ…。
「日本人は恥を無くしてしまったのでしょうか?」
重い言葉です。😰
全ての日本人が受け止めてほしい。
世界の富をあさる泥棒って思われてますからマジで。
まあでも、使用者には絶対無理だろうな。
海外では生成AIを使うことは、クリエイターを搾取する搾取構造に賛同しているとみなされてるらしい。
最近中国最大の同人イベントでAI的なものを頒布したサークルを創作の理念に反するとして処罰した事を知った サークル名まで公開してて強さを感じる https://t.co/5DejisGqMs
— 裏方🀐く03b (@urct) November 30, 2023
アメリカコミケ「AI禁止」
— 小鳥遊ヲトリ (@otr_ut) December 1, 2023
ドイツコミケ「AI禁止」
中国コミケ「AI禁止」
本家日本コミケ
「詐欺?ポルノ被害?表現の自由なのでOKです」
日本自称オタク議員
「これを非難するなら絵を描く自由もなくなっちゃうんだよね」
↑このポストの「自称オタク議員」は、生成AIに反対する声が上がり批判が殺到すると「AIを否定するなら同人誌もダメって事になる」と同人界を人質に取り、AI批判の声を「絵の初級者中級者のたわごと」とはっきりと明言して握りつぶしました。
国はいつまでたっても安全対策に向かう様子はなく生成AIを推進しようとしています。
生成AI関連では、日本ほど甘い国はない。それが実情です。
↓この日本のアーティストのAI製のMVを公開したポストのリプ欄や引用ポストには海外からの批判、AI使用をやめてほしいという意見が殺到した。
🌍NEW MV🌎
— ˗ˋˏ Daoko ˎˊ˗ (@Daok0) November 22, 2023
QUBIT - "Mr. Sonic" Official Music Video https://t.co/5mEDx2cpLv pic.twitter.com/5KuHR1oVYR
その他、取るに足らないデマや嘘など
クリスタの3D人形やテクスチャ等のツールがグレーっていうのはいったいどこから来てるのか?
— きゃんちゃんと私➡️AI規制署名活動中 (@canchanandme) December 1, 2023
堂々とデマ言わないでくれ
AI推進するやつはこういう感じでさらっと呼吸するように嘘つくんだよなぁ…
ほんとにいい加減にしてくれ https://t.co/slyr9nYtZ1
マジでクリスタ使ったことない人がなんか言ってるやん
— モデラーDYR (@DYR_Input_Think) December 1, 2023
クリスタアセットの審査めちゃくちゃ速いし正確だぞどうやってんのか知らないけど
(アップロード時に審査はないけど規約違反があるとすぐ(数時間〜2日程度で)削除される)
数年前の投稿に文句付けるpixivとは比べ物にならない
■生成AI規制派(慎重派)や絵師たちがこれまで一貫して訴えてる主な事
・人の絵や写真などを生成AIのデータとして勝手に使うな(勝手に使えないように法規制しろ)
⇒無断学習(一方的な搾取)をするな
⇒市場を破壊するな
⇒人に迷惑をかけるな
・データセットの中身に問題があり、それをクリアしてないのにAIを使うな
⇒児童ポルノ、ポルノ画像、戦争の残忍な写真、犯罪被害者の遺体写真、
マンガのページが丸々入っていて見れてしまう、等 NSWFにあたる画像、および著作権侵害になる画像が入っており倫理的に問題がある。
・ディープフェイクを使った詐欺、犯罪などがあり人命にかかわるから政府は安全対策や法規制をしろ
⇒フェイクポルノ、児童ポルノ、セクストーション、その他詐欺事件の増加が容易に予測できるのにそれでも安全対策をとらず推進しかしない政府は無責任と言わざるおえない。
最後に
この記事はいろんな人の協力でできました
みなさん、いつも助けてくれてありがとうございます。<(_ _)>
↓署名活動中!賛同者10000人突破!!賛同お待ちしてます。
署名活動中→ https://t.co/p8oL29pjS4…
— きゃんちゃんと私➡️AI規制署名活動中 (@canchanandme) November 12, 2023
「自分のアカウントでRPでシェア」が難しかったら副垢など作ってでもいいので署名にご協力ください
・初回アカウント作成時に氏名、メアド、郵便番号を登録 ・署名時には名前(※ハンドルネーム可)とメアドで署名
・署名方法は二通り…
この記事が気に入ったらサポートをしてみませんか?