![見出し画像](https://assets.st-note.com/production/uploads/images/123675947/rectangle_large_type_2_4cea0e0a04939aba92ddce8b349769e8.jpeg?width=1200)
無断学習生成AIに悪用じゃない利用が無い理由
無断学習生成AIを「使い方次第」と悪用ではない利用をするのは構造上不可能だ。
なぜなら出力物、クオリティ共に無許可で取得したデータに依存しており、例えば子供の画像を抜くと子供が出力できなくなるからだ。
盗品を“活用”という形で許容してしまうことで、子供たちのデータが生成AIに取り込む為に盗撮される等の犯罪増加や、治安悪化のような社会に及ぼす影響を、通常なら国家や社会が考えなければならない。
大げさに思われた方も居るでしょうが、むしろ問題は「イラストだけ」のように矮小化されており、状況が致命的に収集不可能になるまで一般には気付かれないかもしれない。
銀行強盗はNGだが盗んだお金は使用OKとなると、強盗事件は頻発するだろう。(実際には番号でバレる)
自分の欲望を優先し、目先の利益と欲求を満たすために行動する人間は少なくない。
現在主流の生成AIのデータセットは殆どブラックボックスで、開示できないデータで溢れている。データセットを開示することは自白に等しい。アニメ風画像は大抵が無断転載サイト由来なのでAIのために無断転載する人間も出てくる。一般人の生体情報から性加害画像(児童ポルノ)や流出した患者の症例写真、戦争の写真なども含まれている。(これはデータセット内が検索できるサイトhaveibeentrained?で出てくる)
ハッキングにより流出しリークモデルを平気で使っているし、それをマージして別モデルに拡散させている。金になるなら意図的に流出させたりハッキング等も起こり易くなるだろう。
盗むこと自体も問題だが、盗んだ物を活用OKにすると盗みが横行するようになるのは至極自然なことだ。しかし、無形資産の話になるとそれを認識できなくなる人間は多い。
現行のAI推進者(AI割れ厨)が望む”著作権のない便利な社会”というのは、太古から続く、「(無形でも)モノや労働などの対価にお金を払う」という基本的な営みさえ壊されてしまう社会のことだ。
先進的で健全な社会を望むのであれば、クリーンなデータ以外での運用は許されるべきではない。
問題はこれだけではなく、発展途上国でアノテーション(AIのデータをタグで紐付けすること)のために低賃金労働でおぞましい画像やコンテンツにさらされる人々や、時給150円でトラウマになるような非倫理的な画像のタグ付けをする児童など、AIは大量の人間の知財を盗んだ上、大量の人間の低賃金労働を介して成り立っている。もはや社会悪ではないか?各地で起きているが、これがもっと大きく問題視されるのはこれからだろうか。
彼らの生活はギリギリで、多くは仕事があるだけマシだと思っているが、労働者たちの賃金はテック企業の社員の賃金に比べて信じられないほど低い。記事では、デジタル奴隷制度と表現された。
彼らに対しての間接的な危害や犠牲と窃盗被害についても、その加害性を企業は無論、利用者も自覚すべきだ。
AI推進者がよく言う、AIの発展によって「富が分配され、人間は働かなくて済む社会」などありえない夢物語で、実情は真逆だ。
以前、激安で有名なSHENというサイトが、従業員に法外な労働をさせているということが問題になっていた。これはYouTubeなどのメディアで沢山のインフルエンサーが取り上げたため 、知っている人も多いのではないだろうか。一例として分かりやすいかもしれない。
発展途上国の人間に対し、「低賃金でも労働を与えているのだからいいだろう」という考えは改めるべきだ。ぼく達が安く買えている原因が、彼らが受け取る筈の給金からの搾取では問題がある。
これによってこのサイトを利用しなくなった方も多いだろう 。(ちなみに、だいぶ問題になったので改善されている面もあるそうだが、デザイン盗用も多いし広告では剽窃AIを使用している。個人的には、こういった会社にカード番号を託すのは危険だと思う。)
追記
速報:LAION、Stable DiffusionやいくつかのGoogle製品、その他の主要なAIツールを支える巨大なデータセットが、何千もの児童性的虐待素材の画像を含んでいるため、インターネットから削除されました。 https://t.co/Y4BU8Mxkfb
— XO (@MEGUjuke) December 20, 2023
自分はデータセット検索で、鎖に繋がれた子供のような写真を見てから、剽窃生成AIをエンタメに活かそうとすること自体、かなりグロテスクに感じるようになった。
復元と合成の特性上、AI画像の鎖を見るとあの写真が想起されるため直視できない。こういった非人道的なものが、どのような形で表面化してしまうかは、誰にも分からない。
いつまで都合よく見ないようにし、”面白ければ良い”と窃盗と搾取と加害に手を染め続けるのだろう。利用することによって、このような事が正当化されるなど、あってはならない。
また、有名アーティストが使用してしまう ケースもかなり問題だ。
盗品で成り立っているSD(StableDiffusion)を使用した、Daoko氏のMVや、使用を明言しているAIブラックジャックなどは、前述した犯罪の幇助、搾取的な社会を常態化させる助力をしており、こういったものが人々に称賛されればされるほど、無断学習生成AIに対して肯定的な人間が増え、利用者も増え、名も知らない人間への搾取は増え続ける。今よりも当たり前のように作家は作品を盗られ放題になる。
(実際には、低品質な駄作過ぎて全く受け入れられていないようだが。)
悪いことには手を出さない、加担しないのが一番だ。
盗品を“活用する”ことの加害性と社会的責任を認識した上で使ったのであれば、自身の選択の結果の、当然の非難からも逃げるべきではない。
ぼくは短期的な利益のために、剽窃AIを使用してしまうアーティストに対して強い疑念を持っている。これはアーティストに対する尊敬の裏返しでもある。
他人の作品を蔑ろにするアーティストの作品を、どうやって尊重すればいいのだろうか。
実際に声や曲を勝手に“活用”された人達や、肖像を盗られてAVや竿役にされている人間が居る訳だが、剽窃AI使用者がいざ自分がその被害にあった時、助けを求めようものなら「なに自分の権利だけ主張してんの?」と思われるのではないか…?
本当にファンならば、そのクリエイターの為に諌めるべきだ。
雇用主が雇用しなくても済むようにする剽窃技術で、芸術家でもないくせに芸術を退屈な仕事だと言い切り、人間を道具扱いした人間(例としてSD社CEOエマド氏)や、廃業煽りをする連中の援助をクリエイターがしてどうするのか。
ハリウッドのようにクリエイターの卵のために戦おうとするどころか、逆に自分の作品に剽窃AIを“活用”することで社会に対して既成事実化を促し、不正の蔓延を助長していることに対して何も感じないのだろうか。
家畜扱いされながら同業者が家畜化されることを助けるなど、一体何がしたいのか理解できない。
ただ知らないだけなら、早急に事態を把握すべきではないだろうか。検索できる端末があるのだから。
例えば、漫画の通販を担うサイトがAIで出品作品から画像を集め漫画を作って自社サイトで売る。
出版社がAIグラビアさつきあいを、元になった肖像に対し対価を払わず売り出す。
ゲーム会社が音やイラストをネット上から拾ってAIで出力し使う。
クリエイターを素材として報酬を払わずにクリエイター抜きで金儲けする。生成AIは作家たちのデータに依存し、無断かつ無報酬で奪い、被害者と同じ市場で競合し、その結果で仕事、生きがいや生活さえ奪うといった非常に醜悪な搾取構造がある。
日本では学習が違法ではないとされ(厳密には合法ではないが)、その活用までも多額の税金を投入し、国が推進している状況だ。
法がなければこの理不尽は誰にも止められない。
ぼく達が今、アニメ等を素晴らしい演出と作画で楽しめているのは、これまで人々が紡いできた創作文化の歴史があるからだ。技術を伝達し影響を受け、現代に合うようアレンジし、そのクリエイターが時間をかけて磨いた腕と思想の元、変化しているからだ。ぼくはそれを視聴できる事に感謝しているし、同じ気持ちの人もいるだろう。
政府はこういった人材にこそ予算をかけるべきだった。都合のいい時だけ "日本が誇る文化〜"などと外交的利用をするが、足を引っ張るばかりで何の援助もしようとしない。厳しい環境での個人の努力に対して、二度と「俺が育てた」みたいな面を見せるな。
Daoko氏のMVのような、(80年、90年代のアニメの)人の資産をAIで奪い、ぐちゃぐちゃに合成したものと一緒にされるのはひどい冒涜だ。あれが最新技術?最新の表現?そう感じた人間の正気を疑う。よく最後まで編集できたな、と関心したいくらいだ。
あの時代のアニメーターはこんな物の素材にされるために描いたんじゃない。
手塚先生もご家族が自分の死後、自分の作品を冒涜し加害に加担させられようなどとは夢にも思わないだろう。
天才の考え方は分かりませんが、ぼくだったら「よくも売ったな」と思うでしょうね。(このプロジェクトで政府から“資金”をもらったはずですので)
炎上していましたが、海外の反応はちゃんと見たのでしょうか?
“進化”したNAIv3を見たら分かるように、生成AIの進化とは元画像をほぼそのまま出力、改変して破綻が少なくすることになっている。
これでロゴもそのまま破綻しないで出力されるし、苦手な指の形もそのままになる。当然ながら個性もある。
結局、データセットにされた作品の技術頼みということだ。これは元々あったことだが、作家名で作家の絵柄が出力されることでより顕著になった。
これでは、どの画像に被害者が潜んでいるか分からない。(将来的に、見分けられないなら全ての画像が規制対象にならないか心配だ。イラスト風AI画像にも、表面化していないというだけで実写風と同様に実在する人間の画像が入ったデータセットを元にしているので(生成AIによるが)、多くの画像に疑いが向けられるようになるだろう。)
違法とされていないなら他人に危害が及ぼうが構わない人たち、つまり自分が罰せられなければ良いといった精神で、何処までも人を踏みにじり、自分勝手に盗んでいる。他人の肖像や表現を割っておいて、表現の自由の主張…?意味不明過ぎて笑うしかない。
機械の手柄を自分の手柄として表現者を語るなら、道路を60km/hで運転している時、自分の足が60km/h速くなったと錯覚するのだろうか。しかも燃料は人の財産、正気とは思えない。
批判を受けず、補助やらポン出しやらとAIを使いたいと言うのであれば、権利侵害に対して問題視されている事をきちんと認識し、完全オプトイン式を使いたい人たちのみで作るしかない。
権利関係がクリアにされていない状態では、一生略奪の上に“表現の自由”を謳う浅はかで、不遜で他人の権利に対して冒涜的な泥棒集団でしかない。
彼らのやってることは既存のものを改変して偽情報をネット上に流出させているだけだ。不正を正当化するために用いられる言葉は破綻しており、その暴論を通すために元々あった権利を貶めようとする傾向がある。(著作権は底辺の権利、著作権厨など…)
自分の行動が社会、もしくは他人にどのような悪影響を及ぼすかまで、よく考えて行動していただきたい。
被害を無視し、AI割れ厨が使い続けることで、盗まれる知財も永遠に増え続ける。
自宅に押し入った泥棒に対して抵抗するのは当然のことなのに、その攻防を見てどっちもどっちだの、過激だのというのは無理があるだろう。あまつさえ、泥棒が中傷しながら冷静に話そう、などと…まず敷地から出て行け。
剽窃AIを禁止しているサイトやイベントがAIの補助的利用を認めるのは考え直すべきだ。その基準だと、画像に対するAIの占める割合を問題にしているだけになってしまう。普通に使用しているのと変わらないし、一部を容認することでそれが綻びになる。使用自体が搾取構造の上、加害性があり問題であることを認識しなければならない。使っている、受け入れている時点で搾取は続くし、新しく起こる。それに加担してしまう。
オタクとしては人の技巧による素晴らしい芸術や文化(即売会等含む)が衰退してしまうことを悲しむべきだが、大人としては弱者に対して理不尽な危害が増えることを憂慮すべきだ。
子供達はほとんどの場合、自分の意思でネットに画像を上げているわけではないし、撮られていることにも気付けない。
運動会等の写真や卒業アルバムなども危険になってくるだろう。
国家は、不正が蔓延した社会全体の行く末について考えなければならなかった筈だ。
今の被害者も相当数だが、野放しにされた結果、将来の被害者数も計り知れない。政府は規制もしなければ罰則もない方針のようだし、この被害も政府公認のようなものではないか。
実際、生成AIの技術が最も脚光を浴び、影響を及ぼす場としては戦時の情報戦がある。(おすすめしないが検索すれば出てくる)
如何に非人道的な画像を作成し、敵国がどれだけ非道なのかをアピールし自国の正当性を主張する。
だからその画像の元となるモノは、金を払ってでも欲しいわけだ。
一方で児童ポルノの捜査撹乱が起きている様に、本物の被害が覆い隠され疑われるようになる。意外でも何でもない。全て予想できたことだ。
人間が人間を売るという行為は、今も昔も世界各地で存在することだが、人として無くさなければならない課題の1つだ。
それを、実態は人工知能でも何でもない合成技術で多くの人を騙し、数多くの才ある人々を奴隷化させたことは罪深い。
この惨状は、健全な生活と平和を求めるならば、許されるべきではない。
もはや、“AI”は身勝手で想像力皆無な人間達によって最悪な印象になっている。
偽情報の氾濫により全ての情報の信頼性を地に落とし、格差と差別を助長させる社会悪、詐欺やインプレッション数稼ぎのスパム、破綻を起こさせるウイルス、秩序と文化の破壊者の様相を呈してきた。
(ついでにすさまじい電力消費量で環境破壊もしている。)
残念ながら唾棄すべき技術であり、これを是認するのは恥ずべき国と人間だ。
上記のような内容で、この前のパブコメとか色々なご意見募集に書いたんですけど、無視されちゃったのでnoteに書くことにしました。
もし賛同できるところがあれば、好きなよう使ってください 。自分の言葉にアレンジしてもいいし、引用しなくてもいいです。
口に出さない方が多い中、声を上げる人の存在はありがたい。勝手に感謝している。
![](https://assets.st-note.com/img/1701771715415-AuQIoFpE1K.jpg?width=1200)
突然ですがこれはNightshadeのファンアートなのですが、強めにCaraGrazeがかかっています。
Cara経由の加工は、現時点で1番お手軽ではないかと思ったのでご紹介します。
①まず、海外のAI禁止のイラスト投稿サイトCaraのアカウントを作り、下記のCaraGrazeの順番待ちに応募します。
順番待ち【 http://cara.app/glaze 】
②すると登録したメールアドレスに順番待ちの番号が届くので待ちます。
(自分の場合は何もしないで1日待っただけ)
③アクセスできるようになりました、とメールが届きます 。そこにGo to Dashboardと案内されるのでクリック。(Caraのappが入ってると飛べないことがあった。)
するとこのような画面になります。
![](https://assets.st-note.com/img/1701780921239-g1M4FJjS8a.jpg?width=1200)
![](https://assets.st-note.com/img/1701780933076-Rb5LEohjEA.jpg?width=1200)
④画像を選んでGrazeの強さを選択して釉薬(うわぐすり)をクリック。
⑤Grazeの処理が終わるとメールで通知され、同時にCaraに投稿されています。自分の場合は、5分もかからずに届きました。
とても手軽で早いし、スマホで出来てスペックも選びません。
しかも、Nightshadeも実装予定とのこと、最高ですね。
Caraを盛り上げていきましょう!
詳しくはこちら↓
Hi artists! Want to protect your work from style mimicry by generative AI? I'm happy to share that the long-awaited collaboration between @TheGlazeProject and @Cara_HQ is finally here!! 🥳✨
— Jingna Zhang (@zemotion) December 2, 2023
A quick thread on Cara Glaze and Glazed art in action! 👇 1/ pic.twitter.com/TpgAXJOyJ7
タイム“ラプ”スもつけておきますね。
人の畑に勝手に入ったらあぶないという、AIトコジラミさんへのメッセージです。
![](https://assets.st-note.com/production/uploads/images/123691991/picture_pc_ae84a98efd24ff271784309eed89c744.gif)
人が生み出した表現や芸術が、第三者から「奪われて当然のもの」として定着した社会に居たくないなら、フィルター等で抵抗してください。
理不尽に慣れないでください。
この記事が気に入ったらサポートをしてみませんか?