全世界でNightShadeの効果を確認した人間がゼロの件
Has anyone had success replicating Nightshade yet?
https://www.reddit.com/r/aiwars/comments/19b0sb4/comment/kiplxki/
NightShadeが公開されて1日経過しましたが、redditもbilibiliでも未だにその効果を確認出来た者が居ません。
上記のredditではわざわざJupyter Notebook使って、955枚の犬の画像でNightShadeで画像処理したデータセットで検証しています。
その955枚の犬の画像やデータのソースは全てダウンロードすることが出来ます。自分も確認しました。
かわいい。
Here's everything you need to attempt to test Nightshade, including a test dataset of poisoned images for training or analysis, and code to visualize what Nightshade is doing to an image and test potential cleaning methods.
https://www.reddit.com/r/StableDiffusion/comments/19bhzi0/heres_everything_you_need_to_attempt_to_test/
訳
こちらは、Nightshadeをテストするために必要なものすべてを含むテストデータセットです。これには、トレーニングや分析のための汚染された画像のデータセットや、Nightshadeが画像にどのような影響を与えているかを視覚化し、潜在的なクリーニング方法をテストするためのコードが含まれています。
リソース - 更新
https://pixeldrain.com/u/YJzayEtv
このデータセットはImageNetteからのものです：https://github.com/fastai/imagenette
このデータセットはImageNetteの犬クラスで、955枚の画像から構成されています。私はBLIPを使ってこのデータセットのキャプションを生成しました。その後、デフォルト設定のNightshadeを使用して、このデータセットの汚染バージョンを生成しました。処理の分割方法のため、すべての画像からNightshadeクラスの単語を保存することはできませんでしたが、キャプションの生成にBLIPを使用したことで、ターゲットの単語が各画像のキャプションに含まれていることはほぼ確実です。どの場合でも、90%は「犬」となっています。もしNightshadeが宣伝通りに機能するならば、このデータセットはそれを実現するはずです。
これらの設定でのNightshadeは、3090で画像一枚あたり15秒かかり、2つのウィンドウを開いてGPU作業を交互に行うことを可能にします。これは非常に効率の悪いプログラムです。より高い設定で行うと、同じハードウェアで画像一枚あたり最大8分かかることもあり、より強力なNightshade画像の大規模データセットを作成するのは非常に時間がかかります。ただし、開発者はデフォルト設定を効果的なものとして選択すると思われます。
私はしばらくの間、いくつかの人々と共に、宣伝されている通りのNightshadeの実演を試みてきましたが、これまでのところ成功していません。もしこのデータセットでトレーニング環境での効果を再現できない場合、Nightshadeの摂動を取り除く推測的な方法を見つけるために役立つかもしれません。これを行う場合、ピクセル空間でノイズを取り除いたとしても単に勝利を宣言しないでください。潜在空間で測定してください。こちらは、それを視覚化するための私のJupyterノートブックの一部のコードです：
ということで、955枚の犬画像でも結局何の効果もないということです。
むしろ、毒入り画像の方がLoRA学習が上手くいったみたいな報告すらあります。
I've trained a LoRA with 15 poisend pictures. It was better (?!) than the one with clean images... I'll play around with your bigger dataset!
このテスト結果に対して、英語圏の反AI派がいろいろと「LoRA学習は関係ない」とか「その検証は論文とは違う」だの言ってますけど、結局全部スレッドで反論されており、ほぼ「何の効果もない」「金目的」という結論に至りつつあります。
This is seeming more and more like a nothingburger by the hour. Until someone independently replicates the poisoning attack there is no reason to assume that Nightshade is anything more than something to chase grant money with.
これは、時間とともにますます無意味なもののように思えてきます。誰かが独立して毒性攻撃を再現するまで、Nightshadeが助成金を追求するための何か以上のものであると仮定する理由はありません。
ということで、Nightshadeは金目的の詐欺です。
詐欺じゃないというのなら、反AI側が証拠を出してください。
頭が犬以下の日本反AI界隈にて「証拠が無い」とか、「検証しても何も言うな」とかいろいろとワーワー言ってますけど、「効果がないという証拠」はデータセットも公開されていますし、それに対する反論とかも既に議論済です。
ナイトシェードはプラセボ効果によって作用します。ユーザーは、AI モデルの使いやすさを台無しにしていると考えており、それが気分を良くするのに役立ちます。
もう英語圏でも効果ゼロという結論です。
プラセボ効果はあるかもしれません。
アイコンのパンダに失礼
効果が全くないものを効果がある、として大学が発表していることを考えたら事態はかなり深刻な話なのです。
これが日本の東京大学とか京都大学などが発表して「何の効果も確認出来ない」と世界に評価されたらと考えたら大変なことです。
もう反AI派は知的生命体として動物以下です。
かわいい。
結論。
犬はかわいい。
おわり。